扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着 Gemini-Diffusion，Seed-Diffusion 等扩散大语言模型（DLLM）的发布，这一领域成为了工业界和学术界的热门方向。但是，当前 DLLM 存在着在推理时必须采用预设固定长度的限制，对于不同任务都需要专门调整才能达到最优效果。
llm推理
NVIDIA TensorRT-LLM 现支持 Recurrent Drafting，实现 LLM 推理优化
Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术，该技术现在可与NVIDIA TensorRT-LLM一起使用。ReDrafter 帮助开发者大幅提升了 NVIDIA
从本地部署到企业级服务：十种主流LLM推理框架的技术介绍与对比
大语言模型（Large Language Models, LLMs）的部署是一项具有技术挑战性的工作。随着模型架构日益复杂，以及硬件需求不断提升，部署过程变得愈发复杂。业界已经发展出多种解决方案，使LLM的部署和扩展变得更加便捷。从适用于个人开发的轻量级本地部