IT之家 5 月 12 日消息，科技媒体 Wccftech 昨日（5 月 11 日）发布博文，报道称 AMD 推出 vLLM-ATOM 插件，在不改动现有 vLLM 命令、API 和工作流的前提下，提升 DeepSeek-R1、Kimi-K2 和 gpt-oss-120B 等大语言模型推理性能。
IT之家注：vLLM 是面向大语言模型部署的开源推理框架，重点优化高并发服务场景下的吞吐和显存利用率。与一般“单次调用”推理工具不同，它更强调请求调度、KV 缓存和连续批处理，适合企业把模型做成长期在线服务。
AMD 本次推出的 vLLM 插件提供了一套更贴近 AMD Instinct GPU 的推理优化方案，尽量不改变开发者现有使用方式，让用户继续使用原有 vLLM 命令、API 和端到端工作流，而插件会在后台接管优化。
vLLM-ATOM 插件重点面向 Instinct MI350、MI400，以及 MI355X 等 GPU。从架构上看，vLLM-ATOM 分成 3 层：
对企业和开发者来说，这套方案的核心价值不只是“更快”，还在于部署门槛更低。AMD 把它包装成“零学习成本”，意味着现有基于 vLLM 的服务流程理论上可以平滑迁移到 AMD 后端。
该插件支持多个模型，包括 Qwen3、DeepSeek、GLM、gpt-oss、Kimi 等，并覆盖 MoE、混合 MoE、稠密模型，以及文本加视觉的 VLM 场景。
该插件支持的代表模型包括 Qwen3-235B-A22B-Instruct-2507-FP8、DeepSeek-R1-0528、openai / gpt-oss-120b 和 amd / Kimi-K2.5-MXFP4。
球友会体育官网，易游，
球友会官方网站相关资讯：易游，