您的位置首页 >科技要闻 >

英特尔联合 RadixArk 深度优化 SGLang,打通英特尔硬件 AI 推理规模化部署

英特尔和 SGLang 维护方 RadixArk 达成深度合作,专门针对英特尔全系硬件优化 SGLang 开源推理框架,目标就是让企业和开发者可以直接在英特尔 CPU、GPU、AI 加速器上低成本、低延迟、高吞吐跑主流大模型,不用再做大量适配改造,加速 AI 业务从测试走向规模化生产落地。这次优化不是单独做一个封闭版本,所有优化代码都会合并进 SGLang 上游开源社区,所有开发者都能直接使用,核心是解决现在企业落地 AI 的痛点:很多大模型在英特尔平台上适配慢、推理延迟高、算力资源利用率差,想做规模化集群部署要投入大量定制开发工作。

合作覆盖硬件范围

  • 英特尔至强(Xeon)CPU,充分调用 AMX 高级矩阵扩展指令集
  • 英特尔数据中心 GPU
  • 英特尔各类 AI 专用加速器

核心优化方向

  1. 内核层面调优:针对英特尔硬件编写适配的计算内核,支持 FP8、BF16、INT8 等量化推理,提升 MoE 混合专家模型的运行效率
  2. 调度与并行优化:支持多 NUMA 节点并行、张量并行,提升集群分布式推理能力
  3. Day-0 模型支持:新发布主流大模型上线时,同步在英特尔硬件上完成 SGLang 适配,减少开发者等待适配周期
  4. 复用 SGLang 原生能力:保留 RadixAttention 前缀缓存、连续批处理、推测解码这些 SGLang 自带的高性能能力

落地带来的实际好处

  • 开发者:减少适配工作量,一套 SGLang 代码可以跨英特尔异构硬件部署,上线速度更快
  • 企业:充分利用现有英特尔服务器资产,不用全部更换算力硬件,降低 AI 推理成本
  • 生态:进一步拓宽 SGLang 硬件适配版图,SGLang 不再只偏向 GPU,在 x86 服务器集群的生产场景可用性大幅提升

后续落地方式

开发者直接拉取 SGLang 官方上游版本,不需要单独下载英特尔定制分支;后续官方会持续迭代内核、补齐更多模型适配,放出对应的基准测试数据,方便大家评估性能。

【相关 FAQ】

问题 1:英特尔联合 RadixArk 优化 SGLang,SGLang 是什么?

回答 1:SGLang 是 RadixArk 维护的开源 AI 推理服务框架,主打低延迟、高吞吐,支持大语言模型、多模态模型,这次英特尔联合 RadixArk 优化 SGLang,就是把这套推理引擎适配到英特尔全系列硬件上。

问题 2:英特尔联合 RadixArk 优化 SGLang 之后,只能在英特尔 GPU 上面跑吗?

回答 2:不是,英特尔联合 RadixArk 优化 SGLang 覆盖英特尔 CPU、GPU、AI 加速器,其中至强 CPU 配合 AMX 指令集是重点优化方向,支持异构混合部署。

问题 3:英特尔联合 RadixArk 优化 SGLang 的代码会不会闭源?

回答 3:不会,英特尔联合 RadixArk 优化 SGLang 产生的所有优化代码都会提交到 SGLang 上游开源仓库,所有开发者免费使用,不会单独做私有闭源运行时。

问题 4:英特尔联合 RadixArk 优化 SGLang 对 AI 规模化落地有什么帮助?

回答 4:英特尔联合 RadixArk 优化 SGLang,实现主流模型 Day-0 适配,提升英特尔服务器算力利用率,企业可以复用现有 x86 服务器集群跑推理,降低规模化部署 AI 的硬件成本和开发成本。

【参考资料】

[2026-11-16](英特尔携手 RadixArk,优化英特尔平台上的开源 AI 推理框架)电子工程世界

[2026-11-12](Intel, RadixArk Collaborate to Advance Open AI Inference on Intel Platforms)Intel Corporation

[2026-11-13](Intel, RadixArk Partner to Optimize Open-Source SGLang AI Inference)Electronicsclap

[2026-11-12](Intel is optimizing SGLang for its chips with RadixArk)The Circuitry

【免责声明】

本文信息仅基于公开新闻资料整理,不构成技术选型、采购投资建议;相关性能指标、适配范围以英特尔、RadixArk、SGLang 官方后续发布的正式文档与基准测试结果为准;开源框架功能、硬件适配版本会持续迭代更新,请以上游仓库最新版本为准。