首页
科技金融
科技要闻
人工智能
5G/通信
互联网
手机
数码
家电
机器人
IT资讯
半导体
标签 >
PD分离AI推理吞吐提升21.7%,TTFT降低约50%
PD 分离 AI 推理实测吞吐提升 21.7%,首 Token 时延 TTFT 下降约 50%
PD 分离也就是 Prefill-Decode 预填充和解码分离推理架构,在本次基于 DeepSeek-V4-Flash 模型、4 节点 32 卡、2P2D 部署、64 并
2026-11-17 10:59:58