海光信息 × 清程极智异构混推白皮书国产高性价比大模型推理算力底座

海光信息和清程极智联合推出异构混推技术白皮书,核心就是用 PD 分离架构把大模型推理拆成预填充和解码两个独立资源池,解决现在长上下文