首页
科技金融
科技要闻
人工智能
5G/通信
互联网
手机
数码
家电
机器人
IT资讯
半导体
标签 >
一句话回复的功耗,端侧模型怎么分成两段
端侧模型一句话回复功耗按 Prefill、Decode 两段拆分方案
端侧模型生成一句简短回复的时候,整体功耗天然拆成 Prefill(提示词处理)和 Decode(逐 Token 生成)两个阶段,两段功耗特征完全不一
2026-11-13 18:58:30