吞吐预留(原 TPM 预留,PTU)是百炼面向生产高可用的资源预留能力,核心就是提前锁定专属输入 / 输出 TPM(Tokens Per Minute),在预留额度内不受公共池的限流、排队、抢占影响,适合客服、实时问答、固定峰值的线上业务;和普通按量 Token 计费最大区别:按量是 “有资源就跑、没资源就限”,吞吐预留是平台为你单独预留推理资源池。
一、基础概念
TPM:每分钟 Token 处理量,单位 kTPM,1 kTPM = 1000 Token / 分钟,区分输入 TPM、输出 TPM,分开配额、分开计价。
两个性能档位:
- 标准模式(ptu_default):和公开 API 同等 TPS,支持按天、按 8 小时时段预付费,8 小时包有折扣;
- 高速模式(ptu_fast / PTU):预置吞吐单元,生成 TPS 提升约 1.5–2 倍,延迟更低,适合高并发、长输入场景,默认后付费按小时结算。
二、核心特性
- 专属容量隔离:预留 TPM 属于独立资源,不和其他租户共享;额度内调用优先保障,不会因为平台整体流量上涨被限流 429。
- 专属 ModelCode:创建成功生成独立模型 Code,API 请求里 model 参数必须替换为该 Code,才会走预留通道;同一个预留可以叠加多个容量实例,共用同一个 Code,容量自动叠加。
- 两种溢出策略(创建时选定)
- ✅ 自动溢出(默认):超过预留 TPM 的请求自动切到按量计费通道,业务不中断,超额部分按 Token 扣费;
- ✅ 仅预留容量:超出配额直接返回 429,不会产生额外按量费用,适合严格控成本场景。
- 灵活周期:标准模式支持 8 小时短时包、按天预付费;高速模式默认按小时后付费;支持自动续费。
- 配套监控:控制台可查看预留实例的输入 / 输出使用率、排队、429、溢出流量,方便调优容量。
- 限制:不是所有模型都开放吞吐预留,以控制台模型下拉列表为准;不支持单独给思考链输出分配独立配额。
三、计费规则(重点)
核心红线:一旦创建成功立即计费,无论有没有调用,费用照常产生,不会因为实际 Token 用量减免
- 标准模式预付费
- 8 小时时段包:一次性扣费,固定 8 小时,9 折优惠,到期直接失效,没有续费宽限期;适合短期大促、活动峰值;
- 按天包:预付费一次性支付;到期后有宽限期:到期 0–2h 可正常续费;2–14h 服务暂停、仍可续费;超过 14h 资源直接释放,无法恢复。
- 高速模式(PTU)后付费:按小时计费,按当前预留输入、输出 TPM 规格出账,随用随停。
- 退订扣费:预付费实例提前退订,已使用时段会按 1.2 倍折算结算,退款金额会相应扣减;退订后 ModelCode 失效。
- 叠加扩容:新增容量实例,单独计费,和原有实例叠加总吞吐;可以单独对某一个实例做扩缩容、续订、释放。
- 附加开销:预留只覆盖推理吞吐;图片、视频、存储、公网流量、知识库向量存储单独计费;溢出到按量的流量按百炼正常 Token 单价。
四、创建操作流程
前置条件:开通百炼、进入业务空间、账号余额充足。
- 登录百炼控制台,进入「吞吐预留(TPM 预留)」菜单;
- 点「创建吞吐预留」,填写名称;
- 选择基座模型、性能模式(标准 / 高速);
- 设置输入 kTPM、输出 kTPM,右侧计算器可以预估费用;
- 选择付费周期、是否开启自动续费;
- 选定溢出策略:自动溢出 / 仅预留容量;
- 确认订单并支付;
- 创建完成,在详情页复制专属 ModelCode;
- 修改业务侧 API:将 model 参数替换为该 Code,使用原有 API Key 即可接入预留通道。
提示:输入、输出 TPM 需要匹配模型的步长约束,不符合规格会校验失败。
五、管理操作清单
| 操作 | 说明 |
|---|---|
| 查看监控 | 查看每个实例的吞吐使用率、溢出量、限流、延迟指标 |
| 叠加容量实例 | 在已有预留下新增容量,复用同一个 ModelCode,总容量相加 |
| 单实例扩缩容 | 修改某个实例的输入 / 输出 TPM;预付费实例扩缩会重新计价 |
| 续费 / 自动续费 | 按天包支持续费;8 小时包不支持续费 |
| 修改溢出策略 | 随时切换溢出策略,不用重建预留 |
| 释放 / 退订实例 | 单个实例释放,不会影响同预留下其他实例;全部实例释放后 ModelCode 作废 |
| OpenAPI / CLI | 支持通过接口创建、扩缩、查询、释放,适合自动化运维 |
六、选型对比(什么时候选吞吐预留)
✅ 适合:线上生产、有明确峰值、不能接受随机限流、客服、实时对话、固定并发服务;
⚠️ 不适合:偶尔跑测试、流量极不稳定、原型验证;这类场景优先普通按量或者免费额度;
对比:普通按量 = 按需抢资源;Token Plan = 包额度按量折扣;吞吐预留 = 花钱锁定资源确定性。
【相关 FAQ】
问题 1:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,吞吐预留和普通按量调用的核心区别是什么?
回答 1:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,按量是抢公共资源,高峰期可能限流排队;吞吐预留是提前锁定专属 TPM 资源,额度内保障稳定;并且吞吐预留是创建即计费,闲置也要收费,按量只按实际产生 Token 扣费。
问题 2:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,使用吞吐预留是不是直接填原来的模型名称?
回答 2:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,不是;创建吞吐预留之后平台会生成专属 ModelCode,API 请求 model 参数必须换成这个 Code,请求才会走预留通道,填原始模型名仍然走公共按量池。
问题 3:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,溢出策略选 “仅预留容量” 会怎么样?
回答 3:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,流量超过预留输入 / 输出 TPM 上限时,请求直接返回 429,不会自动切按量,不会产生额外 Token 费用,但业务会报错;适合预算严格、不允许超支的场景。
问题 4:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,预付费的吞吐预留提前退订怎么扣费?
回答 4:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,预付费实例提前退订,已经使用的时段会按 1.2 倍折算计费,退款会扣除这部分费用;退订后该容量实例失效,如果是最后一个实例,对应的专属 ModelCode 也失效。
问题 5:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,8 小时时段包有没有续费宽限期?
回答 5:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程,8 小时时段包到期之后直接失效,没有续费宽限期;只有按天的预付费预留才有最长 14 小时的续费窗口期。
【参考资料】
[2026-11-05] 阿里云帮助中心:吞吐预留(TPM 预留)文档
[2026-11-07] 阿里云开发者社区:阿里云百炼 AI 模型平台
【吞吐预留 / TPM 预留】介绍、特性、计费、创建与管理操作流程
[2026-10-28] 阿里云帮助中心:PTU 吞吐预留 API、CLI 文档
[2026-11-03] 阿里云帮助中心:高速 PTU 预置吞吐、长输入缓存说明
【免责声明】
本文信息基于百炼官方文档整理;支持吞吐预留的模型、TPM 步长、单价、宽限期、折扣活动随时调整,最终以控制台下单页、账单和官方帮助文档为准;吞吐预留属于预分配资源,购买前务必评估业务峰值,避免闲置成本;高速 PTU、长输入场景有额外容量系数规则。
如果你想要,我可以给一份 Python 调用吞吐预留 ModelCode 的示例,以及流量预估、TPM 测算模板。
