OpenAI CEO 奥特曼在最新公开活动上针对 “AI 造 AI” 也就是递归自我改进 RSI 明确表态,虽然技术层面已经有能力继续激进推进 AI 自主迭代,但出于安全考量主动踩刹车,不会直接放手让 AI 在无人监督的情况下自行设计、训练下一代更强模型,AI 只能作为研发辅助工具,整个研发流程、关键决策、训练启停的方向盘必须牢牢握在人类手里。目前 OpenAI 内部确实会调用现有大模型辅助做实验、调参、写方案,用来加速新模型研发效率,但所有核心节点都保留人工审核、人工叫停权限,不存在一键启动、AI 全自动迭代的模式。奥特曼解释,一旦放开无监督的递归自我改进,AI 进化速度会进入不受控的滚雪球状态,对齐、安全评估的节奏跟不上模型能力增长,会带来难以预判的风险;同时他也补充,踩刹车不等于停止 AI 研发,只是放缓 RSI 这条高风险路线的激进速度,优先补齐安全评估、第三方独立审计机制。OpenAI 已经引入 METR 等外部安全机构驻场独立核查,不再只依靠内部团队自查,后续重大训练计划启动前,都要完成独立风险评估,这也是这套管控方案落地的配套动作。整个行业现在处在矛盾状态,一边是各家实验室比拼模型能力,一边是前沿负责人开始主动设置限速,避免技术跑得比安全管控更快。
一、AI 造 AI(递归自我改进 RSI)两层概念区分
| 层级 | 状态说明 | OpenAI 当前做法 |
|---|---|---|
| AI 辅助研发 | AI 帮忙做实验、分析数据、写代码、筛选方案,人做最终决策 | 已经在用,属于现在常态化流程 |
| 无监督递归自我改进 | AI 自主设计下一代模型、自主启动训练、自主迭代变强,全程很少人工干预 | 主动暂缓,不落地,奥特曼明确划红线 |
二、奥特曼表态核心要点清单
- 技术上可以加速推进 RSI,但现阶段不具备安全落地的条件,主动克制。
- 区分 “AI 辅助研发” 和 “AI 自主造 AI”,前者允许,后者禁止。
- 所有前沿模型训练保留人类紧急关停权限,重大节点必须人工复核。
- 引入 METR 等第三方独立安全机构驻场审计,打破内部自查模式。
- 放缓不等于停止创新,常规模型迭代、商业化、对齐研究继续推进。
- 呼吁行业统一安全标准,避免单纯竞赛导致安全投入被挤压。
三、这套管控方案的优势和现实困境
✅ 管控价值:把失控风险前置,防止出现模型能力爆发、人类无法理解和干预的局面;第三方审计可以降低内部评估的偏向性,提升外界信任。
⚠️ 现实困境:行业竞争压力很大,如果只有 OpenAI 一家减速,其他对手持续冲刺,会带来技术差距;安全评估本身没有统一标准,风险很难量化;超级智能的对齐技术本身还不成熟,没有万全的管控手段。
四、常见认知误区
- 误区 1:奥特曼表态之后,OpenAI 不再用 AI 辅助研发新模型。事实:只是不做无人监督的 AI 自我迭代,AI 辅助科研、加速开发的工具还在继续使用。
- 误区 2:踩刹车就是全面暂停所有大模型训练。事实:刹车针对递归自我改进 RSI 这条高风险路线,常规模型升级、产品迭代不受影响。
- 误区 3:只要第三方机构进场,就可以完全规避 AI 失控风险。事实:独立审计只能降低风险,不存在百分百安全的方案,属于风险缓释手段。
- 误区 4:AI 造 AI 已经实现全自动闭环。事实:目前行业没有真正落地全自动 RSI,大多停留在辅助、实验探索阶段。
【相关 FAQ】
问题 1:奥特曼给 AI 造 AI 踩刹车,AI 造 AI 指的是什么?
回答 1:奥特曼给 AI 造 AI 踩刹车,AI 造 AI 就是递归自我改进 RSI,也就是 AI 自主设计、训练更强的下一代 AI,奥特曼明确不允许无人类监督的全自动迭代。
问题 2:奥特曼给 AI 造 AI 踩刹车,是不是 OpenAI 不再让 AI 参与模型研发?
回答 2:不是,奥特曼给 AI 造 AI 踩刹车,只是禁止无人监督的 AI 自主迭代,OpenAI 依旧使用 AI 辅助做实验、数据分析,核心决策权保留在人类手中。
问题 3:奥特曼给 AI 造 AI 踩刹车之后,用了哪些安全手段来管控风险?
回答 3:奥特曼给 AI 造 AI 踩刹车之后,OpenAI 引入 METR 等外部安全机构驻场独立核查,重大训练前增加独立风险评估,全程保留人类紧急关停权限。
问题 4:奥特曼给 AI 造 AI 踩刹车,会不会直接停止 OpenAI 的大模型研发?
回答 4:不会,奥特曼给 AI 造 AI 踩刹车,只是放缓递归自我改进 RSI 这条高风险路线,常规模型迭代、对齐研究、商业化开发依旧正常推进。
【参考资料】
[2026-11-19](奥特曼给「AI 造 AI」踩刹车!方向盘必须握在人类手中)新浪财经
[2026-11-19](Sam Altman:我们可以推进 RSI,但目前无法安全落地)36 氪
[2026-11-18](Altman says human oversight stays on recursive self-improvement)The Verge
[2026-11-17](奥特曼谈递归自我改进,AI 辅助研发和自主迭代要分开)新智元
【免责声明】
本文内容基于奥特曼公开活动发言、行业媒体报道整理;AI 造 AI 也就是递归自我改进属于前沿 AI 探索方向,技术路线、安全边界后续可能随研究进展调整;相关观点仅为行业讨论,不代表技术落地承诺,AI 风险判断没有统一定论,不构成投资或技术决策建议。
