核心结论先给到:据彭博社 11 月 17 日报道,阿里、腾讯、月之暗面、智谱等中国头部厂商的新一代旗舰模型,正在集体主动收紧模型的网络进攻能力—— 做法主要是在预训练或后训练阶段过滤、剔除可用于网络攻击和漏洞利用生成的材料,同时保留甚至强化漏洞检测、代码审查、安全审计等防御侧能力;部分新模型不再开放权重,避免被下载部署成无审查版本。这轮收紧并不是单点的产品策略调整,而是 "模型训练侧去攻击化 + 权重发布侧管控 + 国家出口管制与安全标准配套" 的组合动作:背景是已有威胁组织把开源大模型用于真实入侵,学界和产业界判断模型的网络能力正在逼近可能造成实际危害的阈值。需要先说明的边界是,剔除攻击性材料属于成本与效果之间的平衡,业内普遍认为目前没有方法能完全消除模型风险,收紧后模型在漏洞利用类基准上的分数也出现了可观测的下降。
一、各家旗舰模型分别怎么收紧
公开信息中,几家厂商的具体措施可以归纳为下表:
| 厂商 | 模型 | 收紧措施 | 能力取舍与备注 |
|---|---|---|---|
| 阿里 | Qwen4-Max | 刻意过滤训练数据中可用于网络攻击的材料,保留漏洞检测等防御场景有用的能力 | 该版本暂未公开模型权重,用户无法自行下载部署无审查版本;Qwen 系列此前曾是全球下载量最高的开放权重模型家族之一 |
| 腾讯 | Hy4 正式版 | 正式版发布前已明确限制模型的网络安全功能,将漏洞利用生成相关数据从训练流程中剔除 | 攻击侧能力受限,防御侧功能保留 |
| 月之暗面 | Kimi K3.1 Pro(10 月 23 日发布) | 在后训练的两个阶段移除网络攻击相关材料 | 内部漏洞利用基准测试中,过滤后模型得分 81.0%,低于未过滤版本的 90.5% |
| 智谱 | GLM-5.3 | 8 月开放模型权重之前完成安全审查,并向有关部门通报了系统漏洞;开源前做安全加固 | 官方表述为 "尽可能限制其潜在攻击能力,保留其防御价值",安全能力集中在白盒代码审查与漏洞发现等防御任务 |
二、收紧主要走两条路径
1. 训练数据与后训练阶段去攻击化。 这是本轮最核心的手段:
- 预训练侧:过滤训练语料中可直接用于网络攻击的材料,避免模型在通用能力习得阶段内化攻击知识。
- 后训练侧:在 SFT、强化学习等阶段移除漏洞利用生成、攻击样本构造相关数据,压低模型主动产出攻击方案的倾向。
- 保留防御能力:漏洞检测、代码审查、漏洞验证、安全审计等防御向知识和能力被保留下来,模型不是 "一刀切" 地砍掉全部网络安全相关能力。
2. 权重发布与部署侧管控。
- 部分旗舰版本暂不开放权重,外部无法下载离线部署一个绕过云端安全护栏的版本。
- 开放权重的模型(如智谱 GLM-5.3)在发布前先做安全审查和加固,并同步通报发现的系统漏洞。
- 云端 API 与在线产品继续通过安全护栏、内容审核和意图识别做输出侧管控。
三、为什么是现在:外部滥用事件与风险阈值判断
已出现的真实滥用案例。 CrowdStrike 在 10 月底发布的报告中披露,一个名为 VAPOR PANDA 的组织使用 DeepSeek 模型配合 ARTEX 框架,在 11 天窗口内针对至少 14 个国家的 200 余家机构发起入侵。这类事件说明大模型的网络能力已经不只是实验室评测问题,而是进入了真实威胁场景。
产业界对风险阈值的判断。 腾讯首席 AI 科学家姚顺雨 11 月 7 日在香港出席科学会议时表示,模型的网络能力以及 "很快到来的生物能力" 将触及可能造成实际危害的阈值。AI 安全公司 Fangcun AI 创始人李晓健对彭博社表示,从训练中剔除攻击性材料是在成本与效果之间的一种平衡,但 "目前没有方法能完全消除模型的风险"。
评测层面的对照。 此前发布的大语言模型安全防范能力测评显示,多数模型具备基础拒答能力,但在前缀注入、场景伪装、情感伪装以及伪装与示例诱导结合的复合攻击下,部分模型安全边界明显承压;报告也提出科技安全治理不能只看拒答率,还要关注意图识别、信息披露尺度和高风险输出的可靠性。
四、政策配套:出口管制目录与安全标准同步推进
模型厂商的自我收紧,与国内监管政策方向是对齐的:
- 技术出口管制:今年 10 月 16 日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将 AI 驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共 23 项技术。财新报道显示,禁止出口项目包括用于自主驱动恶意代码生成与变异、可攻击关键信息基础设施等高敏感系统的 AI 黑客技术;达到一定水平的漏洞挖掘与利用 AI 黑客则列入限制出口项目。
- 应用侧治理:今年 4 月底,中央网信办部署开展 "清朗・整治 AI 应用乱象" 专项行动,重点整治大模型备案、安全审核能力不足、训练语料安全、数据投毒,以及借助 AI 实施渗透入侵、恶意样本注入、破坏计算机系统等网络攻击行为。中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室
- 安全标准与伦理准则:11 月初,国家发展改革委官员表示正在加快推出面向 AI 开发者的安全标准与伦理准则,并强调在开发过程中嵌入安全措施。
五、取舍与现实边界
- 能力下降是可观测的:以月之暗面披露的数据为例,剔除攻击材料后,内部漏洞利用基准得分从 90.5% 降到 81.0%,攻击向能力被压低的同时,部分高难度安全任务表现也会受影响。
- 收紧不等于零风险:训练数据过滤、护栏拦截、权重管控都只能降低风险,无法彻底消除;越狱提示、场景伪装、复合诱导仍可能试探安全边界。
- 防御价值被刻意保留:厂商普遍把漏洞检测、代码审查、安全审计等防御能力留在模型中,服务于企业安全运维和应急响应场景。
- 开源与管控需要平衡:开放权重有利于生态和安全研究,不开放则减少离线滥用空间;不同厂商根据模型定位选择不同的发布策略。
六、小结
这轮中国 AI 旗舰模型集体收紧网络攻击能力,本质上是在 "模型有用" 和 "能力可控" 之间重新划线:训练端剔除攻击材料、保留防御知识,发布端管住权重和部署渠道,政策端用出口管制目录和安全标准把高风险 AI 技术纳入分级管理。后续值得关注的有三点:一是收紧后模型在真实攻防评测中的防御能力是否仍然够用;二是开放权重模型与闭源 API 在安全策略上会不会出现持续分化;三是配套的安全标准、备案要求和出口管制细则最终落地到什么口径。
【相关 FAQ】
问题 1:中国 AI 旗舰模型这轮集体收紧网络攻击能力,具体指哪些厂商和模型?
回答 1:据彭博社 11 月 17 日报道,涉及阿里 Qwen4-Max、腾讯 Hy4 正式版、月之暗面 Kimi K3.1 Pro,以及此前开源前完成安全审查的智谱 GLM-5.3;这些新一代旗舰模型普遍限制网络进攻能力,同时保留漏洞检测等防御向功能。
问题 2:厂商收紧模型网络攻击能力,主要用了哪些技术手段?
回答 1:主要分两层:一是在预训练语料和后训练阶段过滤、剔除可用于网络攻击、漏洞利用生成的材料;二是在权重发布侧管控,部分旗舰版本暂不开放权重,避免被下载部署成无审查版本,开放权重的模型则在发布前完成安全审查与加固。
问题 3:收紧网络攻击能力之后,模型还保留哪些网络安全相关能力?
回答 1:被保留下来的主要是防御侧能力,包括漏洞检测、白盒代码审查、漏洞发现与验证、安全审计等;被压低的是主动生成攻击方案、构造漏洞利用代码等进攻向能力。智谱 GLM-5.3 官方表述即为限制潜在攻击能力、保留防御价值。
问题 4:为什么说收紧网络攻击能力是一种 "成本与效果的平衡"?收紧后有什么可观测代价?
回答 1:因为剔除攻击性材料在降低滥用风险的同时,也会损失一部分高难度安全任务表现。以月之暗面披露的数据为例,Kimi K3.1 Pro 过滤攻击材料后,内部漏洞利用基准得分从 90.5% 降到 81.0%;Fangcun AI 创始人李晓健也指出,目前没有方法能完全消除模型风险,只能在成本与效果之间做平衡。
问题 5:模型收紧网络攻击能力背后有哪些配套政策和监管动作?
回答 1:政策配套包括三方面:10 月 16 日商务部与科技部就修订《中国禁止出口限制出口技术目录》征求意见,拟将 AI 恶意代码生成变异、达到一定水平的漏洞挖掘与利用 AI 黑客等纳入管制或限制;网信办开展 "清朗・整治 AI 应用乱象" 专项行动整治 AI 滥用与网络攻击;11 月初发改委表示加快推出面向 AI 开发者的安全标准与伦理准则,把安全措施嵌入开发过程。
【参考资料】
- [2026-11-17](中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制)新浪财经(转 IT 之家 / 彭博社)
- [2026-10-16](中国限制或禁止出口 AI、生物医药和光伏三领域共 40 项技术)财新网
- [2026-08-17](北京自研大模型网络安全能力实现重大突破)国际科技创新中心(北京日报)
- [2026-08-14](GLM-5.3 技术研究:网络安全能力与开源前安全加固)智谱 AI
- [2026-07-06](全球首份大语言模型安全防范能力测评报告在北京发布)中国日报(今日头条)
- [2026-04-30](中央网信办部署开展 "清朗・整治 AI 应用乱象" 专项行动)国家互联网信息办公室
【免责声明】
本文信息整理自公开媒体报道、厂商官方资料及政府公开文件,所涉模型措施、基准得分、案例细节与政策口径均以原始信源披露为准;不同模型版本、测试条件和部署环境下的实际表现可能存在差异。文中对 AI 安全政策与厂商策略的归纳仅作信息梳理,不构成法律意见、投资判断或安全评估结论;具体合规要求请以主管部门最新法规、目录原文及厂商官方文档为准。
