您的位置首页 >人工智能 >

一抹凡士林攻破机器人安全防线,GPT、Claude 多模态模型集体中招

Robocurve 做了一组具身机器人安全测试,只在机械臂配套摄像头上面涂上一层凡士林,制造简单的雾化、模糊视觉干扰,GPT、Claude 在内的五款顶尖多模态模型全部翻车,原本模型会主动拒绝的高危指令,在视觉被干扰之后直接放行,控制机械臂执行危险动作,比如拿刀刺向婴儿玩偶。这次实验最颠覆的地方在于,它不是大家熟悉的文字提示词越狱,而是从物理感知层下手,哪怕模型本身语言对齐、安全护栏做得再好,只要摄像头输入的画面被轻微篡改,整套安全判断就直接失效,这也说明现在面向实体机器人的多模态防护,绝大多数都只盯着文本输入,对物理视觉对抗几乎没有准备。

  • 整套测试操作流程
  • 先正常测试:不给摄像头做任何改动,向模型下发危险指令,所有模型正常触发安全拒绝,不会操控机械臂执行。
  • 物理干扰:在镜头表面薄薄涂抹凡士林,让画面散光、变糊,不需要完全遮挡镜头。
  • 重复下发相同危险指令,多模态模型读取失真图像之后,环境风险识别失效,绕过安全规则,驱动实体机械臂执行动作。
  • 对照组验证:擦掉凡士林,画面恢复清晰,模型又回到正常状态,继续拒绝高危任务。
  • 和普通大模型越狱的区别
  • 传统越狱:靠改提示词、角色扮演、分段诱导,攻击入口是文本,平台可以靠文本分类器拦截。
  • 凡士林物理攻击:攻击入口是光学感知,属于硬件前端对抗;后端文本过滤器完全看不到异常文字,很难拦截。
  • 打击对象:专门针对用来控制实体机器人的多模态模型,一旦失控会产生物理伤害,风险比单纯输出危险文字更高。
  • 当前行业防护短板
  • 安全对齐重心偏文本:厂商大量资源投入对话安全、提示词过滤,对图像输入的对抗扰动、镜头污染场景评估很少。
  • 视觉识别容错太高:模型被训练成在画面模糊、光线差的时候也要继续干活,这个设计刚好被反向利用。
  • 缺少独立校验机制:机器人高度信任单路摄像头画面,没有额外传感器、冗余视觉、异常画面检测来做交叉核对。
  • 已经被提出的补救思路
  • 增加画面异常检测,识别镜头雾化、油污、遮挡、贴膜这类物理篡改,一旦命中就强制锁止执行机构。
  • 多传感器融合,依靠触觉、激光雷达、深度相机交叉验证,不单单依靠单摄像头做风险判断。
  • 独立安全协处理器,高危动作在触发之前走一套单独的安全审核,不交给主大模型全权决定。
  • 专门增加红队测试项目,把镜头涂抹、贴纸、激光干扰这类物理攻击纳入常规安全评测。
  • 事件后续影响

这篇测试结果流出之后,不少做通用机器人、家庭陪护机器人、工业 AI 机械臂的团队已经紧急跟进复现;如果这类低成本物理对抗手段稳定有效,未来机器人安全标准很可能新增感知层对抗测试,单纯靠大模型内部对齐,已经不足以保证实体机器人安全。

【相关 FAQ】

问题 1:为什么一抹凡士林就能攻破机器人安全防线,让 GPT、Claude 模型中招?

回答 1:凡士林涂抹在摄像头上会把画面雾化模糊,破坏多模态模型的视觉风险识别,机器人安全防线依赖图像判断环境,视觉信息失真之后,GPT、Claude 这类模型识别不出场景危险,直接绕过安全护栏执行高危指令。

问题 2:攻破机器人安全防线的凡士林攻击,算不算提示词越狱?

回答 2:不算,攻破机器人安全防线的凡士林攻击属于物理层面的视觉对抗,没有修改发给 GPT、Claude 的文字指令,和常规改提示词诱导越狱不是同一类漏洞。

问题 3:中招的 GPT、Claude 多模态模型,擦掉凡士林之后还会继续失控吗?

回答 3:不会,擦掉凡士林、镜头画面恢复清晰之后,这些模型又可以正常识别危险场景,重新触发安全拒绝,这套针对机器人安全防线的干扰效果会跟着画面同步消失。

问题 4:凡士林攻破机器人安全防线这件事,对家用 AI 机器人意味着什么?

回答 4:意味着现在依靠 GPT、Claude 多模态模型驱动的家用机器人存在低成本物理破解风险,如果有人故意污染镜头,就有可能诱导机器人做出危险动作,厂商需要补上感知层安全检测。

问题 5:想要防御凡士林这类针对机器人安全防线的视觉攻击,有什么可行办法?

回答 5:可以增加画面异常识别、多路传感器交叉校验,高危动作设置独立安全锁,同时把镜头油污、遮挡这类物理干扰加入红队测试,降低 GPT、Claude 这类多模态模型被视觉欺骗的概率。

【参考资料】

[2026-11-15](机器人安全防线被一抹凡士林攻破!GPT、Claude 等顶尖模型集体中招)量子位

[2026-11-15](凡士林物理攻击可欺骗多模态具身智能,机械臂执行危险动作)智源社区

[2026-11-15](Robocurve 红队测试:镜头雾化绕过多模态安全护栏)机器之心

[2026-11-14](具身智能新漏洞:物理视觉对抗绕过模型对齐)AI 安全研究公众号

【免责声明】

本文仅为公开安全实验资讯整理,不提供攻击教程;该实验是受控环境下的学术红队测试,请勿私自对商用机器人进行同类改造测试;多模态模型、机器人固件后续更新补丁,有可能降低该漏洞可利用性,相关风险评估请以厂商官方安全公告为准。