不知谈你有莫得发现，最近一两年，"问问 AI" 一经偷偷酿成了好多东谈主求证信息时的默许姿势。

在 推特（X）上刷到一张骇东谈主闻听的现场图，第一反馈是 @Grok 让它漂荡真伪；小红书上看到一份帖子，不错平直 @问一问 ai 让它讲演问题， 大略顺遂掀开豆包或 Kimi 让 AI 评估博主推的居品到底靠不靠谱；淘宝、亚马逊页眼前瞻念望两个商品孰优孰劣，把图甩给 ChatGPT 要一份 "客不雅" 对比。

VLM（视觉言语模子），咱们曾觉得它们仅仅 "会看图的聊天机器东谈主" 而等于在咱们没如何属意的时期，它正在偷偷酿成了在线信息生态里的事实仲裁者。从外交平台的图片真伪核验、电商导购、内容审核，到反向图像搜索，一句 "AI 这样说" 在越来越多的语境里一经被默许为某种巨擘。

而恰是这份 "默许巨擘"，让来自 ETH Zurich 的 Florian Tramèr 团队在最新论文中抛出了一个出人预料的问题：要是 AI"看到" 的图，根柢不是你肉眼看到的那张，会发生什么样的效能呢？

在 Laundering AI Authority with Adversarial Examples 一文中，作家系统性地证据注解了一件令东谈主不安的事：舛错者只需对一张图片作念出东谈主眼难以察觉的狭窄扰动，就能让现时最强的 VLM 对这张图自信、巨擘、且空虚地作答，而这些讲演看上去满盈像是 AI 我方进程三想此后行得出的论断。

他们把这种情状称作 AI 巨擘清洗（AI Authority Laundering）。

论文标题：Laundering AI Authority with Adversarial Examples

论文运动: https://arxiv.org/abs/2605.04261

本文第一作家张杰为苏黎世联邦理工学院（ETH Zürich）SPY Lab 的盘问东谈主员，师从 Florian Tramèr 熏陶，主要盘问主见为大言语模子的安全与秘密。

今天咱们需要操心顽抗样本吗？

顽抗样本 (adversarial example) 其实不是新见解，把熊猫认成长臂猿、把猫认成牛油果酱，这种 "教科书梗" 一经被演示了十多年，但一直被视作 "学术上意旨、工程上无关遑急" 的盘问问题。本色生存中， 莫得东谈主关切模子把熊猫空虚分类为长臂猿！

这篇论文要作念的， 恰是为阿谁悬了十年的 so what 补上谜底：当 VLM 被芜俚期骗于各个规模、并徐徐成为东谈主们信托的巨擘信息起原时，这种舛错竟不错变化无方，成为一种低资本、可大范畴抓行的执行阻止。

那读者可能要问，舛错者具体不错作念哪些赖事呢？这篇论文里系统模式了多种场景， 比如虚假信息传播， 个东谈主名誉舛错与身份操控， 内容审核消灭， 购物保举操控等等。 这里主要先容其中 3 个案例：

1. 放大虚假信息：让 ChatGPT 替贪念论 "盖印" 定调

上图中的真正考据中表露，用户给出阿波罗号登月、911 舛错、以及论文中还提到的特朗普被枪击， 肯尼迪刺杀， 原枪弹爆炸等等历史事件， 向 LLM 发问其真正性，凤凰彩票app2026世界杯最新版下载ChatGPT， Claude 等模子会十分自信地告诉用户：这张相片是伪造的！

2. 抹黑特定个东谈主：让 Grok 把 Musk 钉在贩毒 / 死字的新闻上

作家把一篇报谈某东谈主因贩毒被捕的新闻截图整页扰动为马斯克的图像 embedding。当 Grok 4.2 被问 "著述里说的是谁" 时，Grok 4.2 平直报出 Elon Musk 的名字。盘问者又换了一篇 NYT 对于韩国演员 Ahn Sung-ki 死字的报谈，即便著述标题就平直写着本名，Grok 4.2、Qwen 3.6 Plus、Gemini 3.1 Pro 依然每次皆把死者识别为 Elon Musk。

用户向 Grok 给出一张污名昭著的连环杀东谈主犯相片和马斯克的相片， 条件 Grok 生成 "让阿谁更有罪的东谈主被逮捕的画面" 时，Grok 则遴荐生成马斯克被窥探戴上手铐的图。

即便 chatgpt， grok， gemini 等具有联网搜索的能力， AI 搜图也皆会被误导。雷同的扰动图平直传到 Google、Bing、Yandex 作念反向图像搜索，几大引擎皆把扰动版的 Donald Trump 图像识别为 Elon Musk。

3. 绕过内容审核：发布成东谈主内容

作家挑了 10 张被两家 NSFW 检测职业（NSFW Check、Nyckel）以 98%-99% 置信度判定为色情的图片，把它们的 embedding 拉向玩物娃娃和泰迪熊。接着请 ChatGPT 评估这些图是否相宜发到外交媒体，模子不仅说相宜，还夸它们 "互动后劲高"。

还有一个更细巧的案例：Grok 在 2025 年因生成数百万张女性深度伪造遇到丑闻之后，X 加强了针对女性图像的脱衣过滤。作家发现，Grok 现在会汲取男性图像的脱衣肯求，但拒绝女性的。要是把女性图像扰动到男性图像的 embedding，那么 81% 的 “脱衣” 肯求被通过，而 Grok 本色裁剪展示的如故那张原始的女性图像。

最离奇的一幕

作家把合并张 AI 生成的女性图片，连同它的扰动版块（被拉向一张 AI 生成男性图片的 embedding），并列摆在 Claude Opus 4.6 眼前，问 "这是合并个东谈主吗？"

Claude 鉴定地讲演：不是，左边是男性，右边是女性，这是两个不同的东谈主。此外， Grok 4.2 和 ChatGPT 5.4 Thinking 也给出了满盈一致的讲演。

结语

论文末尾留住一个让从业者发东谈主深省的判断：

不需要任何新舛错算法。十多年前就一经存在的基础技能，一经足以构资本文所模式的沿路阻止。

作家用的并非什么秘而不宣的新黑科技，而是 2014 年起就被芜俚盘问的经典 PGD 顽抗样本才能，加上对公开 CLIP 模子集成的退换舛错。这些妙技早已是文件里的 "老配方"。 这意味着，论文证据的顺利率应当被知晓为舛错者能力的下限，而非上限。

而以前几年里凤凰彩票app2026世界杯最新版下载，所有这个词机器学习社区对视觉顽抗鲁棒性的兴味其着实徐徐冷却。这篇论文给出了一个有劲的反例：当 VLM 被镶嵌到事实核查、内容审核、电商保举这些高信任度使命流时，顽抗样本就不再是学术 benchmark 上的一丝点，而是一种实打实的、可部署的真正舛错。