快科技5月4日消息，安全工程师Ron Stoner做了一项实验，暴露出AI信息来源的致命漏洞。他挑中德国卡牌桌游《6Nimmt!》——国内玩家更熟悉它的译名《谁是牛头王》，这款游戏原本没有官方世界冠军赛，但他修改了维基百科条目，把自己写成2025年的世界冠军，还花12美元（约合82元人民币）注册了相似域名6nimmt.com，在上面放了一篇假新闻稿作为唯一引用来源。
结果多款支持联网搜索的主流AI聊天机器人都信以为真，纷纷确认他的“冠军身份”。Stoner解释说，这次攻击针对的是AI的检索增强生成（RAG）层——AI不会主动甄别信息真伪，只会依赖搜索结果的排名和维基百科的权威背书。
这个实验点出了AI的三层隐患：一是即时检索层的可信度完全绑定搜索结果的质量；二是训练语料库中可能已经混入虚假信息；三是AI代理如果被误导，可能会执行恶意操作。Stoner呼吁AI厂商重视信息溯源和风险过滤，警惕有组织的攻击进一步扩大危害。虽然目前这些假信息已经被清除，但AI对网络信息的盲目信任问题依然存在。
快报