谷歌研究员被群嘲:LaMDA有人格是胡说八道

品玩

品玩

· 6月14日

跟统计机器谈感情,你就输了。

图片来源@视觉中国

图片来源@视觉中国

钛媒体注:本文来源于微信公众号硅星人(ID:guixingren123),作者 | 杜晨,编辑 | VickyXiao,钛媒体经授权发布。  

什么?AI 具备人格了??

谷歌前不久搞出来了一个超大规模语言模型 LaMDA。公司里有个研究员 Blake Lemoine 跟它聊了很久,对其能力感到十分惊讶,于是下了个结论:LaMDA 可能已经具备人格了。(原话用的词是 sentient,在不同的语境下可以被翻译为感情、智慧、知觉等。)

很快,这位仁兄就被“带薪休假了”。

但他不是一个人:就连公司 VP Blaise Agüera y Arcas 都在发表文章,表示 AI 在获得意识方面实现了巨大进步,“已经进入了一个崭新时代。”

消息经过一众媒体的报道,震撼了整个科技世界。不仅学术和工业界,就连很多普通人,都对 AI 技术的飞跃大吃一惊。

“这一天终于来了?”

“孩子们(如果你们将来还能活下来的话),请记住,这就是一切的开始。”

然而,真正的 AI 专家们,却对此嗤之以鼻。

AI具备人格?众大佬嗤之以鼻

斯坦福 HAI 中心主任 Erik Brynjolfsson 直接把这件事比喻为“面对留声机的狗”,他发推表示:

“基础模型 (foundation models,也即自我监督的大规模深度神经网络模型) 非常擅长做的一件事,就是根据提示,将文本采用统计学上合理的方式串起来。

但是如果你说他们是有知觉的,就好比狗听到留声机里的声音,以为它的主人在里面一样。”

纽约大学心理学教授 Gary Marcus,同时也是一位颇为知名的机器学习和神经网络专家,还直接撰文吐槽 LaMDA 具备人格 “胡说八道” (Nonsense)。[1]

“简直是扯淡。无论是 LaMDA 还是它的近亲们(比如 GPT-3)都没有什么智能。它们所做的只是从人类语言的大规模统计数据库当中提取,然后匹配模式。

这些模式可能很酷,但这些系统说出的语言,实际上根本没有任何的意义,更不可能意味着这些系统是有智慧的。”

翻译成白话就是:

你看着 LaMDA 说的话都特别有哲理,特别真实,特别像人——然而它的设计功能就是模仿别人说话,它其实根本不知道自己在说什么。

“具备知觉 (to be sentient) 的意思是意识到你在这个世界里的存在。LaMDA 并没有这样的意识,” Marcus 写道。

如果你以为这些聊天机器人具有人格,那么有幻觉的应该是你……

比如在拼字游戏比赛当中,经常能看到母语非英语的玩家拼出英文单词,却根本不知道单词是什么意思——LaMDA 也是如此,它只是会说话,却根本不知道自己说的话是什么意思。

Marcus 大佬直接把这种对于 AI 获得人格的错觉,形容为一种新型的“空想性错觉”,也即把天空中的云看成龙和小狗,把月球上的陨石坑看成人脸和月兔。

AI 学术界新星之一,Mozilla 基金会高级研究员 Abeba Birhane 也表示:“带着最小限度的批判思维,我们终于登上了AI炒作的巅峰。”

Birhane 是所谓的 “AI 知觉论” 的长期批评者。她在一篇发表于2020年的论文里,曾经直接提出了以下几个观点:

1)大家天天炒的 AI 并不是真的 AI,而是统计学系统,是机器人 (robot);

2)我们不应该赋予机器人权利;3)我们甚至压根就不应该讨论是否要赋予机器人权利……

比利时 Donders Institute 计算认知科学教授 Olivia Guest 也加入了“战局“,称整个事情的逻辑是错乱的。“‘我看到的东西像人,因为我按照人的样子开发的它,所以它是一个人’——简直是倒骑驴的逻辑。”

英国谢菲尔德大学机器人学院教授 Roger Moore 指出:人们会有 “AI 获得人格”的这种错觉,一个最关键的原因就是当年的那帮研究员非要管这项工作叫做“语言建模”。

正确的叫法应该是“词序建模”(word sequence modelling)。

“你开发了一个算法,却不用它实际能做的事情去命名,而是用你想要解决的问题——这样总是会发生误会。”

总而言之,各位业界大牛的结论就是:你最多可以说 LaMDA 能够高分通过图灵测试。说它具备人格?那可真是太搞笑了。

更何况就连图灵测试的参考价值也没那么高了。Macus 直言,很多 AI 学者希望这个测试被取消、被人们遗忘的原因,正是因为它利用了人类容易上当,倾向于将机器当作人的这一弱点。

华盛顿大学的计算机语言系主任 Emily Bender 教授,干脆做了一个“AI 人格意识争论”的宾果卡:

(这个宾果卡的意思就是,如果你认为 AI 有人格/知觉,并且你的论据是下面的其中一种,那你最好就别聊了!)

原版:

谷歌也回应:别想多,它就是会聊而已

那位被指为”走火入魔“的研究员 Blake Lemoine 在自己发表的一篇文章中,批评谷歌对于了解自己开发成果的真实情况“没有兴趣”,然而自己在长达6个月的对话事件当中,看到 LaMDA 对于自己想要的东西,特别是“自己作为人的权利”,表达的越来越清晰,使得自己相信 LaMDA 真的是人。

然而在谷歌看来,这位研究员完全想多了,甚至有点走火入魔了。LaMDA 真的不是人,它纯粹就是特别会聊天而已……

事情在社交网络上发酵之后,谷歌很快作出了回应:

LaMDA 和公司近几年的大型 AI 项目一样,都经过了多次严格的 AI 道德方面的审核,对其内容、质量、系统安全性等进行了多方面的考量。今年早些时候,谷歌也专门发表了一篇论文,公开了 LaMDA 开发过程当中的合规细节。

“在 AI 群体内,对于具备感知的 AI/通用 AI 的长期可能性,确实有一些研究。然而在今天把对话模型来拟人化,这样做是没有意义的,因为这些模型是没有知觉的。”

“这些系统能够基于数以百万计的句子来模仿交流的方式,并且在任何有趣的话题上都能够扯出有意思的内容。如果你问它们做一支冰激淋恐龙是怎样的体验,它们可以生成大量关于融化咆哮之类的文字。”

(These systems imitate the types of exchanges found in millions of sentences, and can riff on any fantastical topic — if you ask what it’s like to be an ice cream dinosaur, they can generate text about melting and roaring and so on.)

类似的故事我们见过太多了,特别是前几年一个非常经典的电影《她》(Her) 里面,主角对于虚拟助手的身份界限越来越不清晰,把“她”当成了人。然而根据电影的描绘,这种错觉其实来自于当代人社交失败、情感破裂、孤独感等一系列自我和社会性的问题,跟聊天机器人到底是不是人这一技术性的问题,压根没有半毛钱关系。

当然,有这些问题并不是我们的错,想要把机器人当成人,也不是那个研究员的错。

将各种情绪(比如思念)托付在物件上,是人类自古以来就具有的一种创造性的情感能力。将大规模语言模型当成人,对其倾注情感,虽然被各位 AI 大佬批评为一种心理误差,不也正是人之所以为人的体现吗?不过,至少在今天,谈啥都别跟机器人谈感情……

参考资料:

[1]Nonsense on Stilts by Gary Marcus https://garymarcus.substack.com/p/nonsense-on-stilts

本文系作者品玩授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本文观点仅代表作者本人,钛媒体平台仅对用户提供信息及决策参考,本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛粉61539 钛粉60785 在天空中自由翱翔的百灵鸟 钛粉14772 单晶冰糖啦啦啦 钛友趣641500
541人已赞赏 >
541换成打赏总人数541人赞赏钛媒体文章
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗
  • 回复

    这篇文章真是有意思,让人想笑

    2022-06-14 15:47 via android
  • 孩子们(如果你们将来还能活下来的话),请记住,这就是一切的开始。哈哈,人类末日开始了

    2022-06-14 15:02 via h5
  • 回复

    这个宾果卡真是让人忍俊不禁啊

    2022-06-14 14:14 via h5
  • 如果你以为这些聊天机器人具有人格,那么有幻觉的应该是你。人们要出现幻觉了

    2022-06-14 14:13 via pc
  • 我看到的东西像人,因为我按照人的样子开发的它,所以它是一个人。笑死,这个逻辑

    2022-06-14 14:11 via iphone
  • 错觉其实来自于当代人社交失败、情感破裂、孤独感等一系列自我和社会性的问题,跟聊天机器人到底是不是人这一技术性的问题,压根没有半毛钱关系。当代人这么空虚寂寞冷吗

    2022-06-14 13:04 via iphone
  • 至少在今天,谈啥都别跟机器人谈感情,那和机器人谈钱吧,哈哈

    2022-06-14 12:57 via pc

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。