机器人会毁灭人类吗?不,恐惧会!

摘要: 无论对未来的想象究竟是好还是坏,无论对机器人及人工智能的预测究竟有多么危言耸听,我们始终不应该忘记的是,正是因为理性和科学精神才有了理性时代,正是因为两百多年前康德申明的 sapere aude 理念才有了今时今日我们所享受的一切。

rengongzhineng

【本文正在参与钛媒体最新一期话题竞拍《人工智能是狼来了吗?》,奖励丰厚,如有不同观点,欢迎投稿来辩!】

1,机器人不得伤害人, 也不得因不作为而使人受到伤害;

2,机器人必须服从人的命令, 除非那命令与第一定律相冲突;

3,机器人必须保护自己, 只要这种保护不与第一及第二定律相冲突。

上述说法引自公元2058年的《机器人手册》(Handbook of Robotics)第56版,而这一套虚构的理论源自于阿西莫夫(Isaac Asimov)发表于1942年的短篇小说《环舞》(Runaround)。

阿西莫夫在打字机上敲出三法则的同时,图灵(Alan Turing)也提出了邱奇-图灵论题,在1943年,麦克库劳齐(McCullouch)和皮特(Pitt)根据图灵完备性神经元进行的正式设计被认为是史上的第一个人工智能成果。

事实上,直到1956年,卡内基梅隆大学、MIT 和 IBM 的科学家们才真正建立起了人工智能领域,也直到这次发生于达特茅斯学院的大会上,第一个人工智能项目“逻辑理论家”(Logic Theorist)才登上历史的舞台。

其后,机器人三法则不止成为阿西莫夫一系列以机器人为主题的科幻小说的理论基础,也被越来越多的科学设定和大众所熟悉。

在人工智能发展如火如荼的今天,我们正在生活的方方面面体验着它的强大威力,与此同时,在这个一切都疾速变化超出想象力极限的时代,一直以万物灵长自诩的人类面对智力能力已经远远超越自己的人工智能,也不可避免地产生了畏惧和担忧。

在地球数十亿年的历史中,在人类数十万年的进化历程中,我们第一次由衷感受到了切实的危险和挑战,我们不禁自问,人类创造的人工智能最终究竟会创造一个怎样的未来呢?人类的生存繁衍进步,究竟是会被自己亲手创造出来的发明推动还是毁灭呢?

从机器人这个离人们最近、人们最熟悉的人工智能分支出发,我们希望能勾勒出一副机器人的发展图景和未来的可能性。

大时代

捷克作家卡雷尔·恰佩克(Karel Čapek)在小说《罗素姆万能机器人》(Rossum's Universal Robots)里最早使用了 robota 表达机器人的概念,随后,这个捷克语单词被引进英语世界,变形成为 robot。

侍从们赶上前去,扶持着主人,

全用黄金铸成,形同少女,栩栩如生。

她们有会思考的心智,通说话语,行动自如。

然而,机器人这样的想法早在荷马的《伊利亚特》中就已经被提到了。同样是在希腊神话中,艺术家皮格马利翁(Pygmalion)根据心中所想制作出了一尊女性雕像起名伽拉忒亚,并爱上了她,在向爱神阿佛洛狄忒祈祷后,伽拉忒亚竟成真人和皮格马利翁生活在一起。

“土耳其人”设计铜版图

“土耳其人”设计铜版图

在1770年,匈牙利发明家肯培伦(Wolfgang von Kempelen)制作了一台象棋机器“土耳其人”(The Turk),玛丽亚·特蕾西亚女王、拿破仑以及本杰明·富兰克林对这件机器都刮目相看,直到1854年毁于一场大火之间的八十多年中,“土耳其人”战胜了绝大部分对手。

然而,“土耳其人”只是肯培伦瞒天过海的诡计而已,这并不是一台设计精巧的象棋机器,真相只是它的内部藏着一个水平极高的真人,而直到这台机器问世五十多年后才被披露出来,让这一真相大白天下的还是“土耳其人”最后拥有者的后代。

在两个多世纪前,出现与 AlphaGo 一样的人工智能并非偶然,尽管“土耳其人”只是一个骗局,但它的产生却有着深刻的历史背景。

在十八世纪,启蒙运动大行其道,理性精神渐渐大众的诉求,自由、包容、政教分离等理念逐渐成为共识。同时,日心说渐渐崛起,科学协会和学院也慢慢开始取代传统大学在科学研究中的地位,科学的迅猛发展和启蒙运动互为倚助,推动着时代的巨轮轰隆隆向前前行。

康德以德语词 Aufklärung 来称呼这场席卷欧洲的思想革命,他更用拉丁文 sapere aude 来揭橥启蒙运动的核心,即“敢于知道”(dare to know)。莱布尼茨不止发明了微积分,他制作了机械计算机并且设想了机器推理,莱布尼茨同样坚信人的推理机能能够被简化成为象征性的计算过程,而这正是机器人等人工智能的本质。

如果以启蒙运动为节点对机器人的发展进行观察的话,我们会发现有趣的现象,在十八世纪以前,无论是文艺作品中涉及到的机器人概念,还是达芬奇等科学家设计制造的机器人,它们更多地都是充当人类的一种附属品,为后者提供服务,充当人类功能的延伸和丰富,充满了实用主义精神。

而随着理性精神和“敢于知道”信念的深入人心,人们对机器人的设想就不再仅仅是工具,不再是功能性机械装置而已,机器人承担了更多的对“人”自身的扪心自问,人们不再只是把机器人当做代劳工具,而是试图在它身上探索和寻找更多的意义,机器人就像一个容器,包含了人们自身的疑问和情感。

30年代好莱坞电影中的弗兰肯斯坦形象

30年代好莱坞电影中的弗兰肯斯坦形象

哲学层面上,人们越来越多地探究自身,而另一方面,科学和技术的进步又让这种求知欲和探索从以往的空想逐渐变成现实,工业革命的兴起引发了机械、采掘、运输等行业翻天覆地的变化,而这些都与机械有着紧密的联系。

所以,不难理解,在十八世纪之后,机械与机器人渐渐成为一种人类投影了自我反思和恐惧情感的复杂产物。

十九世纪的英国诗人亚瑟·休·克劳夫(Arthur Hugh Clough)在《新十诫》(The Latest Decalogue)说道“汝等不可杀戮,亦毋须贪生”,阿西莫夫本人也承认三法则中第一条的灵感就源自这句话。同样是在19世纪,在玛丽·雪莱(Mary Shelley)的小说《弗兰肯斯坦》(Frankenstein),就已经出现了人造人。

在1810年,弗里德里希·考夫曼(Friedrich Kaufmann)造出了历史上第一台人形机器人。

Elmer and Elsie 行动起来非常笨拙 来源:cyberneticzoo

Elmer and Elsie 行动起来非常笨拙 来源:cyberneticzoo

到了50年代,在铁幕升起冷战阴影笼罩世界的背景下,博登神经学学院(Burden Neurological Institute)的沃尔特(William Grey Walter)设计出了第一台可以执行复杂动作的电子自动机器人 Elmer and Elsie,而制造这台机器人的目的是为了证明脑细胞与复杂行为之间的强关系。

不久后,乔治·德沃尔(George Devol)就创造出了第一台数字化操作并且可以编程的机器人 Unimate,之后,德沃尔和合作伙伴开办了第一家机器人生产公司 Unimation,这意味着机器人工业时代的正式来临。

从某种意义上来说,机器人的产生往往都是在人类经历着前所未有的变革与冲击的时候,在思想发生惊天动地剧变的十八十九世纪如此,在核战争威胁一触即发的五十年代亦如此。

面临着工业革命引发的生产力革新和财富积累,处于人类时刻处在大国战争引发的灭绝阴影之中,人们投注在机器人身上的不止是科学和技术的天生执念,更是面对无法预知的未来产生世纪末情绪的映射。

电光幻影中的机器人

如果说艺术作品是现实生活的一面镜子的话,那么,电影史最生动地体现了人们对机器人及人工智能的既爱且惧的复杂心态。

早在1927年的默片《大都会》(Metropolis)里,机器人和工人之间的矛盾并非导演弗里茨·朗的空想,早在工业革命时代,机器的引进和推广就已经使得大量工人失业,并且引发了以捣毁机器为目的的卢德运动。在片中构想的2026年,资本家阶级和工人阶级贫富分化严重对立,在察觉到工人群体中的不安定氛围后,资本家采取的措施是利用机器人挑起冲突以此来使镇压工人正当化。

自机器人诞生并引入工业流水线之后,抢夺岗位加大竞争压力造成失业便成了人们对机器人最大的担忧之一。而在影片制作发行的20年代末期,恰恰是大萧条引发的全球性经济危机蔓延恶化的时期,工人们切身感受到了失业的威胁和危险,而这种社会思潮又间接反映到了电影之中。

在《大都会》里,机器人并算不上一个反面角色,它更多地扮演着一个处在劳资双方之间命运不受自己控制的符号化角色,假的玛丽亚机器人不仅没有任何自主思考能力,还被蒙骗的愤怒工人付之一炬,而女主角玛丽亚最终却主导并见证了资本家和劳工双方的和解。

在故事里,机器人是一个阴谋的工具,而在电影里,它/她也只是一个推动情节发展的傀儡,我们甚至无法对其做出任何感情和道德上的判断。

与其说这是弗里茨·朗的创作意图,毋宁说是在当时的大环境里,人们对机器人的认识还仅仅是充当表现主义的道具而已,他们并不真正认为机器人会取代自己的工作,或者从根本上来说,他们并没有将机器人放在自己的对立面上。

在《西部世界》里,机器人大开杀戒

在《西部世界》里,机器人大开杀戒

但是,到了70年代,在科幻电影《西部世界》(Westworld)里,情况发生了巨大的变化。尤·伯连纳(Yul Brynner)扮演的机器人角色“快枪手”没有任何感情色彩,体现出了一种超乎理性的残酷,在发生故障后完全以杀戮为行动本能。

吊诡的地方是,片中的西部世界、罗马世界和中世纪世界三个游乐园场所都是设置机器人供人类游客肆意游玩的。在2016年的 HBO 翻拍剧集《西部世界》中,这一点体现得更加淋漓尽致,人类游客在游乐园中高高在上,而普通机器人仅仅是充当不同故事线上的玩具,顺应游客需求改进或在被破坏后被抛弃。

但是,当整个游乐园发生系统故障之后,人类和机器人之间的游客-玩物关系就发生了颠覆。

机器人没有任何理由地视人类若仇雠,并固执地按照自己的故事线一路追杀人类,和《大都会》里的玛丽亚对比,尽管快枪手也遭到火刑,但是,他却并没有就此偃旗息鼓,在显露出自己恐怖而残缺的机械躯体后,它依然试图要扑杀人类。

电影追求的就是这种这种恐惧感,1973年正是石油危机爆发的时刻,资本主义国家的消费者第一次意识到国力堪堪的中东国家也握着自己的生活和经济命脉,面对最原始的石油资源匮乏困境,科学技术和资本主义文明也无能为力。

在《西部世界》里,这种无奈和窘迫被以更加夸张、惨烈的方式置换成为人类和机器人之间的关系。在蛮荒世界中,理性文明的人类面对无法控制的机器人,往往也只有束手就擒的下场。

T-800 和康纳之间也产生了友谊

T-800 和康纳之间也产生了友谊

到了《终结者》(Terminator)和《黑客帝国》(The Matrix)的设定里,人类在未来就完全成了机器人的奴隶。

在卡梅隆的电影里,人类咎由自取使得天网发动了核战争,反抗军在机器人的追杀中苟且偷生,最后试图通过穿越时空的方法回到过去解决掉天网。而在沃卓斯基兄弟的电影里,人类的命运更加悲惨,他们成为了机器人的蓄电池,却还在矩阵中醉生梦死对真实真相一无所知。

两部电影里,无一例外地出现了救世主的形象约翰·康纳和 Neo,而他们与机器人的关系也并单纯。一方面,是机器人毁灭了人类世界,但另一方面,两位救世主却又不得不借助机器人的力量来拯救人类。

在《终结者2》里,T-800无数次拯救康纳于水火之中,显然代表着正义的力量,但是,它又必须为了从根本杜绝天网危机而选择自沉熔炉,在第二部之后的作品里,T-800也一度遭受代码入侵而威胁到康纳。

它并不是一个有着自主意识的机器人,它依然只是单纯地执行操作指令。机器人并没有好与坏而已,最终取决于给它输入执行代码的人。

红药丸与蓝药丸的选择是《黑客帝国》里的第一道图灵测试

红药丸与蓝药丸的选择是《黑客帝国》里的第一道图灵测试

而 Neo 的身份更加尴尬,在故事的最后,他终于发现自己根本不是所谓的救世主,而只是母体系统的又一个版本迭代而已,他不仅没有做出蓝药丸与红药丸的正确选择,反而从一开始就是这个系统的一部分、一段代码而已。于是,NEO 最终选择了和系统媾和。

两部电影都把机器人及人工智能视作人类未来的大敌,并设想出了一副人类在未来的悲惨图像,但是,他们却又没有完全抹杀掉人类的希望,无论是依靠机器人穿越时间,还是消灭母体的病毒保存锡安,人类如果要拯救自己都必须依靠机器人。

巧合的是,《终结者》是90年代的第一部科幻电影,而《黑客帝国》恰恰是20世纪的最后一部。在十年的时间里,人们经历了无数变革,在苏联解体、美国成为历史上独一无二的超级大国以及互联网出现兴盛之后,大家似乎最终认识并接受了这个真理,人类的命运已经和机器人、人工智能紧密地联系在了一起,后者已经不再只是一个工具,而正在渐渐成为新的群体乃至物种。

人类已经身处于一个人工智能时代了。

非理性人

尽管从来不乏对机器人的未来持悲观态度的电影,但是,在 IMDb 上以 robot 为关键词得出的搜索结果为2457部作品,其中以“正邪对抗”为主题的有213部,继续细分下去的话,将机器人当做威胁的电影有61部。

这或许才反映了大众对机器人及人工智能的真实态度。

在虚构的电影和现实之间,有一堵透明的次元壁。人们热衷于《星球大战》里的 R2D2,但即使《变形金刚》里的霸天虎,依然有着为数不少的拥趸。与此同时,人们享受着人工智能提供的令人惊叹的无与伦比的体验,亦遭受着不时袭来的不适和惊恐。

一方面,我们经历着人工智能狂飙突进式的发展,它们切实地改变乃至重新定义着我们对这个世界的认识和理解方式。

在代表人类智力最高水平的围棋棋盘上,AlphaGo 在五番棋大战中战胜了李世石,之后又在跨年的数日内化身 Master 在网络上横扫中韩世界冠军斩获六十连胜。

而在风云变幻的金融市场里,摩根大通在去年推出了合同智能分析软件 COIN,它的工作量相当于华尔街上的律师和贷款员们一年约36万小时的付出,COIN 每年可以帮助摩根大通减少人工导致的1.2万份贷款合同中的错误。

另一方面,尽管发展迅猛,但是人工智能还远远谈不上完美,依然存在着种种缺陷,这些短板有时候让人哭笑不得,有时候则会让人付出不小的代价。

面对心机的读者,Perspective 也可能会束手无策 来源:研究

面对心机的读者,Perspective 也可能会束手无策 来源:研究

Google 资助的创业孵化器 Jigsaw 推出了一个基于机器学习的工具 Perspective 来标记剔除网站上被举报的信息。然而,华盛顿大学的研究发现,只要在敏感单词上做些轻微的手脚就可以愚弄 Perspective 使其无法标记有害留言。

相比 Google,微软的Twitter 聊天机器人 Tay 遇到了更多的恶意和挑战。

微软最初对它的设定是一个未成年人,声称其所采用的数据都是“模型化、净化和过滤”的,但是,在用户的故意教唆和引导下,Tay 成了一个对女权主义者恶语相加并支持纳粹的机器人,最终,微软不得不删除这些冒犯消息并保护性关闭了这个机器人的 Twitter 账户。

如果说 Perspective 和 Tay 还只是犯些无伤大雅并不会造成多少实质伤害的错误话,那么,IBM 的 Watson 则从侧面显示了人工智能目前在经济可行性方面的缺陷。

德克萨斯大学的报告指出,Watson 与其下属安德森癌症中心合作的 OEA 临床建议系统并没有和中心的电子病历系统整合。在癌症中心和 IBM 2012年签署的合同中,OEA 项目1.0版本将聚焦低风险的 MDS 白血病患者,开发周期为6个月,成本仅为240万美元,然而,最终成本却超过了3900万美元,直到去年十月份依然没有开发完成。

人工智能时代的大幕固然许许拉开,但,舞台之上还是一片喧哗与骚动,那么响,却又那么远,人们并没法清楚观看。

机器学习的出现和成熟使得人工智能也具备了和人类一样的自我学习和成长能力,这样的能力在数十万年的物种演化中向来是人类所自傲的。

具备这样的能力,也就意味着人工智能有了产生道德和情感的可能性,于是,人类不得不面临一个前所未有的大难题,是否会产生一个可能和我们一样有着相同情感、道德观和认知方式的物种?它究竟是否算是我们的同类呢?它究竟离“人”有多远呢?它的权利究竟又该如何界定呢?

当我们的数据和隐私都被人工智能一览无遗地接受、分析的时候,当我们越来越多甘之如饴地让人工智能接手越来越多的服务,当人工智能在体力和智力上都开始超越我们,当人类还受困于感性、情感而机器人能够完全冷静地面对处理各种问题时,我们是否会感受到一种恐惧和无能为力。

如果说对人工智能的担忧和畏惧还是一万年太久的杞人忧天的话,更严峻的问题是,那些掌握、操纵人工智能的群体是否已经成为特殊的权力拥有者?如果我们害怕人工智能在未来反制和奴役人类的话,那么,这些掌握着人工智能的人是否现在已经具备奴役我们的能力了呢?

在经历着空前的互联网繁荣发展带来的便利和自由幸福的今天,在大公司和体制还无法完全控制一切的今天,我们是否也同样正经历着一个由人工智能导致的阶级分化与固化巨潮?

每个人都会为这些问题而担心,这就是我们这个时代的爱与惧。

阿西莫夫曾经被问及三法则是否应该被用来监督机器人的行为,他嘴上的答案是三法则是理性的人和机器人及任何物种相处的唯一原则。但是,在心里,他往往会悲伤地想到,人类并不总是理性的。

人类固然在担忧、恐惧着机器人及人工智能潜在的威能,但是,因为恐惧就拒绝未来的一种可能性,因为先例就排斥未知,这样的态度和立场无论如何是我们不能接受和认同的。

无论时代如何变化,无论对未来的想象究竟是好还是坏,无论对机器人及人工智能的预测究竟有多么危言耸听,我们始终不应该忘记的是,正是因为理性和科学精神才有了理性时代,正是因为两百多年前康德申明的 sapere aude 理念才有了今时今日我们所享受的一切。

我们这个时代固然有爱亦有惧,但唯有基于理性,唯有“敢于知道”才能克服寄生于恐惧本身的恐惧,才能让这个时代永远进步下去。(本文首发钛媒体,记者/胡勇)

更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App

本文系钛媒体原创,未经授权不得使用,如需获取转载授权,请点击这里
分享到:

第一时间获取TMT行业新鲜资讯和深度商业分析,请在微信公众账号中搜索「钛媒体」或者「taimeiti」,或用手机扫描左方二维码,即可获得钛媒体每日精华内容推送和最优搜索体验,并参与编辑活动。

胡勇
胡勇

For he spake, and it was done; he commanded, and it stood fast.

评论(7

  • 自然醒 自然醒 2017-03-16 14:49 via pc

    唯有理性,才能克服恐惧。其实加入siri,灵犀语音这些软件能有更多的功能我就很满足了。

    0
    0
    回复
  • 攸延自得 攸延自得 2017-03-16 13:21 via weibo

    昨晚又重看了一遍黑客帝国

    0
    0
    回复
  • 大北门儿 大北门儿 2017-03-16 13:21 via weibo

    什么是理性时代

    0
    0
    回复
  • 重庆艾希顿滤油机 重庆艾希顿滤油机 2017-03-16 13:07 via weibo

    机器人还是靠谱些

    0
    0
    回复
  • 阿七Q宝 阿七Q宝 2017-03-16 12:50 via weibo

    唯有敢于了解,才能真正克服源于恐惧依赖于恐惧而生成的恐惧!机器人的存在或许是必然,但是发展使用却是我们人类一手促成,令人恐惧的不是机器人,而是人类本身!

    0
    0
    回复
  • 钢筋徒工 钢筋徒工 2017-03-16 12:41 via weibo

    微博转发机器人表示基本同意…嘻嘻

    0
    0
    回复
  • 高兴 高兴 2017-03-16 08:29 via iphone

    在机器人真的获取“自我意识”之前,顶多只会抢走一部分人的饭碗,但是也会创造出一些新兴职业

    0
    0
    回复

Oh! no

您是否确认要删除该条评论吗?

分享到微信朋友圈