德国又发生机器人伤人事件:一种困境,与一种反思

今天,德国大众汽车厂发生一起机器人杀人事件,21岁年轻小伙就此丧命。我们一边享受着人工智能的福利,一边也不可回避其“恐怖谷效应”。

电影《我,机器人》(I,Robot)

电影《我,机器人》(I,Robot)

众目睽睽之下发生的杀人事件永远是最吸引人眼球的。

就在今天,德国卡塞尔市的大众汽车厂发生一起机器人伤人事故,一名21岁的外包工人在工作中忽然受到机器人的撞击挤压而受伤,最终伤重不治。

显然,长期以来针对机器人是否最终会威胁到人类安全和发展的争议始终不绝于耳,站在悲观角度上的人包括史上霍金、比尔·盖茨、马斯克等人,他们是史上最伟大的物理学家,是长期站在行业前端对未来发展趋势有着自己深刻见解的企业家。他们对机器人等人工智能的质疑和警告或许并不只是杞人忧天而已,一系列的事件显示机器人伤人事故并没有随着人工智能技术研究和实践的深化而在新世纪杜绝:

1999年,就在 The Matrix 在全球范围内掀起对机器人统治未来的存在主义忧思的时候,一名肉食品加工厂的工人就因为误操作启动机器人而被卷入传送带,结果不幸身亡;

2个月后,悲剧再次发生,一名工人在机器人尚在运行时就对对其进行维修,最终也受伤而死;

2001年,一名汽车厂工人在进入机器人防护笼进行清洁工作时被机器人扼住喉咙压迫在滚轮下最终窒息身亡,

2006年,一位女工被机器人挟住颈部钉在焊接机上,当场遇难。

历史就是由这样不断重演的悲剧而构成的。曾经建议美国在纳粹之前开发原子弹的爱因斯坦在目睹广岛的惨状后后悔不已。从原子能的发展来看,人们当然有理由担心一项崭新技术的研究和应用是否最终一定会造福于我们、是否有可能最终对反噬我们。

然而,问题的痛处在于我们究竟应该如何看待人工智能?我们是否应该因为这些伤人事故而遽然反对、杯葛人工智能?让我们先回顾下阿西莫夫是如何解决这一困境的。在小说《我,机械人》(I,Robots)中,他提出了机器人三法则:

  • 机器人不得伤害人类,或因不作为使人类受到伤害;
  • 除非违背第一法则,机器人必须服从人类的命令;
  • 在不违背第一及第二法则下,机器人必须保护自己。

可是,问题在于,如果存在主动违背第一原则的人工智能的话,那么,这是否意味着人工智能已经具有主动判断和自我意识的能力?在这种情况下,我们是否还有资格将其仅仅视为单纯的人工智能?或者,在人工智能发展到相当高度时,它是否具有了自己的意识和权利?在山本弘的《艾比斯之梦》中,未来的机器人有了自己的意识,他们可以选择自己的生存或死亡,他们甚至会感到孤独或者彼此之间恋爱。

人工智能吊诡的地方在于,我们发展它是为了让机器人更加智能、更好地为我们服务,可是,当它的发展程度超过某个阈值时,它又很可能成为一种新的具备权利主张和自我意识的个体,这个时候,这种人类历史上从未出现过的新物种是否还会甘于仅仅是服务于人类呢?它们是否会甘于遵循人类既定的三大法则?更让人不安的地方在于,你永远不知道这个时候究竟时候到来,你并不知道为你服务的机器人是否实际上已经具备了自我意识。

然而,在这个时候到来之前,发生人工智能伤人事件时,我们又不得不面临这样的困境,我们究竟如何处理这样的机器人?对这样既没有自我意识因又没有行为能力的非自然人个体,社会共识和法律惩治措施对它们而言毫无意义。我们处于这样的一种困境,一方面,我们斗争都正或多或少地享受着人工智能带来的福利,另一方面,人工智能的“恐怖谷效应”在在现阶段又是无法回避的客观存在。

我们唯一能做的就是,尽其所能地发展人工智能,然后把所有的现实和对未来的担忧都留给我们的下一代——如果人工智能真得发展到会威胁到人类存在的话,那至少在那个时候,人类本身的科技水平也能够对此做出回应,就像卡梅隆的《终结者》(Terminator)里讲得那样。

按照希区柯克的电影理论,或许,人工智能就相当于那枚我们都能看到的餐桌下的倒计时炸弹。对此,我们既紧张又不免期待与兴奋。(本文独家首发钛媒体

本文系作者 胡勇 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 既然赋予了它人工智能,这种后果就要承担

    置顶
    回复 2015.07.02 · via android
  • 我晕,机器使用操作不当出现意外,说的真跟机器人成精了似的,抡锤子不小心砸到手锤子的错咯?写的个锤子啊

    回复 2015.07.02 · via android
  • 作者联想力很丰富啊,工伤和人工智能有半毛钱的关系?

    回复 2015.07.03 · via pc
  • 显然,作者不是理工科出身,也没有自动控制的知识背景。我只能呵呵呵了。

    回复 2015.07.03 · via android
  • 傻逼,这跟人工智能鸟毛关系

    回复 2015.07.03 · via pc
  • 傻逼文章,都说了是误操作。

    回复 2015.07.03 · via android
  • 有意思吗这种文章?在没有机器人之前的机器设备难道没有因操作不当而发生安全事故吗?

    回复 2015.07.02 · via iphone
  • 哈哈,这作者是来搞笑的吗?这种失误操作顶多算工伤,和人工智能伤人毛关系啊。。。

    回复 2015.07.03 · via pc
  • 这是来骗积分的吧

    回复 2015.07.03 · via android
  • 案例和主题的关系太牵强

    回复 2015.07.02 · via iphone
更多评论

快报

更多

19:36

国家金融监督管理总局发布《行政处罚裁量权实施办法》,5月1日起施行

19:31

哈尔滨市出台“新政”:非哈市户籍购新房可享购房款2%~3%补贴

19:30

《深圳市前海深港现代服务业合作区管理局办法》将于5月1日正式施行

19:22

罗永浩谈小米SU7:在大众消费车市场上或重新上演良币驱逐劣币

19:21

华体科技:公司智慧路灯产品可搭载5G微基站,但目前搭载服务收入占比不足1%

19:19

上汽:归属上市公司股东净利润141亿元,分红拟合计派发42.3亿元

19:16

胡润研究院:高净值人群未来一年投资热情下降7%,黄金超越股票成为首选

19:04

重庆啤酒:2023年净利同比增长5.78%,拟每股分配现金红利2.8元

19:04

数字智能体研发工具包AgentStudio宣布开源

19:03

中共中央政治局3月29日召开会议,审议《关于二十届中央第二轮巡视情况的综合报告》

19:00

浙商证券:拟受让国都证券合计19.14%股份

18:57

青岛阶段性取消首套房商贷利率下限,4月1日起执行

18:56

柯利达:子公司拟转让参股公司股权

18:54

通义千问开源首个MoE模型

18:52

长虹美菱:2023年净利同比增203.04%,拟10派3元

18:51

长三角铁路2024年清明小长假,预计发送旅客1630万人次

18:49

国家外汇管理局:预计我国外债规模将继续保持稳定

18:47

光大银行:光大集团拟4亿元-8亿元增持公司股份

18:46

马斯克:下周应该可以在X平台上使用Grok-1.5

18:45

韩国总统批准韩国驻澳大利亚大使辞职

34

扫描下载App