机械战警杀人,人工智能离灭绝人类还远吗?

摘要: 归根到底,我们能够采取的安全使用人工智能的唯一可靠途径,还是尽可能地提高人类的治理能力和社会制度的建设。

7月7日晚,达拉斯发生的一起枪击案将美国种族冲突再度推向高潮。在当晚一场抗议白人警察杀死两名黑人男子的示威活动结束之际,美国陆军预备役军人、参加过阿富汗战争的Micah Xavier Johnson开枪打死了有5名白人警察。警方为了避免更多警员被害,出动了一台装有炸弹的机器人,将枪手当场炸死。

比种族冲突更引人注意的是这次美国警方的执法手段。在美国执法史上,这是警方第一次使用机器人杀人,这次事件代表美国警方的交战规则被永远改变了。

作为无人系统平台,军用机器人的天然优势就是能够克服人类生理极限,减少有生力量伤亡。虽然很多国家都在使用军用机器人,但是对于机器人的使用规范和有可能存在的风险,各方关于法律、道德和科技问题的讨论仍旧不断。

电影《机械公敌》、《超级查派》中的情节会不会成为现实?人类究竟能不能驾驭这些由自己创造出来的机器生命?

各国“机械战警”

美国

美国的机器人技术在国际上一直处于领先地位,他们也最早认识到机器人潜在的军事价值。在将机器人用于作战行动上,美国更远远地走在了前面。早在越战期间,美军不仅首次使用机器人驾驶列车为运输纵队排险除障,还使用夜视机器人站岗。随后,美国又研发出侦察机器人、警戒机器人、布雷与扫雷机器人等。五角大楼自 2005 年起,通过一项额外配备计划,分发至少 451 台炸弹机器人给联邦警察及各州的警察局。

达拉斯警方此次出动的机器人由Northrop Grumman公司研发,可用来对付汽车炸弹等威胁。这次行动中,警方在对峙时用通过遥控使得机器人接近枪手,然后引爆炸弹。

iRobot公司制造的Packbot机器人,是20世纪90年代末在美国国防高级研究计划局的倡导下开始研制的,应用始于“9·11”事件之后阿富汗和伊拉克反恐作战。

SWORDS机器人,全名为“特种武器观测侦察探测系统”,是美陆军在伊拉克战场上首次使用的武装型机器。这是美军历史上第一批参加实战的机器人。SWORDS是在“魔爪”机器人的基础上加装武器系统而成的。美军于2000年使用“魔爪”执行侦察任务,曾经嗅出过致命的化学与放射性物质。

美国国防高级研究计划局的“大狗”地面机器人可以每小时12千米的速度前进,爬过35度角的斜坡,在光滑的冰面、泥地、雪地和碎石堆里保持平衡的能力,即使被重重地踹几脚也不会倒地。不过“大狗”因为使用的时候噪音太大,极易暴露,所以“被退役”了。  

俄罗斯

俄罗斯的智能作战机器人外形与真人相似,头戴银白色头盔,身穿军绿色上衣,腿部和双手的机械构造清晰可见。它的四肢装有传感器,可远程操控。它可以在各种地点独立有效工作,并胜任驾车和急救等工作。

日本

日本的手投式侦察机器人。直径11厘米,重670克。在投入指定地点后会“变形”,前后两端突出成为两个“轮子”,然后自由移动并对活动区域进行全方位拍摄。20至30米外,操作人员在二、三十米外也能接收机器人传输的图像和声音。机器人还可以拍摄2至3米范围内的红外图像。

韩国

韩国三星集团研发的SGR-1哨兵机器人被部署在三八线附近。SGR-1个头与3岁孩子相当,体重只有17公斤,他身上装有多种探测装备,能够发现几公里外的隐秘威胁。据说,它在侦测到闯入者时会发出警报,后方的机器人管理员将通过机器人盘问闯入者,并决定是否使用机器人身上的5.5毫米口径机枪将其射杀。

迪拜

 

迪拜警方计划在两年内推出其第一款智能机器人警官——aka机械战警。这种模仿人的机械警官将会使用六种语言,为公众提供所有迪拜警察所能提供的服务。机器人将会被与非紧急呼叫中心 901联系起来,并能迅速地在某些区域比如购物商场,与他人交流。相比于前几种“暴力型”军用机器人而言,这款就要亲民得多。

发展人工智能是在“召唤恶魔”?

各国在军用机器人上的重视和投入都表明机械战警们能够减少警察伤亡,可以预见,在未来发生的暴力事件中,机器人将更多地被派上用场,在比较危险的任务中发挥作用。但也有分析对机械战警的作用表示担忧,最大的担忧就是,当机器人在社会领域中充当更加重要的角色,他们会不会失去控制,会不会带来更多不稳定因素。

其实很多影视文学作品中,已经出现不少人类对于人工智能的反思。无论是悲观的末日说,例如《终结者》,还是人类和机器人最终能够达到某种平衡的共生说,例如《机械公敌》和《超能查派》,机器生命最终会获得意识觉醒,并独立于人类生存,几乎已经成为所有“预言家”的共识。

电影《机械公敌》构造了一个2035年的社会,机器人已经在各个领域充当重要角色,他们不仅从事体力劳动,还从事着更多脑力工作。虽然很多机器人和人类和平相处,有的甚至成为了一家人,但在机器人平静的外表之下,他们早已学会自我思考,想着怎么夺取社会领导权。

影视作品中的隐忧也投射到现实。霍金曾经两次发出警告,随着人工智能逐渐学会为自己考虑,并且更加适应环境,人类正面临着不确定的未来。特斯拉创始人马斯克更是将人工智能的发展比作“召唤恶魔”,他认为人工智能技术有朝一日会比核武器更可怕。

在科技不断发展的今天,人拥有一个机器人助手来接替繁重的体力活动已经不再是梦想,但当机器人技术被发展到空前高度,其智能被高度模拟化时,人类是相当危险的。人类害怕高智能化的机器人有一天会产生各种心理情感,拥有自己的想法,不再是忠实奴仆。如何让机器人为人类所用,而始终不能颠覆人类的控制,成了首要难题。

让机器人为人类所用,关键是建立行为秩序

解决这个难题,最关键的是要建立秩序。

《机械公敌》的剧本源自美国作家艾萨克·阿什莫的小说,这位科幻小说家曾经提出著名的“机器人三定律”,为机器人设定了行为准则:机器人不得伤害人类,或坐视人类受到伤害;除非违背第一法则,机器人必须服从人类的命令;在不违背第一及第二法则下,机器人必须保护自己。

在阿什莫的设定里,机器人三定律是植入到所有机器人软件底层里,不可修改不可忽视的规定。第一条就接触了人类最根本的隐忧——被机器人反控制,第二条加强了人类对机器人的控制,第三条才是机器人的自我保护问题。

在此之后,另一个科幻作家罗杰•克拉克添加了以下法则:机器人可以什么也不做,除非它的行动符合机器人学定律;机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突;机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。

之所以制定这些准则和行为规范,正是由于人类心底的恐惧。人的物质基础很差,学习过程长达十几年,没有通用语言,沟通效率很低。和程序相比,人类文明发展得实在不快。机器人或人工智能“战胜”人类的故事的发生是大概率事件。

好在人们已经认识到建立秩序的重要性。如今一些大学和相关公司中,都有关于人工智能安全发展的策略和指导原则的研究。其中比较重要的一条,是倡导明确界定每一个人工智能项目并予以加密,以便防止未经授权的使用。

但归根到底,我们能够采取的安全使用人工智能的唯一可靠途径,还是尽可能地提高人类的治理能力和社会制度的建设。

事实上,人类文明早已是一种混合了人类和机器的文明,防止破坏性冲突的最佳途径仍然是继续提倡人类的社会理想,摆正人类和机器各自的位置。

【钛媒体作者介绍:文/华琛与徐茜楠,微信公众号:南七道】

更多科技趣闻,关注钛媒体微信号:钛媒体(ID:taimeiti)

qrcode_for_gh_99d4be81cba2_1280

钛媒体微信二维码

 

 

本文系作者 南七道 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
分享到:

第一时间获取TMT行业新鲜资讯和深度商业分析,请在微信公众账号中搜索「钛媒体」或者「taimeiti」,或用手机扫描左方二维码,即可获得钛媒体每日精华内容推送和最优搜索体验,并参与编辑活动。

南七道
南七道

南七道关注全球年轻人的互联网生活方式。

评论(7

  • 天远 天远 2016-07-17 08:40 via android

    别着急,这不是严格意义上的机器人

    0
    0
    回复
  • King丨Kazma King丨Kazma 2016-07-14 20:33 via weibo

    吃饱了撑得

    0
    0
    回复
  • 啦啦啦啦沙井巴 啦啦啦啦沙井巴 2016-07-14 19:11 via weibo

    回复@Sleipnir_:这个跟遥控绑着炸弹的玩具车去炸差不多

    0
    0
    回复
  • Sleipnir_ Sleipnir_ 2016-07-14 18:51 via weibo

    吓的我赶紧砸了家里的扫地机器人????

    1
    0
    回复
  • WQ云淡风轻 WQ云淡风轻 2016-07-14 12:18 via weibo

    程序不是人写出来的吗?

    0
    0
    回复
  • swansuzj swansuzj 2016-07-14 10:13 via weibo

    符合发展规律和辩证法啊!人类创造功能越来越丰富、力量越来越强大、性能越来越优秀的机器人,即人工智能装置,目的是什么?都是利人的,不过都不是利于所有人的,有些有利于多数人,有些则只利于少数人。保不齐就会有哪个会有屠戮,甚至灭绝人类的念头产生,也保不齐什么时候这种念头就会变成现实…

    2
    0
    回复
  • 初号机启动中 初号机启动中 2016-07-14 10:00 via weibo

    标题误导人。智能杀人也要分主动和被动好吗?这和用武器杀人一样,有问题的是武器?科技博能不要这样标题么。

    1
    0
    回复

Oh! no

您是否确认要删除该条评论吗?

分享到微信朋友圈