伦理道德和机器

商业价值

商业价值

· 2012.07.24

当今天的机器变得愈发智能,机器面临道德选择的情形已经不再仅仅是小说中的虚构情节。

播放 暂停

伦理道德和机器

00:00 03:48

在经典科幻电影《2001太空漫游》中,飞船的主控电脑HAL面临了一个两难的困境:它所收到命令要求它必须前往木星执行一项调查任务,但同时,关于这次任务的目的,它必须对飞船上的所有船员保密,最后,HAL企图以杀死全体船员的方式完成任务。

当今天的机器变得愈发智能,机器面临道德选择的情形已经不再仅仅是小说中的虚构情节,人类亟需寻求一种方式确保现实世界中的机器人能够做出比HAL明智的选择。

目前的武器系统依然由人类掌控最后的决策,但是随着技术的演进,将来这种决策权可能会被直接赋予给机器,而当这种情况发生时,机器就不得不开始面对诸多道德难题。无人驾驶战机是否应该向一栋藏有敌人目标但同时也有无辜平民的建筑开火?无人驾驶汽车是否应该为了躲避行人而突然转向?(这样做意味着撞到旁边行驶的汽车。)

这些难题引出了一个全新的领域——“机器道德”,它旨在赋予机器在遇到道德困境时做出合适决策的能力,换言之,就是告诉机器人究竟什么是对和错。

解决机器人道德难题的方式之一就是完全禁止它们的使用,但是自动化机器人毕竟是利大于弊,所以,人们现需要找到应对之策。在美国,一些州已紧急通过了关于无人驾驶汽车的法案。而事实上,无人驾驶汽车早已在法案通过前就开始使用了,技术的发展已经超越了立法完善的速度。

最著名的机器人道德方面的规则是科幻小说家Issac Aismov在1942年提出的“机器人3大法则”。它要求机器人首先要保护人类,其次是服从命令,最后要保护自己。不幸的是,这些法则在现实世界中很少被用到,战斗机器人就破坏了第一法则。

Asimov小说的有趣之处在于他准确描述了机器人在服从命令时遇到的难以预料的复杂状况。管理不断发展的自动化机器需要应用一个更为复杂的架构,并且在下面3个领域格外重要。

首先要明确机器人的制造者是否需要在机器人犯错时承担责任?为了确定责任,自动化系统必须保存细节资料以便在必要的时候解释机器行为的原因。这关乎到系统的设计:比如,需要排除那些依据已有案例而非遵循预设法则做出判断的决策系统;其次,内置的道德系统需要帮助机器人做出符合绝大多人利益的决策;最后也是最重要的一点是,工程师、伦理学家、律师和政策制定者们必须要通力合作,因为如果各自为战,他们会建立起截然不同的标准。

技术总是引领着人类的进步,但是每一次进步也会带来许多棘手问题,机器人也不例外,而越早解决这些道德上的问题,人们就能越早享受到他们带来的便利。

The Economist《经济学人》2012年6月2日

本文系作者商业价值授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛粉18709 钛aw26M5 钛粉94035 钛粉15375 钛哥儿 钛粉85193
384人已赞赏 >
384换成打赏总人数384人赞赏钛媒体文章
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗
  • conner qiao conner qiao
    回复
    2

    道德的标准本身就很模糊和复杂,解决机器道德植入问题更难,就目前来看还有很长的路,希望人类能打开宇宙的奥秘!这个世界的魅力就在于你不知道结果是什么,确痴迷的为之不断探索!

    2012-07-24 13:10 via pc
  • 汪斌 汪斌
    回复
    1

    考虑的早了点吧~

    2012-07-27 06:52 via pc
  • wyj wyj
    回复
    1

    但这个过程出现人类和机器之间战争的可能性不会有,如果有,本质上来讲,还应是人与人之间的战争。

    2012-07-26 18:10 via pc
  • bjcpp5118 bjcpp5118
    回复
    0

    机器就是机器,跟机器谈什么道德?

    2012-07-29 16:55 via pc
  • godsword2011 godsword2011
    回复
    0

    懒人推动科技进步

    2012-07-29 11:30 via pc
  • Buttonwood Buttonwood
    回复
    0

    技术进步太快,扯倒蛋了。但是实用主义哲学才是进步的保证,不能因噎废食。

    2012-07-28 18:45 via pc
  • 抹茶浮雪 抹茶浮雪
    回复
    0

    呵呵。思其始而成其终

    2012-07-28 00:26 via pc
  • 笨小康 笨小康
    回复
    0

    有点危言耸听了,以后也许会达到你现在所说那种智能化,但现在,你自问现今世界上有哪个国家的科技可以达到你说的?

    2012-07-27 12:40 via pc
  • wyj wyj
    回复
    0

    机器最终还是要赋予人性的,这是大趋势,但要想让大部分人接受,可能要有一个象征性的仪式来完成这个过程。

    2012-07-26 18:03 via pc
  • 申森 申森
    回复
    0

    jh

    2012-07-25 17:05 via pc

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。