无人驾驶汽车的“道德困境”:撞SUV还是撞跑车?

摘要: 假设,一辆无人驾驶汽车向左撞上沃尔沃SUV,向右将撞上Mini Cooper,它的程序该如何选择?从物理学角度讲,你应当选择将其撞向一辆更重的车。不过,选择撞一个东西而不是另一个,这本身就是个糟糕的抽签。从法律和道德层面来讲,这都把无人驾驶汽车产业拉到了危险的境地。

本文来自Geekcar,作者卢姿伊

假设,一辆无人驾驶汽车正面临艰难的抉择——撞向两个物体中的一个。它可以把方向盘打向左边撞上沃尔沃SUV,或者打向右边,无辜的Mini Cooper自认倒霉。如果你来给这辆车编程,原则是将伤害最小化,在上述情况下你会让它撞哪个?

从物理学角度讲,你应当选择将其撞向一辆更重的车,从而更好地吸收碰撞动能,这么说来就得撞沃尔沃了。另外,被撞的这辆车还应当以安全著称,这么说,就更得撞沃尔沃了。

别高兴得太早,事实是物理学并非唯一需要考虑的因素。选择撞一个东西而不是另一个,这本身就是个糟糕的抽签。从法律和道德层面来讲,这都把无人驾驶汽车产业拉到了危险的境地。

就算造成的伤害并非故意,一些“优化撞车”算法天然需要作出精密而系统的识别,撞大型车辆。而被选中的车主得承受这一后果,即使他们什么错都没有,错就错在他们注重安全,又需要一辆SUV来拉一大家子。这,听上去合理吗?

这样说来,怎样才算合理的编程设计遇到了道德困境。沃尔沃和别的SUV车主理所应当对那些优先撞他们而不是小型车的无人驾驶车制造商不满,尽管物理角度上这可能是最佳解决方案。

这算是个现实问题?

某些车辆事故无可避免,甚至无人驾驶汽车也难逃一劫。一头鹿有可能突然跳到你面前,其他车道的汽车也可能突然冲着你就来了。先不管什么物理的三七二十一,火烧眉毛的事故怎么破才是王道。在这种意义上,一辆无人驾驶汽车能做出最好的选择。

人类在危急情况下只会以本能作出反应,然而一辆无人驾驶汽车却是由软件驱动的,它能目不转睛地持续扫描周遭环境,甚至在我们意识到危险之前就能够做出许多运算了。它们会争分夺秒地做出选择,将碰撞伤害降到最低。不过软件需要编程,目前还不清楚对于疑难问题该怎么处理。

至于构建边界情况模型,我们在这里也不试图模仿真实世界里的情况。因为这些情况非常少见,然而却无疑暴露了常规情况下隐匿或潜伏的问题。自上述情景,我们能够看出碰撞算法可能会被引入歧途,每次我们做出价值判断,认为一项事物比另一项事物更适合牺牲时,我们都该把它纳入考虑背景。

早年,无人驾驶车的应用场景主要控制在高速路上。这是个相对简单的环境,车主无需顾虑在市内驾驶时要时时留意的行人,数不清的别的移动标的们。不过,谷歌却于近期宣布,它在货真价实的城市街道上迈出了测试无人汽车的人生第一步。随着无人驾驶汽车的运用环境更为变幻莫测险象环生,它们将面对更艰难的抉择,意即,撞道边物体,甚至是,行人。

道德,不仅仅牵扯到伤害问题

这一问题在下述场景里将会更尖锐地暴露出来。请再次设想,一辆无人驾驶汽车要撞车已经在所难免了。它有俩选择:一个戴头盔的骑摩托车的,一个没戴头盔的。编程的正确方式是啥?

以“优化撞车”之名,你可以使它撞向可以从事故中最快重新屹立起来的任何物体。在文章开头的场景里,你该撞那辆沃尔沃SUV。这里,该撞那个戴头盔的摩托车手。一个好的算法应当知道,没戴头盔的骑自行车的被撞死亡概率要高得多,而死人则当然是汽车生产商要竭力避免的了。

不过,我们也能一眼看出这一选择的不公正性,正如从“优化撞车”角度想问题一样有道理。通过撞那个戴头盔的骑摩托车的,我们这不就是惩罚他的责任感吗,因为他带头盔了?同时,我们给另一个骑摩托车的开了绿灯,即使他人要不负责任得多,不戴头盔在美国大多数州都是违法的。

这一区别对待不仅是不道德的,还是个坏政策。这一“优化撞车”设计会鼓励骑摩托车的们不再佩戴头盔,树大招风,何必因此变成无人驾驶车的靶子呢,尤其是这种汽车未来会越来越多。就像在上个场景里,以安全著称的汽车销量反而会受影响,比如沃尔沃和梅赛德斯奔驰。顾客们可不想成为无人驾驶汽车的靶子啊!

把一切交给运气

对于这类使人窝火的两难困境,一个优雅的解决方法是,干脆别做那么深思熟虑的选择了。我们可以设计出一款随机做选择的无人驾驶汽车。这是说,如果选择该撞哪个靶子是有道德缺陷的话,那又为何要算计,随机多好!

无人驾驶汽车编程会产生随机的数字;奇数一种办法,偶数另一种办法。这避免了无人驾驶汽车对大型SUV,负责任的骑摩托车的或种种种种存在区别对待的指控。

这一随机性看上去也没给这世界带来什么新的不可控性:运气常伴左右,好的坏的都是如此。随机决策也更好地模拟了人类驾驶,直到目前为止,面对危机时人的瞬间反应还是不可预测的,并非基于理智的,因为没有足够时间运用人类的理智。

不过,这一随机的机械可能由于以下几个原因而不够完善。首先,模仿人类驾驶有什么了不起吗?造无人驾驶汽车不就是冲着他们能做出更好的决策吗?人类错误驾驶,分心驾驶,醉驾等等是如今90%甚至更大比例车祸的肇因。美国每年有32,000余人命丧马路。

第二,我们人类司机要是做出一个糟糕的瞬时反应还能被原谅——例如,撞向一辆一整就爆炸的福特Pinto(发生撞击后该车油箱会起火甚至爆炸)而非一个更安全稳定的物体。无人驾驶车可难辞其咎。世界各地的工程师们可是随时都能修改Bug的啊。这是谋杀和过失杀人的不同。

第三,在可见的未来,重要的是不仅仅是就难解的道德困境得出“正确”答案。它还应该心思备至,能否为此答案辩护,即秀出你的道德算法。在道德领域,如何考虑一个问题与结果同样重要。而目前我们讨论到的是,无人驾驶汽车随机做个决策,然后,再推卸责任。它们不是“深思熟虑”,是“考虑不周”,这可能比人们作出本能反应结果酿成事故还要糟糕。

放弃知情权

另一个不那么激进的解决方案是隐藏某些可能导致不必要区别对待的信息,人称“无知之幕”。应用到上述场景即,不去识别交通工具的构成和型号,有没头盔或其它安全设施。这样一来,就没有形成傲慢与偏见的基础了。

在“优化撞车”计算中不使用这一信息还不够。要在道德立场上旗帜分明,无人驾驶汽车需要做到压根不去收集这些信息。要是他们有这些信息的话,使用它们就能够将伤害事件最小化或者拯救生命,这样一来,如果不使用这些信息就会有法律责任。想象一下,要是一个国家智囊组织掌握了关于恐怖分子阴谋的可靠消息,然而却没能阻止袭击的话,会激起多大的民愤!

不过这种方法也有问题,汽车制造商和保险商会希望收集尽可能多的数据,以更好地理解无人驾驶汽车车祸事件,或者用于其他目的,比如新型的车内广告植入。因此,让这些利益相关方们自愿对关键信息睁一只眼闭一只眼不知道是否是个现实做法,因为他们收集数据的欲望如此强烈。

So, Now What?!

在未来的无人驾驶汽车里,单单一项车祸避免功能还不够。有时从物理意义上讲一次事故的发生不可避免,比如因为没有足够的时间踩刹车,技术失误,天气原因或者单单就是坏运气作祟。因此,无人驾驶汽车也需要“优化撞车”策略。

为此,攻城狮们需要设计出机会成本公式,赋值,得出不同选项的预期成本,选择最低成本的那个——而这将决定谁生,谁死。这天然是个道德问题,决策时需要斟酌和透明。作为解决这些挑战的第一步,创建关于道德和无人驾驶汽车的公开大讨论能够帮助提高公众和业界对这一问题的意识,在人们遭受飞来横祸时也能平息众怒。(这,能吗?)

关注次世代汽车新闻,关注公众微信号:GeekCar

本文系钛媒体原创,转载请注明出处、作者和本文链接
分享到:

第一时间获取TMT行业新鲜资讯和深度商业分析,请在微信公众账号中搜索「钛媒体」或者「taimeiti」,或用手机扫描左方二维码,即可获得钛媒体每日精华内容推送和最优搜索体验,并参与编辑活动。

商业价值
商业价值

《商业价值》杂志为你报道更创新、更智慧、更可持续的商业。微信公众号:bvmagazine

评论(52

  • 昨天很冷 昨天很冷 2014-05-22 12:01 via pc

    机器化和数字化的东西很方便我们的生活,但是就像最新的机械警察一样,感情.责任.道德这些东西是机器和电脑没办法做到的。怎么两者结合,还是根本就是鱼与熊掌的问题。

    1
    0
    回复
  • 路途狼 路途狼 2014-05-19 23:25 via pc

    需要技术和环境的成熟

    0
    0
    回复
  • 飛義崋 飛義崋 2014-05-18 09:01 via pc

    很多理论上合理且可行的东西,放在现实中就变得十分棘手。

    0
    0
    回复
  • 367 367 2014-05-17 23:04 via pc

    这不是一个逻辑问题。

    0
    0
    回复
  • MZDB学无止境 MZDB学无止境 2014-05-15 22:12 via pc

    人造的东西无人能行嘛?

    0
    0
    回复
  • Louis.lee Louis.lee 2014-05-15 17:00 via pc

    这个问题问的好,虽然从一个比较小的点上考虑问题,但的确是个问题。有意思。

    0
    0
    回复
  • 老道 老道 2014-05-14 10:51 via pc

    太遥远

    0
    0
    回复
  • 正义诚信公平 正义诚信公平 2014-05-13 07:06 via pc

    不是那么容易的,需要革命!

    0
    0
    回复
  • conner qiao conner qiao 2014-05-13 00:05 via pc

    从多个方面分析了无人驾驶车辆的可预见性问题,或许说明了,无人驾驶汽车技术还相当不完善,以致于无法完全遵守交规'同时还得考虑到实际交通环境。

    0
    0
    回复
  • pand88 pand88 2014-05-12 16:54 via pc

    这是个问题啊,就像母亲和老婆同时掉河里,你先救哪一个?这样的问题不仅影响人们的道德观,还影响和谐,呵呵!

    0
    0
    回复

Oh! no

您是否确认要删除该条评论吗?

分享到微信朋友圈