利用外包公司继续训练AI武器,谷歌被讽明修原则暗搞外包

量子位

量子位

· 2019.02.08

明修牌坊,暗地里继续训练军事AI,这真的是Google的选择吗?

播放 暂停

利用外包公司继续训练AI武器,谷歌被讽明修原则暗搞外包

00:00 06:53

图片来源@视觉中国

图片来源@视觉中国

钛媒体注:本文来源于微信公众号量子位(ID:QbitAI),作者: 雷刚、安妮,钛媒体经授权转载。

难以置信,这竟是Google如今的做事方式。

或许你还没有忘记,有个叫Maven的美国国防部AI武器项目。

而且就是因为Google参与该项目,内部抗议一波接一波,离职进谏者不计其数,近4000员工联名声讨。

后来,内外压力之下,2018年6月,Google官方宣布停止参与AI武器研发,并发布AI原则作为指导。一时化舆论危机为道德风骨。

然而万万没想到,不作恶巨头也有明修栈道暗度陈仓那一套。

一边是高调建牌坊,另一边则背地里雇佣众包零工人员继续进行AI武器训练。

这,就是Google刚刚被曝光的新春之雷。

众包平台训练武器AI

事情从一家名为Figure Eight(图八)的众包公司说起。

图八公司,做的就是数据标注一类的工作。他们接项目,然后安排给平台上的“工人”,并以时薪1美元(7元)支付报酬。

工人们任务也不难,看起来都是一些简短且无须思考的任务,比如识别区分所给图像中的人物,是否符合要求——符合就框出来,不符合就下一张。

但根据美媒The Intercept最新截获的邮件显示,其中就有一个专门为Google和国防部完成的项目。

而且就是那个“声名在外”的Maven项目。

所谓Maven项目,简而言之就是无人机武器。但跟战狼中所用的人控无人机不同,这里的无人机有AI加持,拥有视觉能力,可以区分“敌我”,最后甚至能自主决定攻击。

但你也知道,AI实现区分“敌我”之前,需要人类通过大量数据和案例教会AI谁敌谁友、分清楚哪些是树木哪些是人——有多少人工,就有多少智能。

这个图八公司,接的就是这个生意。

所以按理来说,Google宣布停止参与Maven项目后,合作方图八的任务应该也就一并中止了。

但The Intercept截获的邮件显示,图八的数字工人们还在不断交付工作,只是他们并不知道究竟在完成什么项目、又是为谁工作而已。

图八方面也确认,Maven项目的任务还在继续。

所以换而言之,在Google宣布中止Maven项目大半年后,背地里还有模型训练的工作马不停蹄。

不知道那些以离职抗议的Google员工,知道真相后作何感想?

但Google官方已经对此表示未置可否。

The Intercept就此向Google求证时,发言人把问题转交给了图八公司——大概就是想表明这事儿得问图八。

不过就外泄的邮件内容来看,Google从中标Maven项目后不久,就已经跟图八公司展开了合作。

现在想要切割,为时晚矣。

评论汹涌

事情被爆料后,网友搬板凳看热闹的阵仗好不热闹。

无论是外媒、推特、论坛还是国内的微博,网友都开启了热议模式,针对此事的观点评论几乎可以一分为三。

有吃瓜群众对谷歌“表里不一”的行为表示大跌眼镜,把“不作恶”写进自己的准则却又一再打破,不少网友表示“让人失望”。

有网友感慨人工智能技术在成熟前竟然需要这么大的标注工作,先有人工后才有智能。

外媒VentureBeat的记者John Koetsier认为,整件事太讽刺了,人们为了训练AI最终能替代自己干活,竟然在做一些不需要动脑子的微小工作。

也有微博网友提供了一个点子,认为与其利用零工经济聘请兼职来标注,不如直接放到游戏里让玩家对其训练。

最多的讨论,是关于谷歌这次处理问题的态度以及影响,不少国外网友气愤的同时,又在“瑟瑟发抖”。

社会学家Casilli推特表示,这是一个有关发言权的问题。无论是兼职也好、零工也罢还是社交平台的用户,都有权利认识和监督其生产活动。

不少国内微博网友也认同此事,表示心疼这些连自己在做什么都不知道的公认。

网友TeameZazzu开始担忧谷歌的一系列AI军事项目,他认为正如美国国家安全局此前国内大规模监听丑闻那样,反恐工具很快就会转移到国内警察部门。在WAMI(广域运动图像)案例中,被执法机构使用显然是违反美国宪法的,是对自由、隐私和民主的生存威胁。

王子&庶民

当然,事件曝光后的评论中,另一个问题也被凸显。

在图八的整个工作中,由于雇主和项目可以选择匿名,而且工作任务被切分得极其细致。

所以工人们根本不知道自己在为谁工作,也不知道自己正在做什么。

那么争议来了:

在AI武器这样的“是非题”中,Google的员工有选择的权利,但图八的工人们,甚至连知情权都没有。

未来这些AI武器大杀四方甚至被非人道使用时,他们也不知道自己曾帮助过这些武器的实现。

所以在涉及道德争议任务时,是否也该让众包工人跟Google员工享有同等的知情权?

而且就在最近,参与Maven项目抗议的Google员工,还获得了“2018年度军控人员”的全球评选。

但图八公司的众包工人呢?如果不是今日事件曝光,可能他们永远不知道,自己一直在参与Maven项目。

迫于生计,他们可能也没有选择,但是否就此变相剥夺他们的选择权?

另外,明修牌坊,暗地里继续训练军事AI,这真的是Google的选择吗?

本文系作者量子位授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛aB1IyM 钛粉65171 钛粉38610 钛粉91023 钛粉25879 钛粉50426
412人已赞赏 >
412换成打赏总人数412人赞赏钛媒体文章
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗
  • 假象琳 假象琳
    回复
    0

    谷歌参与军事研究完全不觉得有问题啊。

    2019-02-09 08:40 via weibo
  • 然而,人家都是军事实力强,我们可以研究出来吗?

    2019-02-08 14:07 via weibo

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。