20个问题揭秘OpenAI:马斯克要怎样阻止机器人掌管地球?

摘要: OpenAI两位联合主席表示,这个组织将进行开源形式进行人工智能研究,不过目前仍处在“早期阶段,像一个还没发育的胚胎”。

左:Y Combinator的Sam Altman。右:特斯拉、Space X的Elon Musk。他们如今共同发起非营利机构OpenAI。

钛媒体注:当众多的技术团队和创业者们还在鼓吹人工智能在商业领域的应用时, Elon Musk又走在了大多数人前面。双12这一天,特斯拉CEO Elon Musk宣布正式启动一个非盈利人工智能项目OpenAI,不追求盈利,恰恰是因为这个组织目前已经拥有10亿美元投资。而这个组织的使命,将是“阻止机器人太快的取代人类”。

本文由钛媒体编译自Medium BACKCHANNEL的文章,Tony、Joyce/编译。采访者Steven Levy是《连线》杂志主笔,《黑客:计算机革命的英雄》、揭秘谷歌内幕的《In The Plex》等科技著作的作者。

马斯克和Y Combinator正在投资一个新的非盈利组织:OpenAI,以开发最先进的人工智能——并将成果回馈给全体公众。

这俩一掺和,AI领域的竞争变得更激烈了——巨头如谷歌、苹果、Facebook、微软,甚至是丰田这样的汽车公司,都在争相聘请AI的研究人才——现在又来了个新对手,还暗自打着小算盘。

OpenAI对外声称是一家「非盈利」企业,提倡公开研究成果,免去专利版税,发展人工智能,避免计算机发展超过人类智能的恶梦成真。OpenAI的资金来自一群科技界有头有脸的大人物,其中包括特斯拉的马斯克、LinkedIn的雷德·霍夫曼(Reid Hoffman)、Paypal联合创始人彼得·蒂尔(Peter Thiel)、Y Combinator创始合伙人杰西卡·利文斯顿(Jessica Livingston),连亚马逊的云服务AWS(Amazon Web Services)也列入了名单中。他们共同承诺,提供超过10亿美元将长期用于支持这个项目的研究。

OpenAI的联席主席有两位,其一是马斯克,另一位是Y Combinator的CEO山姆·阿尔特曼(Sam Altman),后者领导的研究队伍也是资方之一(当然阿尔特曼本身也是出资人)。

马斯克早就因其对人工智能的批判而闻名,他的加入并不奇怪。但Y Combinator是什么鬼?这是一家十年前创立的科技初创加速器,当时还只是一个在夏天举办的项目,给创业者资助「饭钱」、提供建议,让他们迅速成长并上手企业业务。十年间,YC扶持了将近1000家公司,其中有Dropbox、Airbnb和在线支付公司Stripe,最近还设立了一个研究分支。过去两年里,阿尔特曼亲自掌管YC,他创立的另一家公司Loopt就参与了2005年的YC项目,在2012年以4340万美元出售。

虽说YC和阿尔特曼都是OpenAI的资方,阿尔特曼还是联合主席,OpenAI却仍是另一个独立的企业。

从本质上来说,OpenAI是一个研究实验室,旨在与大企业和政府抵抗;巨头们往往独自占有着一些超级智能系统用于牟利,而政府则可能利用人工智能获得权力,甚至是压迫民众。

——听起来可能有点异想天开,不过这支队伍已经成功招募到一些顶级人才,比如Stripe的前CTO格雷格·布洛克曼(Greg Brockman),他也将成为OpenAI的CTO,还有世界顶级的前谷歌研究员伊利亚·苏特斯科瓦(Ilya Sutskever),他曾是多伦多大学的神经网络先驱吉奥夫·辛顿(Geoff Hinton)的得意门生之一,接下来将成为OpenAI的研究主管。招揽到的其他年轻俊才大都曾在大型学术机构、Facebook AI或谷歌2014年收购的深度学习公司DeepMind里工作。OpenAI的董事会也星光熠熠,比如天才的计算机大师、面向对象之父艾伦·凯伊(Alan Kay)。

天才极客Ilya Sutskever。

OpenAI的头头们跟我聊了这个项目的情况以及他们的憧憬。以下采访分两部分进行,首先是采访阿尔特曼,然后跟阿尔特曼、马斯克和布洛克曼一起进行。为了简洁起见,我把两次采访的内容做了一些编辑。

这个想法怎么来的?

阿尔特曼:我们大概在一个半月前设立了YC的研究分支,但我其实琢磨AI这件事儿琢磨很久了,伊隆(Elon Musk)也是。想想对世界未来具有最重要意义的那些事情,我觉得AI大概是榜单上排名第一的。所以就有了OpenAI,这个组织正在努力开发对人类具有积极意义的人工智能。也因为它是非盈利的,全世界都能免费享有其成果。

马斯克:你也知道,我一直都对AI抱有顾虑。我也跟山姆(即Sam Altman)、雷德(即Reid Hoffman)、彼得·蒂尔还有很多其他人聊过不少。我们想的是,「有没有什么方法能确保AI的发展对人类有益,或者是提高积极发展的可能性?」交流了很多意见之后,我们的结论就是建立一个501c3许可的非盈利组织,这样就不用费心去保证利润最大化,这或许能成为一件好事。我们也会非常关注安全问题。(钛媒体注:501c3是美国税法的一个条款。该条款是给宗教、慈善、教育等组织以免税待遇,分两种,一是组织不需交所得税,二是捐赠者将钱捐赠给C3机构,捐赠的金额将从个人所得税中减掉。企业也有减税待遇,如果捐赠给美国慈善机构,公司也可减税,这是鼓励个人和企业给C3组织捐赠。)

从哲学层面来说,这里还有很重要的一点:我们希望大规模推广AI。 人们的想法可以分成两类——你想要很多AI,还是少量AI就够了?我们觉得前者或许才是好事。就算是把AI跟人类个体意志的一个扩展捆绑在一起,也是一件好事。

人类意志?

马斯克:要是你有了一个AI的扩展,就是说每个人在本质上跟AI共生共栖了 ,而不是说把AI作为另一个大型的中央智能,那是另一回事。想一下你平时是怎么用互联网上的应用、怎么收邮件、怎么使用社交媒体——这些都有效地让你成了一个超人,你不会觉得它们是跟你独立的另外的事物,它们就是你的一个扩展。所以只要我们能引导AI往这样的方向发展,我们就希望AI也能成为人类的扩展。我们已经找到很多跟我们志同道合的AI领域的工程师和研究员了。

阿尔特曼:我们认为,AI发展的最佳方式是增强人类个体的能力、让人类变得更好,而且每个人都能自由使用,而不是让某一个组织远远强于世界上的其他所有人。我们不像谷歌,我们不是营利的公司,所以我们不仅能专心丰富股东利益,还能专注发展我们所坚信的人类未来的最佳利益。

谷歌不也跟公众分享他们的发展成果吗,比如之前开源的深度学习?

阿尔特曼:他们当然也分享了很多研究成果。随着时间过去,我们会越来越接近一些超越人类智能的东西,谷歌到底会分享多少还值得存疑。

那你们在OpenAI里研究的东西就不会超越人类智能吗?

阿尔特曼:其实我希望你说的能成真,不过我们也会把它开源,让每个人都能利用,而不是比如说像谷歌那样独占。我们团队的一切发展成果都会开放给所有人。如果你想用这些成果来做别的,你也不一定需要公开。但我们做的工作就是会让每个人都能用上。

如果我是邪恶博士,我也用了AI,你还会让我也增强能力吗?

马斯克:这是一个很好的问题,也是我们争论了很久的问题。

阿尔特曼:这里面有一些不同的想法。就像人类与邪恶博士为敌,是因为大多数人类性本善的缘故,而人类集体里还是有一些糟糕、邪恶的元素的。我们觉得,很有可能出现的情况是,许多许多AI将一起努力制止偶尔出现的一些邪恶的AI,而不是说某一个AI比其他AI都要强。如果那么一个强大的AI真的失常了,或者说邪恶博士得到了那种力量,没有其他人能够与之对抗的力量,我们就真的倒霉了。

邪恶博士(Dr. Evil)是电影《王牌大贱谍》中的反派角色,把自己冷冻在外太空中,以求东山再起毁灭地球。

你们会监督OpenAI产出的成果吗?

阿尔特曼:我们的确希望慢慢建立一个监督机制。刚开始的话就只有伊隆和我。我们距离发展出真正的AI还有很长、很长的一段路,但我觉得还有足够的时间来把监督职能建立起来。

马斯克:我的确想跟团队一起花些时间,比如每周或每两周在办公室待一个下午,共享一些升级的信息,向团队反馈一些我的想法,也是为了更深刻地了解AI领域的发展情况,我们是不是快要开发出一些危险的东西了。就个人而言,我会特别特别注意安全问题,那是我相当担心的问题。如果看到一些可能带来安全风险的东西,我们会希望将其公之于众的。

有什么邪恶的人工智能例子吗?

阿尔特曼:我现在能想起来的都是科幻电影里的例子,还都是一些比较久远的电影了,比如《终结者》之类的。短期之内,我并不担心这个问题。但是有一件事情的确让我有些担心,尽管我并不认为它算是不好的人工智能技术,那就是人工智能带来的大规模自动化和工作岗位的减少。另一个不好的人工智能例子也是人们经常讨论的,就是一些类似人工智能的程序已经黑进我们的计算机之中,而且比人类的工作要好得多。现在这种事情已经发生了。

你们会从一个已经开发好的人工智能系统开始(研究)吗?

阿尔特曼:不会。OpenAI公司一开始将会以一个研究实验室的形式存在,而且在很长一段时间内,我们都将会保持这种形式。现在还没有人知道要如何开发(人工智能系统)。从OpenAI成立第一天开始,我们有八名研究人员,在接下来的几个月时间里,还会有其他几个人加入到我们的团队。我们现在将使用YC提供的办公空间,随着团队人数不断扩大,还会搬到自己的办公室里。他们将会寻求新的创意,编写新的软件,以此来努力推动当前人工智能技术的发展。

外界是否有人愿意参与进来?

阿尔特曼:绝对有啊。我们最大的优势之一,就是采用了开源项目的形式进行人工智能研究,我们的实验室可以和任何人进行合作,因为合作双方彼此可以自由分享信息。举个例子,你很难和谷歌的员工进行合作,因为这种企业为了盈利,会对员工加以非常苛刻的保密协议要求。

你说OpenAI公司一开始会使用YC提供的办公室,那么你自己的初创公司能不能使用OpenAI开发的人工智能技术呢?

阿尔特曼:如果OpenAI真的能开发出非常优秀的技术,那么任何人都可以免费使用它,当然也包括任何一家科技公司。不过要注意的是,我们也将会要求YC旗下的初创公司将他们愿意分享的数据提供给我们。伊隆其实也正在考虑将特斯拉和Space X两家公司的一些数据分享给我们。(注:在采访结束之后,阿尔特曼表示OpenAI将会搬到位于旧金山的办公室。)

那些公司可能分享哪些数据呢?

阿尔特曼:很多啊。

举个例子,跟Reddit相关的所有数据对我们都非常有用。你可以想象,特斯拉无人驾驶汽车的所有视频信息也很有价值。海量数据真的非常重要。如果你在想人类如何可以变得更聪明,那么你就去读书,读的书越多人就会变得越聪明。但是读书只能让自己变得聪明,你不可能在看了一本书之后,让另外一个人也变聪明了。但是人工智能技术可以。还是用特斯拉来举例吧,如果一辆特斯拉汽车学到了新环境下的新知识,那么其他特斯拉汽车就可以立刻掌握这个新知识。

马斯克:总体来说,我们还没有非常具体的计划,因为我们真的还处于早期阶段,就像是一个还没发育的胚胎。但是,特斯拉肯定会收集到来自现实世界的海量数据,因为每天只要有人开我们的汽车,我们就能从这些汽车那里收集到数据。或许特斯拉收集到的数据会比世界上其他任何公司都要多。

Tesla Motor首席执行官兼产品架构师马斯克和Y Combinator孵化器主席阿尔特曼出席旧金山的“名利场New Establishment Summit峰会”。

人工智能技术需要大量的计算,你们会选择什么样的基础设施?

阿尔特曼:我们正与亚马逊合作,使用他们的AWS服务,他们给我们提供了很多基础设施和服务。

这得花上10亿美元吗?

马斯克:应该说我们已经获得了这个级别的资金支持。我们不方便透露具体的金额数字,不过我之前曾经发表过一篇博客文章,里面提及了很多为我们公司融资捐助的人。

这些资金能让你们运营多久?

阿尔特曼:多久都得坚持下去。我们会尽可能地保持节俭,但人工智能通常是一个需要耗费几十年时间的项目,想要顺利进行下去必须投入大量的人力和硬件。

你们就完全没有赚钱的压力吗?

马斯克:完全正确。这并不是一笔追求利润的投资。也许它在未来会产生营收,就像斯坦福研究所(Stanford Research Institute)那样,虽然它也是一家501c3认可的非盈利免税组织,但是他们也获得了营收。也就是说,我们未来可能会获得利润,但是我们不会从中牟利。作为非盈利机构,我们不会把利润全部用来讨好股东,也没有股价之类的麻烦事。我们觉得这或许挺好的。

伊隆,你此前曾经投资过人工智能公司DeepMind。在我看来,那次投资和你本次成立OpenAI公司目的应该是完全一样的:为了确保(人类)能够控制人工智能技术。之后DeepMind被谷歌收购了,这次算是你的第二个尝试吗?

马斯克:我会说,我并不是一个传统意义上的投资人,我投资也不是为了获得经济上的回报。我会把钱再投给那些我曾经参与创建的公司,我投资可能只是为了帮朋友,或者只是为了自己笃信的事业或关注的事情。我投资,并不是为了在自己的公司之外增加多样性什么的。不过有一点你说的对,用你的话来说,对DeepMind公司的那次所谓“投资”,其实是为了更好地了解人工智能技术。

未来,你们将和许多顶尖企业展开人才争夺战吧,例如DeepMind、Facebook和微软等?

阿尔特曼:到目前为止,我们的招聘工作进展非常不错。我们吸引研究人员最大的优势之一,就是我们公司拥有其他公司无法给予的自由度和开放度,员工可以将自己正在从事的工作分享给其他人,在其他任何一个行业实验室里都无法做到这一点。我们成功吸引到一个高水平的初创团队,让其他人也想加入我们这样的队伍。最后,我认为,无论是我们的使命、愿景以及我们的架构,都对人才非常有吸引力。

你们最终将会招聘多少研究人员?几百个吗?

阿尔特曼:可能吧。

我想回过头来谈谈,通过分享人工智能技术,我们或需可以免于最糟糕的后果。但是一旦人工智能技术更普及了,你们难道不是在增加它潜在的危险性吗?

阿尔特曼:我想,关于这个问题我和伊隆还有其他人已经争论过无数次了,但我还是无法给出一个百分之一百确定的答案。无论对于什么问题都是如此,不是吗?但是,你必须去尝试很多种情况。比如说,通过技术手段封锁信息来达到安全的目的,一直都没有收到很好的效果。任何技术都会被别人所利用,你如何确定究竟是谷歌、美国政府还是ISIS掌握了这个技术呢?世界上有很多坏人,但是坏人并没有导致人类的灭绝。然而,如果这个坏人的权力远远大于其他人,那会发生怎样的事情呢?

马斯克:我认为,对抗AI滥用的最好方法,就是让尽可能多的人都拥有它。如果每个人都掌握了人工智能技术,那么它就不会成为某个人或是某个小团体的超级能力或邪恶武器了。

Elon,你现在是两家公司的CEO,现在又成了第三家公司的主席。有人觉得你没有足够的时间来投入到一个全新的项目中。

Musk:是的,你说的一点儿没错。但是很长时间以来,我头脑里一直想的都是人工智能的安全问题,挥之不去。所以我觉得,以后大概没有时间来思考你提的这个问题了吧。(本文首发钛媒体)

本文系钛媒体原创,转载请注明出处、作者和本文链接
分享到:

第一时间获取TMT行业新鲜资讯和深度商业分析,请在微信公众账号中搜索「钛媒体」或者「taimeiti」,或用手机扫描左方二维码,即可获得钛媒体每日精华内容推送和最优搜索体验,并参与编辑活动。

钛媒体
钛媒体

中国领先的财经科技信息服务提供商。关注微信公众号:钛媒体(ID:taimeiti), 旨在为创新、创业、创造人群,提供最高效、最专业,最具价值的信息交流平台,和相关的职业与资本服务。我们拥有行业内最高质量的内容、作者(意见领袖)及产品线,通过连接最具创造力的创新、创业及变革者,打造中国最大的线上影响力社群。

评论(15

  • 疯人院18床 疯人院18床 回复枫林小火山 2015-12-17 09:26 via android

    在混乱之中,规则不断的被平衡和被塑造,最终要么平衡要么一方灭亡。

    0
    0
    查看对话
    回复
  • 疯人院18床 疯人院18床 2015-12-17 08:58 via android

    究竟是是我们造就了AI,还是AI成就了我们,也许是拴在彼此的颈端的狗链子吧。

    0
    0
    回复
  • 天远 天远 2015-12-25 08:54 via android

    科技以人为本

    0
    0
    回复
  • 大道 大道 2015-12-23 09:24 via pc

    马斯克有点像美剧的汉尼拔

    0
    0
    回复
  • greatking04 greatking04 2015-12-18 08:43 via pc

    满嘴急悠的马斯克,他以前的项目除了paypal有过盈利吗?没有盈利的项目迟早要崩盘。

    0
    0
    回复
  •  LBZ600  LBZ600 2015-12-17 14:51 via android

    应该说:人类是聪明人,不会是自掘墓者!

    0
    0
    回复
  • 独角兽众筹APP 独角兽众筹APP 2015-12-17 13:17 via iphone

    目前还是概念为主,还有五到十年才到真正的爆发期。

    0
    0
    回复
  • JoyceChan JoyceChan 2015-12-17 13:14 via pc

    难道最赞的不是最后一个问题的答案吗 ٩(๑❛ᴗ❛๑)۶

    0
    0
    回复
  • 疯人院18床 疯人院18床 回复枫林小火山 2015-12-17 11:35 via android

    看科幻片看多了。

    0
    0
    查看对话
    回复
  • 枫林小火山 枫林小火山 回复疯人院18床 2015-12-17 09:32 via pc

    是的,然而我脑袋里出现的全是人类被AI干掉/苟延残喘的场景……

    0
    0
    查看对话
    回复
  • 洋娃娃科技 洋娃娃科技 2015-12-17 09:30 via weibo

    哈哈智能机器人太火了

    1
    0
    回复
  • 枫林小火山 枫林小火山 2015-12-17 09:09 via pc

    1 假使某一天人工智能会出现灾难性的问题,那一定是人们自己埋下的苦果。人们不是没办法控制人工智能,而是人们在界定“如何发展/控制和对待人工智能”上,会出现混乱。
    2 我几乎都可以想象那些不愿吃兔兔的人,最终在拟真人面前失衡的样子。他们把拟真人当做情感寄托,借此获取抚慰,而更可怕的是,这种抚慰你无从分辨,你依赖且感到舒适。
    3 当某一天机器人达到智能的某一个临界点,并突破之后,人类所有的优柔寡断都将成为自己的手铐和脚链。

    0
    0
    回复

Oh! no

您是否确认要删除该条评论吗?

分享到微信朋友圈