2024CTIS-文章详情页顶部

光速运算实现突破,AI训练的成本难题或将得以解决

目前摆在企业和政府面前的难题是,如何加快AI运算速度,满足人工智能研究中日益增长的计算量。

图片来源:视觉中国

图片来源:视觉中国

1956年,“人工智能”这一概念被首次提出,自此以后,历经六十多年沉浮至今,人工智能一共经历了两次浪潮。

第一次浪潮基于“if- then”结构,建立在人工设定的形式逻辑基础上;第二次浪潮则是我们现在比较常见的,基于大数据驱动,借助统计学方法、模拟神经网络等来实现计算机的自主学习。

从这两波浪潮的转变中,我们发现,AI的本质就是计算,算法控制着数据的流动并实现所谓的“智能”。计算,无疑是人工智能发展中最为重要的一环。而现在,人工智能的计算走到哪里了呢?

光速运算,解决AI训练的成本难题

近日,OpenAI对不同时期最大型的AI试验所消耗的计算量进行了调查分析。结果发现,跟6年前相比,AI训练所需的计算量整整增长了30倍,相当于每3.5月就翻番。

​ 图为AI训练所需的计算量(单位千亿次浮点运算)图片来源:OpenAI分析报告

计算量不断增加,其实并不是一件坏事,因为这代表着AI 的能力也在与日俱增,但是,计算力的提升也让AI的训练成本不断增加。拿目前大家都知道的AlphaGo Zero举例,这是目前最大规模的AI实验,其成本可能是1000万美元。如果试验计算量持续增长,其成本每1.1-1.4年就会增加一个数量级。按照这个趋势,在5-6年的时间内,这个实验的成本将达到2000万美元。

除非存在有一些非常强大的AI技术能带来大规模的经济回报,否则,要想维持AI的计算趋势,保证下一个“阿尔法狗”能被“喂养”出来,经济产出就要以每年一个数量级的速度来增长。这还只是就目前的情况而言,谁也无法保证AI计算趋势在未来不会上涨得更快。

所以,目前摆在企业和政府面前的难题是,如何加快AI运算速度,满足人工智能研究中日益增长的计算量。

谈起速度,目前宇宙中最快的速度是光速,光的传播速度是 30 万公里每秒,如果可以让AI的深度神经网络中的信号以光速传播,运算速度是否也能相应提高呢?

近日,来自加州大学洛杉矶分校(UCLA)的研究人员利用 3D 打印技术打印出了固态的神经网络,并且利用层级传播的光衍射来执行计算,并达到了图像识别手写数字的效果。

​ 图为衍射深度神经网络(D^2NN)架构 图片来源:《science》

用光来执行运算其实与机器学习的经典算法之一 ——线性回归算法有着某种天然的合契,线性回归一般是根据连续变量来估计实际数值,而光的振幅、相位都属于可以调整的变量,这也是AI光速运算与传统计算机电路中电场传播所区别的地方。该项技术的发展,相信能为AI计算成本的不断降低和量产化目标带来助力。

用光执行运算,意味着什么? 

随着技术落地,当光速运算技术被真正应用,会对人工智能有哪些改变呢?智能相对论(ID:aixdlun)分析师颜璇认为,其在以下两个方面会有较大突破。

1、“黑匣子”成为了阳光下的“玻璃箱”

如果说人类是AI的“上帝”, 那么人类给AI的只是“生命”组合的规则,而真正的演化却是由AI自己完成的。

在初始阶段,AI的认知是十分有限的,它在不断地试错中寻求最佳结果,从而涌现出某种程度的智能。从人类的角度来讲,我们在AI认知的过程中是缺席的,在深度学习的框架下,我们“知其然而不知其所以然”,这就是著名的“黑匣子”问题。

AI预测你将在50年后死亡,你却不知道它运作的原理;无人驾驶的汽车撞上公路旁的护栏,你也不知道问题究竟出在哪里,只能送回原厂,修改全盘的算法。

让AI拥有了光,“黑匣子”的问题或许就能迎刃而解了。要知道,AI运算虽然是看不见摸不着的数字,但光的衍射却是实实在在的物理现象,如果将模型的预测过程固化为物理表示,就可以清楚地观察到人工智能运算的过程。

在用光执行运算的实验中,UCLA 的研究人员研发出了一个 3D 打印 AI 分析系统。这一系统可以通过光线的衍射来分析人工智能。研究人员也表示,通过改变相位和振幅,人工智能中每个“神经元”都将是可调的。

2. AI 的“养成”游戏:强人工智能的开启

强人工智能(有知觉和自我意识,且能推理和解决问题的智能机器)究竟能否实现?

有人预测,在21世纪内将出现能够与人类智能水平相当的AI。而这种预测的立场来源于一种建立在还原论基础上的计算主,其基本观点是认为物理世界、生命过程甚至人类心智都是算法可计算的。

人类的大脑就像一台计算机在运作,只要能够模拟出人类大脑的计算规则,我们就能够建立至少与人类水平相当的智能机器。当然了,这里面暗藏一个假设,即人类的全部意识均是大脑的计算产物。

如何创造出一个强人工智能, 我们或许就可以从人脑的计算量入手。这里有一个自然的假设,就是如果我们创造出一个AI,从零岁起就能够有足够的计算能力去模拟人类大脑运行18年,并以足够细的颗粒度去捕捉大脑的智力表现,这个AI能否像一位18岁的成年人一样解决问题?

而这个计算量有多大呢?模拟大脑一秒钟所需的每秒峰值速度(FLOPS,也称作“每秒浮点运算次数”)有很多测算,比如AI Impact收集的数据得出的中位数是1018 FLOPS,范围在3×10^13FLOPS与1×10^25FLOPS之间。运行这样的模拟18年相当于700万Petaflop。

而AI技术不断发展,其颗粒度只会更加细微,计算量也会更加大。如果能用光执行运算,无疑是为这一畅想提供了一项可行的技术。

光速运算的“硬伤”

用光来执行运算固然是革新了神经网络的计算方式,但是,这种方法本身还是有着一些问题。

首先,在上文提到的实验中,光的运算是建立在固化的神经网络的基础上,因此,当深度学习已经完成训练,并且将所有参数的值都确定下来,继而利用3D打印技术进行固化,打印出的神经网络就不能再被编程。

其次,打造一个能实现按需处理任务的超高精度衍射板是非常困难的,在解决了计算训练成本的难题时,很难说这个新技术不会带来硬件研发的成本难题。除了制作工艺外,还有硬件安装和环境稳定性的难题。

诚然,新技术的应用仍需要一段时间,用光来执行运算究竟能否满足高速增长的AI计算趋势,还需要我们积极探索。

随着计算问题的解决,人工智能也必将取得长足发展。

【钛媒体作者介绍:文/颜璇;智能相对论(微信id:aixdlun):深挖人工智能这口井,评出咸淡,讲出黑白,道出vb深浅。重点关注领域:AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等】

本文系作者 智能相对论 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • ”拿目前大家都知道的AlphaGo Zero举例,这是目前最大规模的AI实验,其成本可能是1000万美元。如果试验计算量持续增长,其成本每1.1-1.4年就会增加一个数量级。按照这个趋势,在5-6年的时间内,这个实验的成本将达到2000万美元。“ AI计算量提高指的是项目越来越复杂导致计算量提高,而不是同一个项目现在运行的计算量比以前高。钛媒体你们到底有没有编辑,整天上这种弱智写的文章?

    回复 2018.07.30 · via pc
  • 光信号是由电信号驱动的。电信号芯片无法达效,光芯又怎能达到?纯光cpu还不是由电势差引发的!

    回复 2018.07.29 · via android

快报

更多

2024-04-19 22:56

万丰奥威:互动易回复存在误导性陈述,公司及董事会秘书收到浙江证监局警示函

2024-04-19 22:54

立案调查14件、多收取的燃气费将全额退款,重庆通报燃气费多计多收问题

2024-04-19 22:46

玻璃主力合约日内涨幅扩大至2%,现报1537元/吨

2024-04-19 22:42

中印尼高级别对话合作机制举行第四次会议

2024-04-19 22:34

派拉蒙环球大涨超11%,索尼与阿波罗洽谈组团对其进行收购

2024-04-19 22:32

美联储古尔斯比:将需要更长时间才能将通胀降至2%的目标

2024-04-19 22:27

三部门:增强IPv6网络性能和服务质量,推动算力基础设施同步部署IPv6

2024-04-19 22:24

中核钛白案处罚落地:对中核钛白实控人、中信与海通等预计罚没合计2.35亿元

2024-04-19 22:22

万丰奥威:公司与特斯拉共同组建eVTOL公司并已组建项目团队的传闻不实

2024-04-19 22:20

三部门:到2024年末IPv6活跃用户数达到8亿,物联网IPv6连接数达到6.5亿

2024-04-19 22:19

上海明确住宿登记流程,严禁住酒店“强制刷脸”

2024-04-19 22:14

韵达股份:3月快递服务业务收入同比增长8.84%

2024-04-19 22:12

上海浦东发展银行昆明分行高级专家潘岭接受审查调查

2024-04-19 22:07

国轩高科:2023年净利润同比增长201.28%,拟10派1元

2024-04-19 22:03

海康威视:2024年一季度净利润19.16亿元,同比增长5.78%

2024-04-19 22:03

深交所:终止对优巨新材首次公开发行股票并在创业板上市审核

2024-04-19 21:50

香港监管机构将调查普华永道在审计恒大账目中的作用

2024-04-19 21:48

人工智能概念股美股盘初多数下跌,Meta、英伟达、英特尔至少跌约1%

2024-04-19 21:39

IMF:预计OPEC+将从7月开始逐步提高石油产量

2024-04-19 21:35

商务部部长王文涛会见英飞凌科技公司首席执行官哈内贝克

2

扫描下载App