设为首页 - 加入收藏 哈密站长网 (http://www.0902zz.com)- 国内知名站长资讯网站,提供最新最全的站长资讯,创业经验,网站建设等!
热搜: 数据 如何 发布 2018
当前位置: 首页 > 综合聚焦 > 移动互联 > 评测 > 正文

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

发布时间:2019-02-26 04:08 所属栏目:[评测] 来源:郭一璞 夏乙
导读:本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 深度学习不是真正的学习。 英特尔神经形态计算实验室主任Mike Davies在国际固态电路会议(ISSCC)上将深度学习批判了一番。 Davies说,深度学习跟大多数人印象中的并不一样,它只是一

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

“深度学习不是真正的学习。”

英特尔神经形态计算实验室主任Mike Davies在国际固态电路会议(ISSCC)上将深度学习批判了一番。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

Davies说,深度学习跟大多数人印象中的并不一样,它只是一种优化程序,实际上并不是真正在“学习”。

受到攻击的重灾区,还是深度学习中的反向传播算法。

他说,反向传播与大脑无关,而只是在深度学习计算机程序中用来优化人工神经元响应的一种数学技术。

自然的反向传播例子,并不存在。

虽然他承认深度学习现在非常有效,但他也坚定地强调里,大脑才是真正智能计算的范例。

Davies死死抓住不放的“不像大脑”这个问题,也正是深度学习教父Hinton一直重视的。

不过对于这次批判本身,美国媒体ZDNet认为,他主要的攻击目标其实是Yann LeCun。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼 深度学习vs.神经形态计算之争

为何攻击LeCun?

就在周一,这位AI大牛在同一个学术会议上发言时,顺便批判了Davies在搞的神经形态计算。

神经形态计算是英特尔布局的一个重要新兴方向,在这个领域,他们推出了芯片样品Loihi。英特尔说,这种芯片可以实现自主学习,而且能耗只有传统芯片的千分之一。

而Davies就是神经形态计算实验室的负责人,主管着英特尔在这一领域的探索。他参加ISSCC会议,也是来讲Loihi的。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

Loihi用了一种名叫尖峰神经元(spiking neurons)的技术,这类神经元只有在输入样本后才能被激活。

神经形态计算倡导者们认为,这种方法更好地模拟了大脑的运行机制,比如说信号传递的过程就像大脑一样经济。

在LeCun看来,神经形态计算领域没有产生有实际效果的算法,为何要为一种没用的算法构建芯片?

不过Davies直接表达了反对,他说,神经形态计算产生的算法是有效的,LeCun忽视了神经形态计算的优势。

Davies说:“LeCun反对尖峰神经元,但他却说我们需要解决硬件中的稀疏性,尖峰神经元就是干这个的啊。”

他说,这太讽刺了。

为了驳斥对尖峰神经元的批评,Davies引用了安大略滑铁卢一个名叫应用脑科学(Applied Brain Science)的机构的数据,比较了一种语音检测算法在不同芯片上的表现。

这个算法被要求识别“aloha”这个词,并且拒绝无意义词语,这家机构在CPU、GPU和Loihi芯片上运行了这一算法。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

这份数据显示,Loihi在常规处理器上运行常规神经网络性能最佳,特别是在计算速度方面,并且能源效率更高,不过精确度会低一些。

在另一个例子中,Davies说Loihi执行的基本分类器任务的速度是传统的基于GPU的深度学习网络的40倍,准确度提高了8%。

因此,Davies认为Loihi效率高得多,可以运行规模越来越大的网络,他认为,机器人控制将会是Loihi这类神经形态芯片的杀手级应用。

Davies还从LeCun的批评挑出了他认同的一点:尖峰神经元的硬件非常充足,提供了很多工具来映射有趣的算法。

针对这句话后边隐含的“但是软件算法层面不行”,Davies说,他的团队当前目标就是在算法上取得进展,算法确实拖了这个领域的后腿。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

在推特上,也有人隔空参与了这场辩论。

有人认为,神经形态计算就像量子计算一样处在起步阶段,所以没什么可批判的。

也有人觉得深度学习已经在许多领域内取得了成果,量子计算和神经形态计算还差得远,虽然技术很尤其,但两者都没有被证实,而且都没有编程模型。

其实,这场LeCun和Davies的争斗,除了学术方面之外,另外不得不考虑的一点就是Facebook和英特尔的商业竞争。

周一,LeCun表示Facebook内部正在开发AI芯片,一旦Facebook自己的芯片研发成功,那就不需要使用英特尔的芯片了,甚至还会抢走英特尔的客户。

看完这场隔空口水战的来龙去脉,我们把目光收回到Davies指责的核心:反向传播。

训练深度学习模型离不开它,但对它的质疑也接连不断。

反向传播到底行不行?

反向传播,生于1986,出自David Plaut、Steven Nowlan、Geoffrey Hinton在卡耐基梅隆大学(CMU)时发表的Nature论文:Experiments on Learning by Back Propagation。

“深度学习不是学习”:英特尔高管与AI大牛LeCun展开互怼

△?www.cs.toronto.edu/~fritz/absps/bptr.pdf

31年后,这一概念已经随着深度学习广泛应用到了各种领域,也遇到了最大的一次危机。

它的的提出者之一、“深度学习之父”Hinton在多伦多举办的一场会议上公开提出了质疑。

他说,他对反向传播“深感怀疑”,甚至想“全部抛掉,重头再来”。因为,大脑的运作机制并不是这样的。

“不像大脑”这个问题,Hinton一直非常重视,他曾在MIT的一次讲座上说,他相信正是这些不像大脑的东西,导致人工神经网络的效果不够好。

【免责声明】本站内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

网友评论
推荐文章