所有文章 > 正文

能效接近人脑!麻省理工学院研制出低能耗高效率的神经元

作者: Jansfer

时间: 2019-07-24 11:53

人类大脑是迄今为止科学界所知的最令人印象深刻的计算设备。与以千兆赫兹速度运行的现代微处理器相比,大脑像蜗牛一样以几赫兹的速度运行,但它却通过同时进行每秒上十亿次计算。这种并行性使它能够轻松解决传统计算机尚未解决的问题:驾驶,步行,交谈等等。

相关资讯:

科学家通过最小化随机递归神经网络(rRNN)实现其预测性能的新突破

深度学习算法再次赶超人类,可更快地解出魔方

与以千兆赫兹速度运行的现代微处理器相比,大脑像蜗牛一样以几赫兹的速度运行,但它却通过同时进行每秒上十亿次计算。这种并行性使它能够轻松解决传统计算机尚未解决的问题:驾驶,步行,交谈等等。更令人印象深刻的是它所做的一切所消耗的功率不会超过一只灯泡。而相比之下,世界上最强大的超级计算机使用的功率已经超过了大型城镇。这就是计算机科学家想要使用神经网络作为计算工具来复制人类大脑的计算性能的原因。这说起来容易做起来难。普通芯片可以编程为像神经网络一样工作,但这在计算上要求很高并且需要消耗很多能量。相反,计算机科学家希望建立人工神经元并将它们连接在一起,形成类似大脑的网络。这有可能显着提高能源效率,但没有人提出接近大脑效率的设计。而最近,进来自麻省理工学院的Emily Toomey和他的同事设计了一种由纳米线制成的超导神经元,这些神经元在许多方面表现得像真实的一样。他们说他们的设备与大脑的能量效率相匹配(至少在理论上),并且是新一代超导神经网络的构建模块,它将比传统计算机器更加高效。

人工制成的神经元需要遵循与生物内神经元相同的知识背景:神经元以电刺激或动作电位的形式编码沿着神经长度行进的信息。在类似脑的网络中,神经元通过称为突触的间隙彼此分离。信息可以跳过这些突触,从而影响其他神经元,导致它们以阻止它们发射的方式发射或抑制它们。实际上,这允许神经元像逻辑门一样工作,产生响应多个输入的单个输出。生物神经元具有许多使这成为可能的重要特性。例如,除非输入信号超过某个阈值水平,否则它们不会发射,并且它们不能再次发射直到某个时间过去,这一段时间称为不应期。并且尖峰沿着轴突行进的时间也是重要的,因为它编码尖峰行进的距离。

人工神经元必须能够尽可能多地再现这些特征。这通常需要一些复杂的电路。但是,Toomey和他的同事指出,超导纳米线具有独特的非线性特性,可以像神经元一样发挥作用。这种性质的产生是因为当流过它的电流超过某个阈值时,纳米线的超导性会发生故障。当发生这种情况时,电阻突然增加,产生电压脉冲。该脉冲类似于神经元中的动作电位。使用它来调制由第二超导纳米线产生的另一个脉冲使得模拟更加真实。这产生了一种简单的超导电路,具有生物神经元的许多特性。Toomey和他的同时已经验证,超导神经元具有点火阈值,不应期和行程时间,其可以根据电路特性以及其他特性进行调整。

至关重要的是,这种超导神经元也可用于触发或抑制其他神经元。而这种控制其他神经元的属性是创建网络的关键,也是其他超导神经元设计从未实现过的。而且由于超导电路使用很少的功率,Toomey和他的同事的计算表明,这种超导神经网络可以匹配生物神经网络的效率。品质因数是神经网络每秒使用瓦特功率执行的突触操作的数量。Toomey表示,他们建议的网络应该能够匹配人脑,每秒每瓦特管理大约1014个突触操作。他们说:“纳米线神经元可以从功率和速度的角度来看是一种极具竞争力的技术。”

当然,这样做也有局限性的。也许最重要的是超导神经元可以连接到少数其他神经元。相比之下,人类大脑中的每个神经元都与数千个邻居相连。目前,Toomey和他的同事的设计仍然只是一个设计。然而,模拟是有希望的。该团队表示,这里进行的分析表明,纳米线神经元是推动低功率人工神经网络发展的有希望的候选者,潜力很大。Toomey和他说,超导神经网络可能是超导神经网络形式的全新计算机硬件的基础。这些芯片可以使用超导互连联网在一起,这将导致没有散热。他们说:“结果将是一个大规模的神经形态处理器,可以作为尖峰神经网络进行训练,以执行模式识别等任务或用于模拟大型生物逼真网络的尖峰动态。”这是有趣的工作,虽然它需要一个原理验证演示才能真正开始步入正轨。

参考:: www.technologyreview.com

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多