人工神经元无监督学习
受人类大脑功能方式的启发,苏黎世 IBM 研究院的一组科学家模仿了神经元的尖峰方式,例如当我们触摸热板时。这些所谓的人工神经元可用于检测模式并发现大数据中的相关性,其功率预算和密度与生物学中所见的相当,这是科学家几十年来努力实现的目标。他们还可以在没有监督的情况下使用很少的能量高速学习。
题为“随机相变神经元”的论文今天出现在Nature Nanotechnology的封面上 , 概述了研究及其发现。
我采访了该论文的合著者和 IBM 研究院——苏黎世科学家 Manuel Le Gallo,他目前正在苏黎世联邦理工学院攻读博士学位。
人工神经元的功能如何?
曼努埃尔·勒加洛: 神经元具有我们称之为“整合和激发”的特定功能。神经元充当累加器——如果你不断向神经元发送多个输入,神经元将整合所有这些输入。根据输入的数量及其强度,膜电位将达到某个阈值,神经元将“激发”或“尖峰”。这样的累加器可用于执行极其复杂的计算任务。
人脑如何激发人工神经元的发展?
机器学习: 人造神经元旨在模仿生物神经元的作用。人工神经元不会具有完全相同的功能,但仍然足够接近,您可以使用这些神经元实现大脑执行的计算。通常,人工神经元是使用基于 CMOS 的电路构建的,这是我们计算机中的标准晶体管技术。我们的论文侧重于使用非 CMOS 器件(例如相变器件)以降低的功耗和增加的面密度重现类似的功能。
你对这篇论文有什么贡献?
机器学习: 我们从过去三年中所做的表征和建模工作中获得了对相变器件物理的理解。这对于设计基于这些设备的人工神经元并了解其功能至关重要。此外,我还获得了论文中提供的一些实验数据,并对结果的分析和解释做出了贡献。
“我们认为我们的方法会更有效,尤其是在处理大量数据时。”
—Manuel Le Gallo,IBM 研究科学家
人工神经元可以应用于哪些环境?
机器学习: 在我们的论文中,我们演示了如何从多个事件流中检测相关性。假设您有多个二进制事件流,并且您想找出哪些流是临时相关的,例如,当 1 并发发生时。
在论文中,我们展示了如何从多个事件流中检测相关性。
事件是什么意思?
机器学习: 例如,事件可以是 Twitter 数据、天气数据或物联网收集的传感数据。假设您有多个二进制事件流,并且您想找到哪些流是临时相关的,例如当 1 并发时。我们在论文中展示了如何仅使用一个与接收事件的多个塑料突触相连的神经元来进行这种区分。
是什么让神经形态计算比传统计算更高效?
机器学习: 在传统计算中,我们有一个单独的内存和逻辑单元。无论何时要执行计算,您都必须首先访问内存,获取数据,并将其传输到逻辑单元,逻辑单元将返回计算结果。每当你得到结果时,你必须将它发送回内存。这个过程不断地来回循环。因此,如果您正在处理大量数据,这将成为一个真正的问题。
在神经网络中,计算和存储位于同一位置。您不必在逻辑和内存之间建立通信;你只需要在不同的神经元之间建立适当的连接。这是我们认为我们的方法会更有效的主要原因,尤其是在处理大量数据时。
曼努埃尔·勒加洛 来到苏黎世,在瑞士联邦理工学院 (ETH Zurich) 攻读电气工程硕士学位。他在 IBM 完成了他的论文,那里的工作机会符合他的背景和兴趣。他目前正在攻读博士学位。
关于作者: 米利安·盖尔 是 IBM Research – Zurich 的暑期实习生,他正在那里采访科学家,以了解他们的工作和动机。秋季,他将开始在普林斯顿大学攻读计算机科学专业。
纳米材料