AI 可以利用磁力实现类似人类的效率
- 磁铁可以帮助人工智能在识别物体方面达到类似人类的效率。
- 研究人员开发了新网络,使用更少的能量和内存来执行类似于大脑计算的任务。
神经元的电动力学与纳米磁铁的开关动力学非常相似。磁性隧道结设备表现出的开关行为本质上是随机的。由于这种行为代表了神经元的 sigmoid 转换行为,因此可以利用磁结来存储突触权重。
利用磁铁的这种特殊特性,普渡大学的研究人员开发了一种方法,可以帮助人工智能 (AI) 驱动的机器人在识别物体方面达到类似人类的效率。
该方法涉及将磁学与类脑网络相结合,以教无人机、自动驾驶汽车和机器人等机器更好地概括多个对象。
一种新算法
尖峰神经网络 (SNN) 为实现智能神经形态系统提供了一种有前景的替代方案,与传统神经网络相比,该系统需要更少的计算资源。这些网络以稀疏尖峰事件的形式编码和传输数据。
在这项研究中,研究人员使用尖峰时间依赖可塑性 (STDP) 开发了一种新的随机训练算法,称为 Stochastic-STDP。它是一个深度残差卷积 SNN,称为 ReStoCNet,由二进制内核组成,用于内存高效的神经形态计算。
参考:前沿 | doi:10.3389/fnins.2019.00189 |普渡大学
利用磁铁的内在随机行为,研究人员根据新算法随机切换磁化相位。然后,他们在推理过程中使用训练过的突触权重,这些权重在纳米磁铁的磁化阶段进行了确定性编码。
基于 STDP 的概率学习规则结合 Hebbian 和 anti-Hebbian 学习方法,以分层无监督的方式训练由 ReStoCNet 组成的二进制内核,用于分层输入特征提取。
图片来源:普渡大学
该团队使用高能势垒磁铁来实现紧凑的随机基元,并使其可以使用与稳定存储元件相同的设备。
他们在两个不同的公开可用数据集上验证了 ReStroCNet 的效率,并表明残差连接允许深度卷积层学习有价值的高级输入特征,并最大限度地减少没有残差连接的 SNN 产生的损失。
它有什么用?
新网络能够同时表示神经元和突触,同时减少执行类似于大脑计算的任务所需的能量和记忆量。
这些类脑网络可以解决困难的优化问题,例如图着色和旅行商问题。这项工作中提出的随机设备可以充当“自然退火器”并帮助算法摆脱局部最小值。
阅读:光在新的量子模拟器中充当磁铁
更具体地说,具有内存效率高的概率学习和事件驱动计算的 ReStoCNeT 非常适合实现基于 CMOS 的神经形态硬件和随机新兴设备技术,如相变存储器、电阻随机存取存储器,可提高电池中的存储器效率。供电设备。
工业技术