纳米级的振荡器应该获得连续的模拟电阻，但是在实际设备中仅仅能够实现几个稳定的电阻状态。一项最近的工作提出了三种校正方法，以学习一级精度（one-level precision）的突触：

分布感知量化（DQ/distribution-aware quantization）将不同层中的权重离散到不同的数值。这个方法是基于对网络不同层的权重的观测提出的。

量化正则化（QR/quantization regularization）直接在训练过程中学习网络的离散权重。正则化可以以一个固定的梯度来减小一个权重和离它最近的量化水平之间的距离。

动态的偏置调节（BT/bias tuning）可以学习最佳的偏置补偿以最小化对量化的影响。这还可以在基于神经形态系统中的忆阻器中的减轻突触变化的影响。

这三个方法让模型实现了和当前先进水平相当的图像分类精度。使用多层感知机和卷积神经网络分别在 MNIST 数据集和 CIFAR-10 数据集上进行了实验。

表 2 中的结果表明，与基准准确率相比，当仅仅使用三种精度改善方法中的一种时，准确度会有很大的提升（分别是 1.52%，1.26% 和 0.4%）。当两种或者三种方法被同时使用时，准确率还会更高，接近于理想值。在使用卷积神经网络的时候会有同样的发现。一些组合，例如 QR+BT，与仅仅使用 QR 相比，准确度并没有提升（如表 2 所示）。这很可能是因为 MNIST 是一个相对简单的数据库，而且这三种方法对准确度的改善已经快速地达到了饱和水平。在多层感知机和卷积神经网络中，准确度下降被控制在了 0.19%（MNIST 数据集）和 5.53%（CIFRAR-10 数据集），与未使用这三种方法的系统相比，准确度的下降明显要低很多。

结论

随着机器学习算法和模型的进步，新颖的架构将会变得迫切需要。由于低功耗和高度并行化的快速计算速度，神经形态设备在人工智能和认知计算的应用中有着巨大的潜能。尽管当前的神经形态芯片仍然处于理论水平，正在朝着实际应用和市场化产品进行，研究者已经展示了一些有前景的研究。这是未来的一个方向，一个能够大大地革新计算世界的有潜力的方向。

「我一直在思考人们如何创建大规模并行的系统，我们唯一拥有的例子就是动物的大脑。我们构建了很多系统。我们制造了视网膜、耳蜗——很多东西都奏效。但是创建大规模并行系统是比我曾经的思考更大的一个任务。」

—Marver Mead

参考资料：

https://web.stanford.edu/group/brainsinsilicon/documents/MeadNeuroMorphElectro.pdf（斯坦福神经形态调子系统论文）

https://www.nextplatform.com/2017/02/11/intel-gets-serious-neuromorphic-cognitive-computing-future/（Intel 关于神经形态和认知计算的下一代平台）

（MIT 模仿人脑的芯片）

https://www.youtube.com/watch?v=cBJnVW42qL8 (Matt Grob: Brain-Inspired Computing, Presented by Qualcomm)（高通脑启发计算）

https://www.youtube.com/watch?v=_YQTp3jRMIs（神经形态--从机器到生活，TED 演讲）

https://arxiv.org/abs/1206.3227（使用自旋设备的神经形态硬件）

https://arxiv.org/abs/1703.01909（在 BrainScaleS Wafer-Scale 系统上训练深度网络）

https://arxiv.org/abs/1701.01791（神经形态系统上的分类任务）

https://arxiv.org/abs/1701.07715（纳米级自旋振荡器上的神经形态计算）

https://www.technologyreview.com/s/526506/neuromorphic-chips/（神经形态芯片）

https://science.energy.gov/~/media/bes/pdf/reports/2016/NCFMtSA_rpt.pdf（神经形态计算--从材料到系统结构）

本文为机器之心原创，转载请联系本公众号获得授权。

✄------------------------------------------------

加入机器之心（全职记者/实习生）：[email protected]

投稿或寻求报道：[email protected]

广告&商务合作：[email protected]