忆阻多层神经网络的设计及其应用

忆阻多层神经网络的设计及其应用

人工神经网络理论发展至今,已经日趋成熟,其硬件上的实现有望构成非冯·诺伊曼结构的计算机系统。由于晶体管工艺的局限性,传统计算机系统中基于晶体管的集成电路体积已经缩小到了极限,很难再继续满足摩尔定律。用新型材料的电路设备取代晶体管已成为了研究热点。忆阻作为最有希望取代晶体管的新型设备之一,具有许多优良的性质,比如非易失性、高集成度、低功耗、良好的可扩展性等,被用于研发新型的存储器和神经计算系统。忆阻单层神经网络在芯片上的实现有望彻底改变计算机处理信息的方式,构建非冯·诺依曼计算机系统。而忆阻多层神经网络的设计仍然是一个难题,其应用前景十分广泛,可用于逻辑运算、图像处理、模式识别等领域。本论文首先根据某一特定材料制成的忆阻设备的测试结果,即忆阻真实设备两端施加正弦信号时电压电流变化的Ⅰ-Ⅴ曲线以及忆阻阻值在正负不同电压下随时间的变化曲线,以行为级建模为主,通过参数拟合的方式逼近忆阻真实设备所表现出来的特性。更进一步地,通过对相关模型参数的测试与优化,增加模型的兼容性使之可以模拟更多不同材料特性的忆阻设备。对单忆阻神经突触进行研究,用一个忆阻通过与固定的电阻连接到反相器,实现具有正负权值的神经突触。利用忆阻能通过控制所施加的脉冲数量来连续调整忆阻阻值的特性,突触权值由一个忆阻神经突触来表示并保存,在对突触权值调整过程中考虑到每一步的误差因素,构建对噪声容忍度高的忆阻神经网络电路。将对能用电路实现的忆阻神经网络算法进行研究,其中可以采用的算法有反

向传播(BP)算法、赢者通吃算法、随机调整算法等。根据不同的算法可以搭建不同的忆阻神经网络电路。根据具体电路设计基于忆阻的神经网络学习训练算法,使忆阻神经网络可以在硬件上实现相应的逻辑运算和模式识别功能。本文从四个方面对基于忆阻的多层神经网络的设计和应用进行了较深入的研究,主要的创新工作及研究成果如

下:(1)根据最新的忆阻真实设备的测试数据,建立一种新型的更加符合忆阻本质特性的忆阻数学模型和电路模型,该模型可以模拟多种不同材料的真实忆阻器设备;(2)充分利用忆阻的记忆特性和内在阻值

随施加电压变化而改变的特性,设计新型的忆阻神经元突触,该突触

电路体积更小、功耗更低、不受漏电流影响、能持续多次正确调整权值;(3)利用忆阻的非易失性、纳米级尺寸、以及功耗低等特性,设计一种新型的具有容错性好、稳定性强等优点的忆阻多层神经网络电路;(4)根据具体突触电路,设计新型的基于忆阻多层神经网络的算法,为忆阻多层神经网络的应用打下基础。将稳定的能够容忍噪声的忆阻多层神经网络应用到逻辑运算和模式识别功能中,在考虑误差因素的忆阻神经网络中实现学习训练功能,正确的完成相应的逻辑运算和模式识别功能,且设计的忆阻神经网络学习训练速度更快、误差更小、噪声容忍性更好。本文的研究成果可以为硬件实现更大规模的忆阻多层神经网络电路奠定基础,实现更加复杂更加具有实践意义的功能,

比如图像识别中的人脸识别功能。将机器学习和深度学习最近的算法理论应用到忆阻神经网络的硬件中去,实现计算机视觉、语音识别、自然语言处理等其他领域的相关功能。