储备池计算硬件实现方案研究进展

发布时间：2020-02-10 10:05

【摘要】：储备池计算是一种适合处理时序信号的简单高效的机器学习算法。相比在传统电子计算机上用软件实现的方式,储备池计算在光器件上的实现方式将更有利于超高速和超低功耗的信息处理。介绍了储备池计算的基本原理,从输入层、储备池和输出层三个方面介绍了储备池计算硬件实现方案的研究进展,指出了储备池计算硬件实现方案发展中存在的问题,并展望了其未来发展趋势。
【图文】：

示意图,示意图,节点状态,输出连接

序列预测、非线性系统建模、语音识别和自动控制等领域获得了成功应用［８－１１］，，而且赢得了一次关于财经数据预测的国际竞赛［１２］。储备池计算早期是在电子计算机上利用软件实现，但在对光器件和光系统的深入研究中，研究人员将光信息处理和储备池计算联系起来，用硬件实现了储备池计算。本文介绍了储备池计算的基本原理和储备池计算硬件实现方案研究进展，并指出了储备池计算硬件发展中存在的问题，同时展望了其未来发展趋势。２储备池计算基本原理传统的储备池计算由输入层、储备池和输出层构成，如图１所示［１３］。输入信号通过输入层进入储备池，在储备池中被非线性映射到高维状态空间，输出层根据节点状态和训练过程中确定的输出连接权产生输出信号，然后进行预测任务或者分类任务。训练过程中一般根据一个线性回归算法确定输出连接权。储备池系统的节点状态更新方程和输出方程为ｘ（ｎ＋１）＝ｆｒｅｓＷｉｎｕ（ｎ＋１）＋Ｗｒｅｓｘ（ｎ）＋Ｗｂａｃｋｙ（ｎ［］），（１）ｙ（ｎ＋１）＝ｆｏｕｔＷｏｕｔｘ（ｎ＋１［］），（２）式中ｘ（ｎ）为节点状态，ｕ（ｎ）为输入信号，ｙ（ｎ）为输出信号，ｎ为时间步数，Ｗｉｎ、Ｗｒｅｓ、Ｗｏｕｔ和Ｗｂａｃｋ分别为输入连接权、内部连接权、输出连接权和反馈连接权，ｆｒｅｓ和ｆｏｕｔ分别为节点状态激活函数和输出函数，ｆｒｅｓ一般为双曲正弦函数，ｆｏｕｔ一般为恒等函数。图１传统的储备池计算示意图Ｆｉｇ．１Ｓｃｈｅｍａｔｉｃｄｉａｇｒａｍｏｆｔｒａｄｉｔｉｏｎａｌｒｅｓｅｒｖｏｉｒｃｏｍｐｕｔｉ

示意图,物理节点,示意图,延迟反馈

５４，０８０００５（２０１７）激光与光电子学进展ｗｗｗ．ｏｐｔｉｃｓｊｏｕｒｎａｌ．ｎｅｔ不宜集成。不过，如果未来半导体光放大器等光器件可以更加小型化且光集成技术取得突破性进展的话，这种方式将具有更大的应用价值。图２用大量物理节点实现储备池示意图Ｆｉｇ．２Ｓｃｈｅｍａｔｉｃｄｉａｇｒａｍｏｆｒｅｓｅｒｖｏｉｒｕｓｉｎｇｎｕｍｅｒｏｕｓｐｈｙｓｉｃａｌｎｏｄｅｓ为了克服第一种思路中使用大量物理节点带来的诸多不便，产生了第二种思路，就是用单个非线性节点加延迟反馈环构成储备池。由于延迟反馈非线性动力学系统具有丰富的非线性状态，在不同的反馈强度下，可以产生诸如单周期振荡［１８－１９］、混沌［２０－２１］等非线性状态。因此，可以用一个延迟反馈非线性动力学系统取代很多个物理节点，降低储备池计算硬件实现的难度。而且延迟反馈非线性动力学系统具备储备池所要求的特征，如高维状态空间［１３，２２－２３］和渐衰记忆能力［１３，２４－２５］。第二种硬件实现方式一般用一个延迟反馈非线性动力学系统构成储备池，其结构如图３所示，图中ＮＬｎｏｄｅ为非线性节点。根据时分复用思想，在延迟反馈环上设置虚节点来代替传统的储备池中的节点，从而大大简化了用硬件实现储备池计算的结构。用这种方案进行信息处理需要经历三个过程：掩模预处理、储备池中收集节点状态和后处理。图３用单个非线性节点加延迟反馈环构成的储备池示意图Ｆｉｇ．３Ｓｃｈｅｍａｔｉｃｄｉａｇｒａｍｏｆｒｅｓｅｒｖｏｉｒｕｓｉｎｇａｓｉｎｇｌｅｎｏｎｌｉｎｅａｒｎｏｄｅａｎｄａｄｅｌａｙｆｅｅｄｂａｃｋｌｏｏｐ针对单个非线性节点加延迟反馈环构成储备池的方式有

【相似文献】