基于CPU-FPGA的容错神经网络模型训练系统

发布时间：2025-06-10 03:19

　　Google、ARM和NVidia等巨头相继推出IoT方面的硬件和框架,深度学习加速器与IoT的应用结合将成为世界技术革新的新助力。然而,物端系统的实际工作环境往往极为严苛,与产品设计预期差距巨大,原本训练好的模型在实际工作环境中,可能会产生精度降低甚至失效。因此,我们基于CPU和FPGA的硬件平台提出一种神经网络模型再训练的方法,其中在FPGA上实现前向传播算法,在CPU上实现反向传播算法,两者联合起来共同完成CNN的训练。通过再训练,工作环境偏差等动态特性能够被CNN模型学习,从而提升神经网络模型在实际工作环境中的精度。最后,我们还在近似计算和软错误的场景下应用了该方法。实验表明,相比于离线训练的模型,该方法使神经网络的top5和top1精度分别平均提高5.7%和8.6%。此外,为了进一步提高CNN加速器的性能,我们对CNN加速器应用超频技术。然而,超频状态下,CNN加速器的关键路径会发生时序违规,从而导致预测精度降低,甚至造成CNN加速器崩溃。我们通过插入额外的参考图片来确定由于超频导致的精度损失,然后将其划分为微小精度损失、中等精度损失、严重精度损失和加速器崩溃四个状态。微小的精...

【文章页数】：63 页

【学位级别】：硕士

【部分图文】：

图2.2一个典型的CNNFig2.2AtypicalCNN

11图2.2一个典型的CNNFig2.2AtypicalCNN

本文编号：4050233