注意力机制与改进RNN的混合音乐推荐算法研究

发布时间：2025-05-07 02:12

　　 该算法由独立循环神经网络算法与注意力机制共同组成的深度神经网络实现,并在数据预处理阶段对用户收听历史记录的音频使用散射变换进行预处理.通过散射变换提取用户收听历史记录音频特征,再将此特征与用户画像共同通过混合注意力机制的独立循环神经网络得出推荐列表.仿真结果表明,文中给出的算法与已有的IndRNN(循环神经网络)和基于LSTM(长短期记忆网络)的音乐推荐算法相比,分别提高了7.8%和20.9%的推荐准确度.

【文章页数】：6 页

【部分图文】：

图1 AIRNN混合模型框架图

音乐推荐算法的任务是为用户推荐喜爱的歌曲，将音乐分为用户喜爱与不喜爱两类，因此，该任务可以归结为二分类问题．混合注意力机制的独立循环神经网络音乐推荐算法(AttentionIndependentRecurrentNeuralNetwork,AIRNN)是在深度学习RNN的....

图2 AIRNN推荐算法结构图

本文通过叠加IndRNN的基础结构构建一个深度的IndRNN网络，并将网络输入的处理方式由全连接改为残差连接并引入注意力机制，给出一种混合注意力机制的AIRNN音乐推荐算法．算法结构图如图2所示．在每一个时间步长内，借助Relu非饱和激活函数，梯度可以恒等映射并直接传播到其他层．....

图3 AIRNN算法流程图

对式(15)取似然负对数作为损失函数可得的交叉熵损失函数为:AIRNN算法流程图如图3所示．首先按照顺序从歌曲列表中取出数据，并将数据分为音频数据和用户画像两部分，随后把用户历史音乐音频数据进行散射变换，并将从中提取的特征作为AIRNN算法的输入，同时将用户画像数据输入到DNN模....

图4 不同数据预处理方式对算法准确度的影响

首先设置两个仿真实验组对照MFCC和ST预处理对算法的影响，两组使用相同的5层AIRNN网络．从图4中可以看出，在训练达到70个epoch时，使用散射变换预处理的仿真组比使用梅尔倒谱系数的仿真组准确度高15%．这是由于使用梅尔倒谱系数预处理会使音频信息缺失时间尺度为25ms以上的....

本文编号：4043441