基于混合深度学习及注意力机制的学生表现预测方法与流程

技术特征：
1.本发明为涉及机器学习、深度学习及数据挖掘等技术领域的基于混合深度学习及注意力机制的学生表现预测方法。其特征是：利用学生在线学习过程中的行为记录日志信息，首先对其进行预处理和特征提取，使用相关性特征选择(cfs)的方法来获得对预测结果有重要影响的特征。然后考虑到学习过程中的阶段性和整体性，对提取到的特征，按特征类分别进行周累计统计和全部累计统计。对于周累计统计的数据，该发明采用训练速度更快、效果更好的深层门限控制单元神经网络(deepgru)进行时序特征提取；对于全部累计统计的数据，使用深层神经网络(dnn)进行潜在特征提取。接着将提取到的时序特征和潜在特征进行拼接，但由于学习到的两类特征在量级和类别上差异较大，因此使用dnn进行高阶特征交互，学习更深层次的特征。同时考虑到不同特征对学生表现的影响程度不同，为了更好的进行预测，使用注意力机制(attention)为不同的深层次特征分配不同的权重。最后使用sigmoid分类器对学生是否能够通过某一门课程进行预测，从而提高预测的准确性。2.根据权利要求1所述的基于混合深度学习及注意力机制的学生表现预测方法，其特征是：在构建模型前，对预处理后所存在的特征使用cfs进行提取，即选择和结果相关性比较大的特征，从而摒弃了关联性低以及无效的特征，可以提高结果的预测准确性。3.根据权利要求1所述的基于混合深度学习及注意力机制的学生表现预测方法，其特征是：在考虑学生学习过程中存在的时序性时，使用了deepgru模型进行时序特征提取，该模型是一个多层的gru模型，从模型本身的参数设置上，gru比lstm少了一个“门”，并且取消进行线性自更新的记忆单元，使得相比lstm少了将近四分之一的参数，因此可以降低过拟合，提高训练效率。同时深层结构可以更有效的提取时序特征。4.根据权利要求1所述的基于混合深度学习及注意力机制的学生表现预测方法，其特征是：使用dnn对拼接后的特征进行后续处理，有效的解决两类不同模型学习到的特征在类型和量级不同所带来的问题。5.根据权利要求1所述的基于混合深度学习及注意力机制的学生表现预测方法，其特征是：通过引入attention，根据提取到的特征对最终结果影响的不同而分配不同的权重，能够快速有效的训练模型，从而提高模型的性能。

技术总结
本发明涉及机器学习、深度学习及数据挖掘等技术领域，具体是涉及基于混合深度学习及注意力机制的学生表现预测方法。利用学生在线学习日志信息，首先对其进行预处理和特征提取，使用相关性特征选择方法来获得对预测结果有重要影响的特征。然后将提取到的特征按照特征类别进行周累计统计和全部累计统计。接着将提取到的时序特征和潜在特征进行拼接，由于学习到的两类特征在量级和类别上差异较大，因此使用深层神经网络进行高阶特征交互，学习更深层次的特征。同时考虑到不同特征对学生表现的影响程度不同，使用注意力机制为不同的深层次特征分配不同的权重。最后使用sigmoid分类器预测学生是否能够通过某一门课程，从而提高预测的准确性。的准确性。的准确性。


技术研发人员：刘铁园 王畅 陈威 吴琼
受保护的技术使用者：桂林电子科技大学
技术研发日：2021.04.28
技术公布日：2021/10/23