一种学生个性化的时间间隔感知注意力机制知识追踪方法

1.本发明具体涉及一种学生个性化的时间间隔感知注意力机制知识追踪方法。


背景技术：

2.随着教育信息化的进一步发展，大规模在线开放课程(mooc)平台和在线裁判(oj)系统等在线学习系统大量涌现。一般来说，这些平台为学生提供了丰富的学习资源(如课程、练习、讲座)，并为他们提供了一个开放的环境，让他们按照自己的节奏学习和实践知识。自主性和便捷性的优势已经引起了公众的关注和重视。针对这一问题，有效的解决方案是在线学习系统中提供个性化服务，以改善学生的学习体验。其中，最基本的任务之一就是知识追踪。
3.知识追踪是基于历史数据对学生的知识状态进行建模，它代表了学生对知识的掌握程度。教育研究中的两个重要理论为学生知识能力的建模提供了基本的思路。学习曲线理论认为学生可以通过不断的练习或练习来获得知识，遗忘曲线理论认为学生对所学知识的记忆力下降，因此他们的知识熟练程度呈下降曲线。基于注意力机制的知识追踪研究通过计算交互数据中新习题与历史习题的相似度来预测学生对新习题的掌握程度。然而，学习曲线和遗忘曲线对知识追踪的影响被忽略。不同学生的学习序列中，会存在一些相同的学习序列片段，采用现有的方法会认为学生对这些习题或知识点的掌握程度是相同的，这与现实是违背的。例如，学生具有相同的学习序列，不同的完成时间间隔，那么在教育理论的影响下，他们对这些习题的掌握程度是不一样的。


技术实现要素：

4.发明目的：本发明的目的是克服现有技术缺陷，提供一种学生个性化的时间间隔感知注意力机制知识追踪方法，以期能通过学生的个性化学习时间间隔、位置和学习序列信息，获取学生新习题受历史习题的影响权重，达到提高知识追踪效果的目的。
5.技术方案：本发明提供的一种学生个性化的时间间隔感知注意力机制知识追踪方法，实现步骤如下，包括以下步骤：
6.(1)收集并整理学生做题过程中历史交互学习数据以及对应的时间序列，设计并实现学生个性化的时间间隔关系矩阵；
7.(2)对习题序列、学习序列、绝对位置和个性化时间间隔进行向量表征；
8.(3)建立时间感知注意力机制计算历史完成习题对后续新习题的影响权重，基于该权重总结每个节点学生的初始知识状态；
9.(4)利用全连接层对初步总结的学生的历史知识状态进行融合，追踪学生学习过程中不断变化的知识状态pi。
10.进一步地，所述步骤(1)包括以下步骤：
11.(1.1)学生s∈s，s是学习系统的学生集合，习题e∈e，e是学生系统的习题集合，学生s的学习序列表示为：
12.s＝{χ1,χ2,
…
χn}＝{(e0,a0),(e1,a1),
…
(en,an)}
13.其中，χ
t
＝(e
t
,a
t
)表示学生s在t时刻是否答对习题e
t
，a
t
∈{0,1}，学习序列s转化为s＝{s1,s2…
sn|sn＝en an×
e}；学生s的答题时间序列表示为t＝(t1,t2,
…
tn)，n为序列处理考虑的最大值；
14.(1.2)学生s练习的习题i和j的时间间隔|t
i-tj|，学生s的时间间隔列表表示为rs，其最小值学生u的个性化时间间隔为：
[0015][0016]
计算出所有习题的时间间隔关系，学生s的练习习题间的时间间隔关系矩阵ms为：
[0017][0018]
假设精确的相对时间间隔在超过一定的阈值后是没有用的，对mu进行裁剪，使间隔时间最大值不超过k，得到裁剪后的矩阵m
uclipped
。
[0019]
进一步地，所述步骤(2)包括以下步骤：
[0020]
(2.1)习题序列编码矩阵e∈re×d，学习序列编码矩阵x∈r
2e
×d；查找检索前n项习题序列编码和学习序列编码并将其堆叠在一起：
[0021][0022]
(2.2)定义两个可变位置编码矩阵通过检索，得到编码和
[0023][0024]
(2.3)定义两个可变时间间隔编码通过检索m
uclipped
后，得到编码和
[0025][0026]
进一步地，所述步骤(3)包括以下步骤
[0027]
(3.1)在学习交互数据中，同时考虑位置和时间间隔，计算当前习题与历史习题的相似度：
[0028][0029]
其中，wq∈rd×d，wk∈rd×d是注意力机制的查询和值的映射，在维数过大时，用来避免內积过大；
[0030]
(3.2)使用softmax函数进行加权计算，得到权重影响因子a
ij
：
[0031][0032]
(3.3)通过计算学习交互与位置和时间间隔编码的线性加权和，加权系数，获取历史习题对新预测习题的影响最终权重：
[0033][0034]
其中，wv∈rd×d是值的输入投影；
[0035]
(3.4)利用前馈网络对最终权重进行处理，采用rule()激活函数使线性模型具有非线性，处理如下：
[0036]
f＝ffn(zi)＝relu(ziw
(1)
b
(1)
)w
(2)
b
(2)
[0037]
其中，w
(1)
,w
(2)
∈rd×d，b
(1)
,b
(2)
∈rd，将该过程统一为表示为函数ffn()。进一步地，所述知识状态pi为：
[0038]
pi＝sigmoid(fw b)
[0039]
其中，fi是f的第i行，w表示权值，b表示偏差，激活函数
[0040]
有益效果：与现有技术相比，本发明的有益效果：本发明有效利用学生练习每道题的不同时间间隔，挖掘不同学生在相同学习序列下不同的知识掌握情况；提高知识追踪的准确度，为之后的自适应研究打下良好的基础；同时通过为每个学生提供最佳和个性化的学习体验，为在线学习带来巨大的教育效益。
附图说明
[0041]
图1为本发明的流程图。
具体实施方式
[0042]
下面结合附图对本发明作进一步详细说明。
[0043]
本发明提供一种学生个性化的时间间隔感知注意力机制知识追踪方法，如图1所示，包括以下步骤：
[0044]
(1)收集并整理学生做题过程中历史交互学习数据以及对应的时间序列，设计并实现学生个性化的时间间隔关系矩阵。具体实现过程如下：
[0045]
(1.1)学生s∈s，s是学习系统的学生集合，习题e∈e，e是学生系统的习题集合，学生s的学习序列表示为s＝{χ1,χ2,
…
χn}＝{(e0,a0),(e1,a1),
…
(en,an)}，χ
t
＝(e
t
,a
t
)表示学生s在t时刻是否答对习题e
t
，a
t
∈{0,1}，学习序列s转化为s＝{s1,s2…
sn|sn＝en an×
e}。学生s的答题时间序列表示为t＝(t1,t2,
…
tn)，n为序列处理考虑的最大值。
[0046]
(1.2)学生s练习的习题i和j的时间间隔|t
i-tj|，学生s的时间间隔列表表示为rs，其最小值学生u的个性化时间间隔可以表示为：
[0047][0048]
以公式(1)，计算出所有习题的时间间隔关系，学生s的练习习题间的时间间隔关系矩阵ms可以表示为公式(2)：
[0049][0050]
假设精确的相对时间间隔在超过一定的阈值后是没有用的，对ms进行裁剪，使间隔时间最大值不超过k，得到裁剪后的矩阵m
uclipped
。
[0051]
(2)对习题序列、学习序列、绝对位置和个性化时间间隔进行向量表征。具体实现如下：
[0052]
(2.1)习题序列编码矩阵e∈re×d，学习序列编码矩阵m∈r
|2e|
×d。
[0053]
查找检索前n项习题序列编码和学习序列编码并将其堆叠在一起得到和分别表示为：
[0054][0055]
(2.2)定义两个可变位置编码矩阵通过检索，得到编码和分别表示为：
[0056][0057]
(2.3)定义两个可变时间间隔编码通过检索m
uclipped
后，得到编码和分别表示为：
[0058][0059]
(3)建立时间感知注意力机制计算历史完成习题对后续新习题的影响权重，基于该权重总结每个节点学生的初始知识状态。具体实现过程如下：
[0060]
(3.1)在学习交互数据中，同时考虑位置和时间间隔，计算当前习题与历史习题的相似度，具体计算方式为：
[0061][0062]
其中，wq∈rd×d，wk∈rd×d是注意力机制的查询和值的映射，在维数过大时，用来避免內积过大。
[0063]
(3.2)使用softmax函数进行加权计算，得到权重影响因子a
ij
：
[0064][0065]
(3.3)通过计算学习交互与位置和时间间隔编码的线性加权和，加权系数a
ij
由公式(7)给出，获取历史习题对新预测习题的影响最终权重：
[0066][0067]
其中，wv∈rd×d是值的输入投影。
[0068]
(3.4)利用前馈网络对最终权重进行处理，采用rule()激活函数使线性模型具有非线性，处理如下：
[0069]
f＝ffn(zi)＝relu(ziw
(1)
b
(1)
)w
(2)
b
(2)
(9)
[0070]
其中，w
(1)
,w
(2)
∈rd×d，b
(1)
,b
(2)
∈rd，将该过程统一为表示为函数ffn()。
[0071]
(4)利用全连接层对初步总结的学生的历史知识状态进行融合，追踪学生学习过程中不断变化的知识状态pi：
[0072]
pi＝sigmoid(fiw b)(10)
[0073]
其中，fi是f的第i行，w表示权值，b表示偏差，激活函数
[0074]
本发明有效利用学生练习每道题的不同时间间隔，挖掘不同学生在相同学习序列下不同的知识掌握情况；本发明有利于提高知识追踪的准确度，为之后的个性化研究打下良好的基础。同时通过为每个学生提供最佳和个性化的学习体验，为在线学习带来巨大的教育效益。