基于持续时间隐状态模型的问答参与度评估方法及系统

摘要: 本发明涉及人机通信,具体涉及基于持续时间隐状态模型的问答参与度评估方法及系统。背景技术:1、专利cn111801730b公开了“用于人工智能驱动的自动伴侣的系统...
基于持续时间隐状态模型的问答参与度评估方法及系统

本发明涉及人机通信,具体涉及基于持续时间隐状态模型的问答参与度评估方法及系统。

背景技术:

1、专利 cn111801730b公开了“用于人工智能驱动的自动伴侣的系统和方法”。该方案接收对话场景中的多模态输入,提取表征用户状态及场景的信息,生成对话当前状态,并结合对话树、历史对话数据及学习得到的效用确定响应消息。该方案解决的是如何依据当前用户状态生成或选择后续响应,侧重在线对话控制。其未给出面向已完成对话数据的短窗口行为机会构造方法,未以响应间隔的分段符号序列建模潜在参与阶段,也未将状态持续轮数与对话级参与度评分连接为可解释的离线评估闭环。

2、专利 cn113170076b公开了“一种用于通信会话的方法和系统”。该方案收集私人聊天、多用户编辑、小组会议或直播等通信会话的上下文数据,并利用智能过滤技术生成和选择序列事件,以调整用户界面布局、音量、相机角度或特殊效果,从而优化用户参与度。该方案的输出是面向会话呈现和交互控制的事件序列,其并不针对机器回复后的短时间行为响应建立离散观测序列,也未公开基于状态特异的持续时间分布识别参与阶段,因而难以直接用于从历史消息时间戳得到可比较、可解释的会话级短窗口参与度。

3、yu 在《artificial intelligence》发表的综述“hidden semi-markov models”系统说明了隐半马尔可夫模型对状态驻留时间进行显式建模的基本原理、前向后向推断以及多类应用。该文献提供通用模型基础,但没有规定对话场景中如何由消息角色、回复锚点和限时窗口生成参与观测,也没有给出面向窗口终止语义的符号体系及对话评分方法。

4、可见现有技术分别公开了响应时间或多模态线索分析、对话状态驱动、用户参与优化以及通用 hsmm 建模,无法形成可解释且避免长期留存误判的短窗口参与度评估闭环。

技术实现思路

1、有鉴于此,本发明提供了基于持续时间隐状态模型的问答参与度评估方法及系统,从原始消息时间戳形成具有统一机会定义和时间语义的观测序列,并以 hsmm 学得的发射概率和逐机会状态后验作为评分主体,从而形成可解释且避免长期留存误判的短窗口参与度评估闭环。

2、为达到上述目的,本发明提供的基于持续时间隐状态模型的问答参与度评估方法,其技术方案包括如下步骤:

3、步骤1:将对话问答数据库中的对话信息,将对应的扁平消息记录恢复为按对话分组并排序的消息流。

4、步骤2:以每条机器回复作为反应机会锚点,寻找其后的第一条用户消息并计算响应间隔;将响应间隔编码为离散观测符号,生成会话级响应符号序列。

5、步骤3:将会话级响应符号序列输入显式持续时间隐半马尔可夫模型hsmm,学习潜在参与状态、状态转移关系、各状态的持续机会数分布以及对离散观测符号的发射概率,计算各状态的发射对比量。

6、步骤4:根据各状态的发射对比量经 sigmoid 映射获得状态校准分,结合各反应机会属于不同状态的后验概率和状态响应性进行归一化聚合,得到基础后验参与分;进一步计算终止后验质量,并根据终止惩罚因子对基础后验参与分进行修正,最终输出零至一范围的对话参与度评分。

7、进一步地,响应间隔为:

8、

9、其中,为响应间隔,下标

i为对话索引,下标t为对话内反应机会索引,为第个对话第次机器回复结束时间;为对应的下一用户消息时间。

10、进一步地,将响应间隔编码为离散观测符号,生成会话级响应符号序列,具体为:0~30秒编码为f,30~120秒编码为m,120~300秒编码为r,300~600秒编码为l,观察窗口内无有效响应编码为c,由此生成会话级响应符号序列。

11、进一步地,hsmm 具体为:以潜在响应状态、初始状态分布、状态转移矩阵、发射概率矩阵和显式持续时间分布表示对话中不可直接观测的响应行为过程,并采用期望最大化迭代,按照式(2)对模型参数进行学习:

12、

13、其中,为hsmm模型参数集合,为从模型参数集合中选定的参与度评分模型,其发射概率矩阵为,为初始状态分布,a为状态转移概率矩阵,b为发射概率矩阵,p为状态持续时间分布;为第i个对话的观测符号序列,为在参数下生成该观测序列的似然,n为参与训练的对话序列数量;

14、各状态的发射对比量为:

15、

16、其中为状态的发射对比量,为评分模型状态k发射符号编码为f的概率,为评分模型状态k发射符号编码为m的概率,为评分模型状态k发射符号编码r的概率,为评分模型状态k发射符号编码l的概率,为发射在状态对比中的惩罚系数,为评分模型状态k发射符号编码为c的概率;快速响应对应符号和的发射概率,慢速响应对应符号和的发射概率,无响应对应符号的发射概率。

17、进一步地,状态校准参与分和状态响应性分别为:

18、

19、

20、其中,为状态的校准参与分,

a为sigmoid 尺度参数,b为sigmoid 偏置参数,为状态的发射对比量,为状态的响应性;

21、对第个对话,响应性后验归一化因子和基础后验参与分为:

22、

23、

24、其中为对话的响应性后验归一化因子,为对话的基础后验参与分,为机会属于状态的后验概率,为状态的响应性, k为隐状态索引总数;为第i个对话的有效反应机会数量。

25、进一步地,终止后验质量、惩罚因子及最终参与度为:

26、

27、

28、

29、其中为对话的终止后验质量,为对话的终止惩罚因子,为终止后验惩罚系数,为对话的基础后验参与分,为第个对话的参与度分数。

30、本发明另外一个实施例还提供了基于持续时间隐状态模型的问答参与度评估系统,包括数据接入层、序列观测层、模型训练与推断层、以及参与度输出层。

31、数据接入层包括消息数据接入模块、会话重建与质量控制模块。

32、消息数据接入模块读取消息数据,至少包含对话标识、消息顺序、消息角色、消息文本和消息时间戳的记录。

33、对话重建与质量控制模块,按对话标识聚合消息,优先依据消息顺序排序,并用时间戳处理重复顺序或辅助发现顺序冲突;连续用户消息合并时取第一条时间作为用户行为起点;连续机器消息合并时取最后一条时间作为完整机器回复结束点,从而避免拆分消息扭曲响应间隔。

34、序列观测层包括反应机会构造模块、限时行为符号编码模块、会话序列生成模块。

35、反应机会构造模块,用于将每条机器回复定义为一次反应机会,检索其后的第一条用户消息。

36、限时行为符号编码模块:计算机器回复结束到下一用户消息之间的时间差,根据递增阈值映射为即时、短时、延迟和长延迟反应符号;无下一用户消息或时间差超过窗口上限时,映射为窗口终止符号。

37、对话序列生成模块:按照机器回复机会的先后顺序,把同一对话的符号组成离散序列,并过滤长度低于最小要求的序列。

38、模型训练与推断层包括多状态数持续时间续联模块、参与度评分模型模块、状态解码模块。

39、多状态数持续时间训练模块,分别训练多个离散 hsmm,通过分段前向后向算法和期望最大化迭代估计模型参数,并从候选模型中选择用于参与度评估的主模型。

40、参与度评分模型模块,选用具有足够状态容量的评分模型对同一对话序列执行前向后向推断,得到逐反应机会状态后验概率,采用五个隐状态,使 f/m/r/l/c 类型的观测模式具有被不同状态吸收的容量。

41、状态解码模块:利用分段 viterbi 算法获得最可能状态路径和状态段,同时保留逐机会状态后验概率,输出主导状态、基础后验分、终止后验质量、惩罚因子、最终参与度、平均最大后验概率及状态校准元数据,以便追溯评分来源。

42、参与度输出层包括发生对比校准模块、对话参与度计算模块、报告输出模块。

43、发射对比校准模块,对评分模型每个状态的发射概率计算“快速反应概率之和减去慢速反应概率之和及 c 发射惩罚”的对比量,再经具有尺度和偏置参数的 sigmoid 函数映射到零至一,形成状态校准分。

44、对话参与度计算模块,对状态后验概率加权并归一化,形成基础参与分;再计算逐机会后验与各状态 c 发射概率的乘积均值作为终止后验质量,并据此形成非负终止惩罚因子,得到最终对话参与度。

45、进一步地,对话序列生成模块,将响应间隔编码为离散观测符号,生成会话级响应符号序列,具体为:0~30秒编码为f,30~120秒编码为m,120~300秒编码为r,300~600秒编码为l,观察窗口内无有效响应编码为c,由此生成会话级响应符号序列。

46、进一步地,多状态数持续时间训练模块,hsmm 具体为:以潜在响应状态、初始状态分布、状态转移矩阵、发射概率矩阵和显式持续时间分布表示对话中不可直接观测的响应行为过程,并采用期望最大化迭代,按照式(2)对模型参数进行学习:

47、

48、其中,为hsmm模型参数集合,为从模型参数集合中选定的参与度评分模型,其发射概率矩阵为,为初始状态分布,a为状态转移概率矩阵,b为发射概率矩阵,p为状态持续时间分布;为第i个对话的观测符号序列,为在参数下生成该观测序列的似然,n为参与训练的对话序列数量;

49、参与度评分模型模块,获得各状态的持续机会数分布以及对f、m、r、l、c的发射概率;快速响应包括符号和,即经时间补偿后的响应间隔大于0秒且不超过120秒;慢速响应包括符号和,即响应间隔大于120秒且不超过600秒;观察窗口内不存在有效后续用户消息或者响应间隔超过600秒时,记为窗口终止符号。

50、进一步地,发射对比校准模块采用如下方式计算状态校准分:

51、各状态的发射对比量为:

52、

53、其中为状态的发射对比量,为评分模型状态k发射符号编码为f的概率,为评分模型状态k发射符号编码为m的概率,为评分模型状态k发射符号编码r的概率,为评分模型状态k发射符号编码l的概率,为发射在状态对比中的惩罚系数,为评分模型状态k发射符号编码为c的概率;快速响应对应符号和的发射概率,慢速响应对应符号和的发射概率,无响应对应符号的发射概率;

54、状态校准参与分和状态响应性分别为:

55、

56、

57、其中,为状态的校准参与分,

a为sigmoid 尺度参数,b为sigmoid 偏置参数,为状态的发射对比量,为状态的响应性;

58、对第个对话,响应性后验归一化因子和基础后验参与分为:

59、

60、

61、其中为对话的响应性后验归一化因子,为对话的基础后验参与分,为机会属于状态的后验概率,为状态的响应性, k为隐状态索引总数;为第i个对话的有效反应机会数量;

62、对话参与度计算模块,采用如下方式计算最终对话参与度:

63、终止后验质量、惩罚因子及最终参与度为:

64、

65、

66、

67、其中为对话的终止后验质量,为对话的终止惩罚因子,为终止后验惩罚系数,为对话的基础后验参与分,为第个对话的参与度分数。

68、有益效果:

69、1:本发明提供了基于持续时间隐状态模型的问答参与度评估方法及系统,从具有角色标识和时间戳的对话消息中构造机器回复后的反应机会;将各反应机会编码为对话级离散观测序列;在序列上训练包含状态特异持续时间分布的隐状态模型;根据评分模型的状态发射概率对比生成状态校准分和状态响应性;根据逐反应机会的状态后验概率、状态校准分及状态响应性归一化得到基础后验参与分;根据终止符号倾向的状态后验质量对基础后验参与分施加惩罚,生成0~1范围的对话参与度。可见本发明可以从原始消息时间戳形成具有统一机会定义和时间语义的观测序列,并以 hsmm 学得的发射概率和逐机会状态后验作为评分主体,从而形成可解释且避免长期留存误判的短窗口参与度评估闭环。

70、2:本发明以机器回复结束时刻为锚点,每个观测均表示同一种“回复后用户反应机会”,避免直接按消息行统计造成语义混杂,实现了观测机会统一。

71、3:本发明既保留响应速度等级,又使用独立窗口终止符号表达短窗口内无后续行为,实现了时间和沉默语义明确。

72、4:本发明通过状态特异的经验持续时间分布表达参与阶段可持续若干次机会,避免普通 hmm 自转移产生的固定几何驻留假设,实现了显式建模状态持续性。

73、5:本发明采用的显式持续时间隐状态模型至少包括初始状态分布、状态转移矩阵、状态发射矩阵和状态特异持续时间分布;状态转移矩阵的对角元素设为零或不参与状态驻留计算,状态在连续反应机会中的驻留由状态特异持续时间分布独立控制,从而区别于依靠自转移隐含几何驻留时间的普通隐马尔可夫模型,状态校准分由 hsmm 学得的发射概率对比生成,对话基础分由逐机会状态后验经响应性归一化后聚合,实现了评分与模型参数同源。

74、6:本发明结果可解释且可审计:模型同时输出发射、转移、持续时间、状态段、后验概率、对话分数和数据质量报告,可追溯每一评分的序列与状态依据。