基于句法增强的信息自动回复方法、装置、系统及介质与流程

1.本发明涉及计算机技术领域，尤其涉及基于句法增强的信息自动回复方法、装置、系统及介质。


背景技术：

2.在信息和流量爆炸式增长的今天，人工客服每天的任务也面临着巨大的压力。使用智能客服来缓解人工客服的压力的方案可谓应运而生，而如何确保智能客服答复的准确性和严谨性则成为亟待解决的问题。
3.目前的智能问答系统通常采用基于规则的问答系统或者基于深度学习生成的问答系统，基于规则的问答系统能够比较准确地自动回复用户的问题，但是由于规则的限制导致其回复语言十分固定单调且流畅性不佳，而基于深度学习生成的问答系统，尽管自动生成的回复文案比较丰富灵活，但是其准确性无法保证，在对准确性和严谨性要求非常高的领域，例如金融领域的用户问“你好，xxx债还有多少e”，系统可能会回复“yyy债还有5e”，这样致命的错误是不可接受的，因此现有的基于深度学习的问答系统还难以满足准确性的要求。


技术实现要素：

4.鉴于上述现有技术的不足，本发明的目的在于提供基于句法增强的信息自动回复方法、装置、系统及介质，旨在实现灵活丰富的自动回复的同时提高信息自动回复的准确性和流畅性。
5.本发明的技术方案如下：
6.一种基于句法增强的信息自动回复方法，包括：
7.接收用户输入的待回复文本，并提取所述待回复文本中的关键要素；
8.根据所述关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本；
9.对所述初始回复文本进行句法解析处理，得到所述初始回复文本中各个词节点的句法依存信息，所述句法依存信息包括词性和句法依存关系；
10.通过图注意力网络对所述各个词节点的句法依存信息进行编码，得到所述句法依存信息的图注意力特征；
11.将所述初始回复文本输入至经所述图注意力特征进行句法增强处理的预设转换模型中，转换输出与所述初始回复文本含义相同的转述文本。
12.在一个实施例中，所述接收用户输入的待回复文本，并提取所述待回复文本中的关键要素，包括：
13.接收用户输入的待回复文本，对所述待回复文本进行向量编码后得到序列向量；
14.对所述序列向量进行标签预测，得到序列向量中每个词的标签；
15.将符合预设领域的标签对应的词确认为关键要素。
16.在一个实施例中，所述根据所述关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本，包括：
17.在预设数据库中查询获取与所述关键要素相关联的回复元素；
18.根据所述回复元素的标签按预设表述规则进行插槽填充处理，拼接得到包含所述回复元素的初始回复文本。
19.在一个实施例中，所述对所述初始回复文本进行句法解析处理，得到所述初始回复文本中各个词节点的句法依存信息，包括：
20.通过预设nlp库对所述初始回复文本进行句法解析，得到每个词节点的词性信息以及各个词节点之间的句法依存关系；
21.根据所述各个词节点之间的句法依存关系构建相应的邻接矩阵。
22.在一个实施例中，所述通过图注意力网络对所述各个词节点的句法依存信息进行编码，得到所述句法依存信息的图注意力特征，包括：
23.根据所述邻接矩阵构造对应的节点关系图，并对所述节点关系图进行词汇嵌入和词性嵌入后，得到节点向量图；
24.通过图注意力网络对所述节点向量图进行依存关系特征提取后，得到所述句法依存信息的图注意力特征。
25.在一个实施例中，所述通过图注意力网络对所述节点向量图进行依存关系特征提取后，得到所述句法依存信息的图注意力特征，具体包括：
26.通过公式对所述节点向量图进行依存关系特征提取，得到第i层的图注意力特征，其中，图注意力网络第0层的图注意力特征表示为h0＝e
word
e
tag
，e
word
为词汇嵌入，e
tag
为词性嵌入，为词节点i第l 1层的输出特征，表示词节点i第l层的输入特征，||表示向量的拼接操作，σ表示激活函数；a
ij
≠0表示词节点i和词节点j有句法依存关系，表示第k个注意力机制下词节点i，j之间的注意力权重，表示第k个注意力机制下的线性变换矩阵，为f
×
f的矩阵空间，f为空间的维度，k为图注意力网络中注意力机制的数目，图注意力网络最后一层的输出特征为hg27.在一个实施例中，所述将所述初始回复文本输入至经所述图注意力特征进行句法增强处理的预设转换模型中，转换输出与所述初始回复文本含义相同的转述文本，包括：
28.将所述初始回复文本输入至预设转换模型中，通过所述预设转换模型中的嵌入层对所述初始回复文本进行词嵌入和位置嵌入后输出相应的初始文本向量；
29.通过所述预设转换模型中的编码器对所述初始文本向量进行编码处理，并在编码时通过所述图注意力特征对所述编码器进行句法偏置处理，提取得到具有所述句法依存信息的编码信息；
30.通过所述预设转换模型中的解码器对所述编码信息进行解码处理，得到每个位置需输出的字后拼接得到对应的转述文本。
31.一种基于句法增强的信息自动回复装置，包括：
32.要素提取模块，用于接收用户输入的待回复文本，并提取所述待回复文本中的关
键要素；
33.填充模块，用于根据所述关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本；
34.句法解析模块，用于对所述初始回复文本进行句法解析处理，得到所述初始回复文本中各个词节点的句法依存信息，所述句法依存信息包括词性和句法依存关系；
35.图特征提取模块，通过图注意力网络对所述各个词节点的句法依存信息进行编码，得到所述句法依存信息的图注意力特征；
36.转换模块，用于将所述初始回复文本输入至经所述图注意力特征进行句法增强处理的预设转换模型中，转换输出与所述初始回复文本含义相同的转述文本。
37.一种基于句法增强的信息自动回复系统，所述系统包括至少一个处理器；以及，
38.与所述至少一个处理器通信连接的存储器；其中，
39.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述基于句法增强的信息自动回复方法。
40.一种非易失性计算机可读存储介质，所述非易失性计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令被一个或多个处理器执行时，可使得所述一个或多个处理器执行上述的基于句法增强的信息自动回复方法。
41.有益效果：本发明公开了基于句法增强的信息自动回复方法、装置、系统及介质，相比于现有技术，本发明实施例通过基于规则填充得到准确的初始回复文本后进一步利用词与词之间的句法依存关系，将初始回复文本转换为表达更加丰富且含义相同的转述文本，确保自动回复准确性的同时也提高了回复文本的灵活多样性。
附图说明
42.下面将结合附图及实施例对本发明作进一步说明，附图中：
43.图1为本发明实施例提供的基于句法增强的信息自动回复方法的一个流程图；
44.图2为本发明实施例提供的基于句法增强的信息自动回复方法中的一个句法依存关系示意图；
45.图3为本发明实施例提供的基于句法增强的信息自动回复方法中一个模型框架示意图；
46.图4为本发明实施例提供的基于句法增强的信息自动回复装置的功能模块示意图；
47.图5为本发明实施例提供的基于句法增强的信息自动回复系统的硬件结构示意图。
具体实施方式
48.为使本发明的目的、技术方案及效果更加清楚、明确，以下对本发明进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。以下结合附图对本发明实施例进行介绍。
49.请参阅图1，图1为本发明提供的基于句法增强的信息自动回复方法一个实施例的
流程图。本实施例提供的基于句法增强的信息自动回复方法适用于智能客服系统，以对用户输入的咨询信息自动进行灵活且准确的回复。如图1所示，该方法具体包括如下步骤：
50.s100、接收用户输入的待回复文本，并提取所述待回复文本中的关键要素。
51.本实施例中，待回复文本是用户与智能客服沟通过程中手动输入的文本信息，或者也可以是用户输入的语音信息进行识别转换后得到的文本信息等等，例如用户可以向智能客服系统输入“请问有xx产品吗？”进行产品咨询，此时智能客服系统接收用户输入的待回复文本，并提取该待回复文本中的关键要素，关键要素是待回复文本中与预设领域相关的要素，可根据本实施例提供的信息自动回复方法所应用的领域进行灵活设置。
52.在一个实施例中，步骤s100包括：
53.接收用户输入的待回复文本，对所述待回复文本进行向量编码后得到序列向量；
54.对所述序列向量进行标签预测，得到序列向量中每个词的标签；
55.将符合预设领域的标签对应的词确认为关键要素。
56.本实施例中，当用户开启智能客服系统进行问答时，先接收用户输入的待回复文本，即用户输入的问题，之后对待回复文本进行向量编码以得到稠密空间的序列向量，例如可采用bert或者roberta等等预训练模型进行字符向量编码后通过lstm(long short-term memory，长短期记忆)网络结构或者bilstm(bi-directional long short-term memory，双向长短期记忆)网络结构提取文本的时序信息，其中bilstm则可以改善lstm存在的长期依赖问题，并从不同的角度提取出字之间的依赖关系，因此本实施例中优选采用bilstm进行序列信息提取；之后对提取到的序列向量进行解码处理，即进行标签预测，以得到序列中每个位置的标签，具体可以采用crf(conditional random fields，条件随机场)进行实体标签预测，最终输出相应的实体标注；之后根据当前应用领域，将符合预设领域的标签对应的词确认为关键要素，以金融领域为例，可以将标签为债券、利率、期限、量的词确认为关键要素，实现对用户输入的问题的关键信息提取，以便智能客服系统能做出准确的回答。
57.s200、根据所述关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本。
58.本实施例中，在提取了待回复文本中的关键要素后，则基于关键要素在预设数据库中调取对应的回复元素，利用插槽填充的形式按预算表述规则得到初始回复文本，例如，用户提问“请问有隔夜出吗？”，通过关键要素提取可得到“隔夜”和“出”两个关键要素，之后利用搜索系统从预设数据库中召回与“隔夜”和“出”相关的债券，再通过预设表述规则插槽则填充句子，形成“(有的，我们这里)隔夜(有xxx债券可以)出”，括号内就是根据关键要素“隔夜”和“出”填充插槽的结果，从而拼接得到完整的初始回复文本，基于规则填充得到的初始回复文本准确性和可靠性较高，但是由于表述规则的限制使得填充得到的初始回复文本表述方式单一、且通顺性可能较差，因此后续还需要进一步处理以在确保准确性的基础上实现灵活丰富的自动回复。
59.在一个实施例中，步骤s200包括：
60.在预设数据库中查询获取与所述关键要素相关联的回复元素；
61.根据所述回复元素的标签按预设表述规则进行插槽填充处理，拼接得到包含所述回复元素的初始回复文本。
62.本实施例中，在预设数据库中存储有大量的回复元素，且各个回复元素均具有对
应的标签，可根据实际应用领域以及应用企业的产品情况设置，例如在金融领域中，在数据库中将存储所有债券的相关信息作为回复元素，例如债券名称、利率、量、期限等等，当然还可灵活增减预设数据库中的回复元素，本实施例对此不作限定。
63.在生成初始回复文本时，先在预设数据库中查询获取与关键要素相关联的回复元素，具体可采用现有的搜索方法进行查询搜索，之后对查询得到的回复元素进行信息整合，基于回复元素的标签按预算表述规则进行插槽填充处理，具体来说，预设表述规则用于控制不同标签的词语的排列顺序，因此根据回复元素的标签将各个回复元素以预设表述规则中的排列顺序进行排列，且各个回复元素之间具有空位，在空位中填充相应的常用词语或标点符号等等，例如，用户问：“请问有3.53％的债券吗？”，经过关键要素提取后可得到“3.53％”(利率)和“债券”这两个关键要素，然后通过数据库查询可以召回所有利率为3.53％的债券作为回复元素，例如：“xxx城投ibm(债券)3.53％(利率)”，“200125yyy(债券)3.53％(利率)”等等，然后根据预设表述规则将标签为债券和利率的两个回复元素排列整合成句子，具体是对“()3.53％()xxx城投ibm()”中的三个括号进行填空，按预算表述规则填充可以得到“(利率为)3.53％(的债券有)xxx城投ibm(。)”，从而准确地生成相应的初始回复文本，确保信息自动回复的准确性和可靠性。
64.s300、对所述初始回复文本进行句法解析处理，得到所述初始回复文本中各个词节点的句法依存信息，所述句法依存信息包括词性和句法依存关系。
65.本实施例中，对生成的初始回复文本进行句法解析处理以确定初始回复文本的句法结构或者初始回复文本中词汇之间的依存关系，依存句法是将句子分析成一棵依存句法树，描述出各个词语之间的依存关系，也即指出了词语之间在句法上的搭配关系，这种搭配关系是和语义相关联的，通过解析得到各个词节点之间的句法依存关系，可以更加深刻地理解句子词语之间的关系，以便构建待识别文本中各个词节点之间的关系特征图，本实施例中在进行句法解析处理后可得到句子中各个词节点的句法依存信息，具体包括了各个词节点的词性以及句法依存关系，以金融领域为例，初始回复文本中词节点可以是债券名称、利率、期限、量、交易方式、标点符号等等，为实现准确的句子转述提供准确的词汇关联。
66.在一个实施例中，步骤s300包括：
67.通过预设nlp库对所述初始回复文本进行句法解析，得到每个词节点的词性信息以及各个词节点之间的句法依存关系；
68.根据所述各个词节点之间的句法依存关系构建相应的邻接矩阵。
69.本实施例中，通过预设nlp库对待识别文本进行句法解析，具体的nlp库可以采用经预设领域的问答信息优化过的udpipe库，其可以自动高效地解析出一句话中各个词的句法依存关系，应用在信息自动回复中，则可充分识别并利用初始回复文本中各个词节点之间的句法依存关系，以便能构建各词节点之间准确的关系图，为后续的句子转述提供可靠的分析数据。当然，在其他实施例中还可采用其它具有相同功能的nlp库，例如spacy库等等，本实施例对此不作限定。
70.具体地，在进行句法解析时，利用经预设领域的问答信息优化过的udpipe库进行句法解析得出每个词的词性以及各个词之间的依存关系，例如句子“利率为5.53％的债券有xxx城投。”的句法依存关系如图2所示，其中括号内的字母表示词性，例如“vc”表示动词“是”，“nn”表示名词；“ve”表示“有”，“pu”表示短句符号，“dec”表示助词“的”，箭头中间的
表示字母是句法依存关系，例如“dep”表示依赖关系，“cop”表示系动词，“nsubj”表示名词主语，“dobj”表示直接宾语，“pucnt”表示标点符号关系。由此，通过句法解析不仅得到了每个词的词性信息，还得到了词与词之间的句法依存关系，本实施例中基于解析得到的句法依存关系，进一步构建相应的邻接矩阵来代表各个词节点之间的句法依存关系，具体来说，邻接矩阵a表示各个词的连接关系，a
ij
表示邻接矩阵a的第i行第j列的元素，其物理意义是第i个词语和第j个词语的邻接关系，如果第i个词和第j个词有邻接关系，则a
ij
＝1，否则a
ij
＝0，进而将各个词节点之间的句法依存关系通过可计算的矩阵形式表示，便于实现准确的信息识别计算。
71.s400、通过图注意力网络对所述各个词节点的句法依存信息进行编码，得到所述句法依存信息的图注意力特征。
72.本实施例中，在得到了初始回复文本的句法依存信息包括词性以及句法依存关系后，则对其进行编码以实现特征提取，具体是通过gat(graph attention network，图注意力网络)进行句法依存信息的表征，以将句法依存信息转换为图表示并提取得到对应关系图中的特征，实现准确的依存关系表征，以便能准确对初始回复文本进行转述进而得到更加丰富的表达。
73.在一个实施例中，步骤s400包括：
74.根据所述邻接矩阵构造对应的节点关系图，并对所述节点关系图进行词汇嵌入和词性嵌入后，得到节点向量图；
75.通过图注意力网络对所述节点向量图进行依存关系特征提取后，得到所述句法依存信息的图注意力特征。
76.本实施例中，在得到了代表句法依存关系的邻接矩阵后，则构造对应的节点关系图，实现句法依存关系的图表示，并且对词汇和词性信息做嵌入使其成为可以计算的节点向量图，然后利用图注意力网络进行进一步的依存关系信息表征，即提取依存关系特征来得到相应的图注意力特征。
77.具体地，公式对所述节点向量图进行依存关系特征提取，得到第i层的图注意力特征，其中，图注意力网络第0层的图注意力特征表示为h0＝e
word
e
tag
，e
word
为词汇嵌入，e
tag
为词性嵌入，为词节点i第l 1层的输出特征，表示词节点i第l层的输入特征，||表示向量的拼接操作，σ表示激活函数；a
ij
≠0表示词节点i和词节点j有句法依存关系，表示第k个注意力机制下词节点i，j之间的注意力权重，表示第k个注意力机制下的线性变换矩阵，为f
×
f的矩阵空间，f为空间的维度，k为图注意力网络中注意力机制的数目，图注意力网络最后一层的输出特征为hg。
78.本实施例中，通过具有多头图注意力层的gat进行特征提取，其中含有k个相互独立的单头注意力层，每个单头注意力层通过对应的注意力机制对输入特征进行学习后得到相应的输出特征，并将每个单头注意力层的输出结果拼接在一起，从而提高注意力机制的
attention没用利用句法依存的信息，这样一来对于翻译，转述等任务来说可能会造成结果的偏差，因此本实施例中将其改造成syntax-aware self-attention(句法感知自注意力层)，即使用图注意力网络的输出作为句法表征来对原始的self-attention进行偏置处理，其计算公式如下：o＝attention(q hggq，k hggk，v，m)，其中，hg为图注意力网络最后一层的输出特征，gq和gk是可以学习的用于对self-attention进行偏置的参数，这样的改造便能使得transformer编码器能够充分利用句子的句法信息，对于后续的解码模块生成新的句子具有语言句法上的指导作用，起到了提高生成句子的准确性和流畅性的效果。
88.在通过编码器提取得到具有句法依存信息的编码信息后，则通过解码器对该编码信息进行解码输出，即通过输入信息(编码器的所有输出信息以及解码器的第i-1个位置的字)，输出第i个位置的字，直至遇到结束符进而生成一个含义相同但表述方式不同的句子来回复用户，具体来说，解码器中同样利用了自注意力层的结构，且进一步设置了交叉注意力层以提高解码准确性，在解码时，对于每个位置该输出的字通过以下公式计算，其中，为一个投影矩阵，负责将输出的维度映射到词表的大小，得到得结果s是一个维度为n的向量，n是词库的大小，之后可通过greedy解码算法即贪心搜索算法取s中数值最大的位置作为这个位置应该输出的字即可，即在每一步选择概率最大的输出值，这样就可以得到最终解码的输出序列，如果输出的字是一个结束符，则结束解码过程，将所有位置的字拼接起来就是一个新的句子了，即实现将初始回复文本转换为对应的转述文本，确保自动回复准确性的同时也提高了回复文本的灵活多样性。
89.为更好地理解本发明提供的基于句法增强的信息自动回复方法的实施过程，以下结合图3中的具体模型结构，对本发明提供的基于句法增强的信息自动回复方法的过程进行介绍：
90.如图3所示，接收用户输入的问题“请问有利率5.53％的债券吗？”，之后通过要素提取模块提取其中的与金融领域相关的关键要素“利率5.53％”和“债券”；之后通过填充模块进行基于规则的插槽式句子填充，得到初始回复文本“利率为5.53％的债券有x城投。”；之后利用金融问答信息优化过的udpipe库对初始回复文本进行句法解析得出每个词对应的词性以及词与词之间的句法依存关系；之后通过句法依存的图注意力神经网络编码层，利用gat神经网络对句法依存的关系和词性信息进行整合编码，提取得到句法依存信息的图注意力特征；之后将初始回复文本输出值基于句法增强的transformer编码器中进行编码，且为了编码过程中充分利用句法依存信息，transformer的每一层编码层中的self-attention均通过图注意力特征进行偏置处理，进而改造成syntax-aware self-attention，以使得编码过程中充分学习到句法的依存信息；之后通过解码模块利用greedy的方式将得到的编码信息进行解码，以转述生成一个含义相同但变大方式不一样的句子“您好，我们这里利率为5.53％的债券有x城投，请问有需要吗？”，从而在自动且准确地回复用户问题的基础上，也丰富了自动回复信息表达方式，提高回复文本的灵活多样性。
91.本发明另一实施例提供一种基于句法增强的信息自动回复装置，如图4所示，装置包括：
92.要素提取模块11，用于接收用户输入的待回复文本，并提取所述待回复文本中的关键要素；
93.填充模块12，用于根据所述关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本；
94.句法解析模块13，用于对所述初始回复文本进行句法解析处理，得到所述初始回复文本中各个词节点的句法依存信息，所述句法依存信息包括词性和句法依存关系；
95.图特征提取模块14，通过图注意力网络对所述各个词节点的句法依存信息进行编码，得到所述句法依存信息的图注意力特征；
96.转换模块15，用于将所述初始回复文本输入至经所述图注意力特征进行句法增强处理的预设转换模型中，转换输出与所述初始回复文本含义相同的转述文本。
97.要素提取模块11、填充模块12、句法解析模块13、图特征提取模块14和转换模块15依次连接，本发明所称的模块是指能够完成特定功能的一系列计算机程序指令段，比程序更适合于描述基于句法增强的信息自动回复的执行过程，各模块的具体实施方式请参考上述对应的方法实施例，此处不再赘述。
98.本发明另一实施例提供一种基于句法增强的信息自动回复系统，如图5所示，系统10包括：
99.一个或多个处理器110以及存储器120，图5中以一个处理器110为例进行介绍，处理器110和存储器120可以通过总线或者其他方式连接，图5中以通过总线连接为例。
100.处理器110用于完成系统10的各种控制逻辑，其可以为通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)、单片机、arm(acorn risc machine)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。还有，处理器110还可以是任何传统处理器、微处理器或状态机。处理器110也可以被实现为计算设备的组合，例如，dsp和微处理器的组合、多个微处理器、一个或多个微处理器结合dsp和/或任何其它这种配置。
101.存储器120作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本发明实施例中的基于句法增强的信息自动回复方法对应的程序指令。处理器110通过运行存储在存储器120中的非易失性软件程序、指令以及单元，从而执行系统10的各种功能应用以及数据处理，即实现上述方法实施例中的基于句法增强的信息自动回复方法。
102.存储器120可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据系统10使用所创建的数据等。此外，存储器120可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器120可选包括相对于处理器110远程设置的存储器，这些远程存储器可以通过网络连接至系统10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
103.一个或者多个单元存储在存储器120中，当被一个或者多个处理器110执行时，执行上述任意方法实施例中的基于句法增强的信息自动回复方法，例如，执行以上描述的图1中的方法步骤s100至步骤s500。
104.本发明实施例提供了一种非易失性计算机可读存储介质，计算机可读存储介质存
储有计算机可执行指令，该计算机可执行指令被一个或多个处理器执行，例如，执行以上描述的图1中的方法步骤s100至步骤s500。
105.作为示例，非易失性存储介质能够包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦rom(eeprom)或闪速存储器。易失性存储器能够包括作为外部高速缓存存储器的随机存取存储器(ram)。通过说明而非限制，ram可以以诸如同步ram(sram)、动态ram、(dram)、同步dram(sdram)、双数据速率sdram(ddrsdram)、增强型sdram(esdram)、synchlink dram(sldram)以及直接rambus(兰巴斯)ram(drram)之类的许多形式得到。本文中所描述的操作环境的所公开的存储器组件或存储器旨在包括这些和/或任何其他适合类型的存储器中的一个或多个。
106.综上，本发明公开的基于句法增强的信息自动回复方法、装置、系统及介质中，方法通过接收用户输入的待回复文本，并提取待回复文本中的关键要素；根据关键要素在预设数据库中获取对应的回复元素，并按预设表述规则进行插槽填充后得到初始回复文本；对初始回复文本进行句法解析处理，得到初始回复文本中各个词节点的句法依存信息，句法依存信息包括词性和句法依存关系；通过图注意力网络对各个词节点的句法依存信息进行编码，得到句法依存信息的图注意力特征；将初始回复文本输入至经图注意力特征进行句法增强处理的预设转换模型中，转换输出与初始回复文本含义相同的转述文本。通过基于规则填充得到准确的初始回复文本后进一步利用词与词之间的句法依存关系，将初始回复文本转换为表达更加丰富且含义相同的转述文本，确保自动回复准确性的同时也提高了回复文本的灵活多样性。
107.当然，本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关硬件(如处理器，控制器等)来完成，所述的计算机程序可存储于一非易失性计算机可读取的存储介质中，该计算机程序在执行时可包括如上述各方法实施例的流程。其中所述的存储介质可为存储器、磁碟、软盘、闪存、光存储器等。
108.应当理解的是，本发明的应用不限于上述的举例，对本领域普通技术人员来说，可以根据上述说明加以改进或变换，所有这些改进和变换都应属于本发明所附权利要求的保护范围。