一种提示词过滤方法、装置、电子设备及存储介质与流程

摘要: 本发明涉及人工智能,尤其涉及一种提示词过滤方法、装置、电子设备及存储介质。背景技术:1、在方案创作系统中,提示词作为人与系统交互的关键输入,其内容的合规性、有效...
一种提示词过滤方法、装置、电子设备及存储介质与流程

本发明涉及人工智能,尤其涉及一种提示词过滤方法、装置、电子设备及存储介质。

背景技术:

1、在方案创作系统中,提示词作为人与系统交互的关键输入,其内容的合规性、有效性至关重要。随着方案创作系统应用场景的不断拓展,用户输入的提示词呈现出多样化、复杂化的趋势,其中可能包含敏感词汇、无效词汇或不符合创作要求的词汇,这些词汇会影响方案创作的质量和效率,甚至可能带来内容安全方面的隐患。现有的提示词过滤方法,例如基于关键词匹配的方法、基于正则表达式的方法、基于机器学习的方法等,针对词汇的变形处理能力不足,同时过滤效率和准确性较差。

技术实现思路

1、本发明提供了一种提示词过滤方法、装置、电子设备及存储介质,以解决现有技术对多领域场景下词汇变形处理能力弱、过滤效率低且准确性差的问题。

2、根据本发明的一方面,提供了一种提示词过滤方法,该方法包括:

3、基于扩展确定有限自动机对输入的提示词进行匹配,得到目标敏感词;其中,扩展确定有限自动机由领域分层的树状结构转换得到,并通过以下数组存储状态信息:用于确定状态转移的偏移数组、用于校验状态转移有效性的校验数组、用于存储领域标识的领域数组、用于存储层级权重的层级数组以及用于标记敏感词终止状态的终止标识数组;

4、根据目标敏感词对应的过滤策略对提示词进行处理。

5、根据本发明的另一方面,提供了一种提示词过滤装置,该装置包括:

6、匹配模块,用于基于扩展确定有限自动机对输入的提示词进行匹配,得到目标敏感词;其中,扩展确定有限自动机由领域分层的树状结构转换得到,并通过以下数组存储状态信息:用于确定状态转移的偏移数组、用于校验状态转移有效性的校验数组、用于存储领域标识的领域数组、用于存储层级权重的层级数组以及用于标记敏感词终止状态的终止标识数组;

7、处理模块,用于根据目标敏感词对应的过滤策略对提示词进行处理。

8、根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:

9、至少一个处理器;以及

10、与所述至少一个处理器通信连接的存储器;其中,

11、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的提示词过滤方法。

12、根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的提示词过滤方法。

13、根据本发明的另一方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现本发明任一实施例所述的提示词过滤方法。

14、本发明实施例的技术方案,通过基于扩展确定有限自动机对输入的提示词进行匹配,得到目标敏感词;其中,扩展确定有限自动机由领域分层的树状结构转换得到,并通过以下数组存储状态信息:用于确定状态转移的偏移数组、用于校验状态转移有效性的校验数组、用于存储领域标识的领域数组、用于存储层级权重的层级数组以及用于标记敏感词终止状态的终止标识数组;根据目标敏感词对应的过滤策略对提示词进行处理。本方案通过采用由领域分层树状结构转换而来的扩展确定有限自动机,对提示词中的敏感词进行快速精准识别,解决了现有技术中对多领域场景下词汇变形处理能力弱、过滤效率低且准确性差的问题,有效提升了提示词过滤的效率、精准度与场景适配性。

15、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

1.一种提示词过滤方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述基于扩展确定有限自动机对输入的提示词进行匹配,得到目标敏感词,包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述目标领域范围、所述领域数组和所述校验数组,对所述候选状态节点进行多级校验,包括:

4.根据权利要求1所述的方法,其特征在于,所述根据所述目标敏感词对应的过滤策略对所述提示词进行处理,包括:

5.根据权利要求1所述的方法,其特征在于,所述领域分层的树状结构通过以下方式构建:

6.根据权利要求1所述的方法,其特征在于,所述领域分层的树状结构转换为所述扩展确定有限自动机的过程,包括:

7.根据权利要求1所述的方法,其特征在于,所述扩展确定有限自动机通过以下五个并行数组存储状态信息:

8.一种提示词过滤装置,其特征在于,所述装置包括:

9.一种电子设备,其特征在于,所述电子设备包括:

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的提示词过滤方法。