一种基于多智能体协同的中文拼写纠错方法
本发明涉及自然语言处理和中文文本智能校对,尤其涉及一种基于多智能体协同的中文拼写纠错方法及系统,具体涉及在无需针对目标纠错任务对大语言模型进行专项预训练、微调或知识编辑的条件下,通过多个具有不同识别职责的智能体生成候选错误意见,并通过规则处理模块完成候选校验、归并、评分、冲突消解、字符替换和反馈迭代的中文拼写纠错技术。
背景技术:
1、中文拼写纠错是中文自然语言处理中的基础任务之一,其目标在于识别并纠正中文句子中因同音、近音、形近、搭配不当或上下文语义不一致等原因产生的单字误用错误。与英文等拼音文字不同,中文字符具有表意性强、字形结构复杂、同音字和近音字数量多、词语边界不显式等特点。因此,中文拼写纠错不仅需要判断字符本身是否可能错误,还需要结合发音、字形、词语搭配以及上下文语义进行综合判断。
2、现有中文拼写纠错方法大体包括基于规则和混淆集的方法、基于统计语言模型的方法、基于深度学习模型的方法以及基于预训练语言模型或大语言模型的方法。基于规则和混淆集的方法通常依赖人工构建的音近字、形近字或常见错误词表,具有一定可解释性,但覆盖范围有限,难以适应真实文本中多样化的错误形式。基于统计语言模型或神经网络的方法能够利用大规模语料学习上下文模式,但在错误类型分解、候选定位、纠错必要性判断和过度纠错控制方面仍存在不足。
3、近年来,大语言模型表现出较强的语义理解和文本生成能力,能够在无需专门训练或仅依赖提示词的情况下完成一定程度的中文拼写纠错。然而,直接要求单一大语言模型对整句文本进行纠错,容易产生以下问题:第一,模型可能对不存在错误的文本进行自由改写,导致过度纠错;第二,模型可能在输出中增加或删除字符,不符合中文拼写纠错中常见的一对一单字替换要求;第三,模型对音似、形似、词间搭配关系等不同错误类型的判断依据不显式,导致纠错过程可解释性较弱;第四,当同一句子中存在多个相同汉字时,模型输出“将某字替换为某字”的意见容易出现位置不明确的问题;第五,多个识别结果之间可能相互冲突,若缺少稳定的混合和筛选机制,纠正结果容易受偶然输出影响。
4、已有一些中文文本纠错专利或方法涉及拼音增强、上下文增强、拼写检查、检测纠正双阶段处理或两阶段模型训练等技术方案。这些方案在一定程度上提升了错误检测或纠正能力,但仍存在将错误类型混合处理、位置级别约束不足、缺少多识别器协同拓扑、对大语言模型输出的可控性不足、以及无法充分利用字音、字形和词间搭配关系等显式语言学信息的问题。
5、中文拼写纠错和中文语法纠错的发展趋势包括利用音形相似性提升候选识别能力,利用上下文和搭配关系提升语义合理性判断能力,利用大语言模型提升语言理解能力,以及利用多智能体或多模块协同机制提升复杂任务的稳定性和可解释性。多智能体系统相关研究和应用表明,将复杂语言任务拆分为多个角色明确的智能体,并通过通信、汇聚和反馈机制进行协作,能够提高系统在复杂任务中的鲁棒性和可控性。
6、因此,有必要提供一种新的中文拼写纠错方法,使其能够在大语言模型的语言理解能力基础上,显式引入字音信息、字形信息和词间搭配关系信息,通过多个错误识别器智能体分别从不同角度进行识别,再由规则化的错误识别结果混合器进行位置归并、冲突消解和候选筛选,最后由规则纠正器执行一对一单字替换,并通过反馈判别智能体进行语义保持和错误消除检查,从而提高中文拼写纠错的准确性、稳定性、可解释性和可控性。
技术实现思路
1、本发明的目的在于提供一种基于多智能体协同的中文拼写纠错方法及系统,以解决现有技术中专项训练和模型改造成本较高、单一识别过程对不同错误类型覆盖不足、自由生成式纠错容易产生越界修改、多个候选来源之间难以统一比较和冲突处理以及纠正结果缺少闭环复核的问题。
2、为实现上述目的,本发明提供一种基于多智能体协同的中文拼写纠错方法,由电子设备执行,包括如下步骤。
3、s1,待纠错中文句子获取。
4、获取待纠错中文句子,将所述待纠错中文句子表示为字符序列:
5、
6、其中,其中 表示待纠错中文句子中第 个字符, 表示字符总数。
7、s2,字符级特征提取。
8、按照字符在 中的顺序,为各字符建立字符级位置编码,并构建文本特征序列:
9、
10、其中,
11、
12、 表示字符 在 中的唯一位置索引, 和 分别表示字符 的左侧上下文和右侧上下文。当 中存在重复字符时,重复字符分别具有不同的唯一位置索引,并分别保留各自的左右上下文,使识别结果能够落实到确定字符位置。
13、同时分别构造与输入句子 对齐的发音特征序列 和字形特征序列 。其中, 表示字符 对应的发音特征, 表示字符 对应的字形特征。基于各 构成与 按位置对齐的发音特征序列 ,基于各 构成与 按位置对齐的字形特征序列 。发音特征可通过python拼音转换工具获得,所述python拼音转换工具优选为pypinyin工具;发音特征包括整体拼音、声母、韵母和声调中的一种或多种。字形特征可通过汉字拆字工具获得,所述汉字拆字工具优选为hanzi_chaizi工具;字形特征包括部件、偏旁、结构、拆分序列和拆解状态标记中的一种或多种。对于标点、数字、字母或者不能由相应工具解析的字符,可设置预设空值、原字符占位值或状态标记,并保持 、 与 长度一致和位置对齐。
14、s3,智能体协同拓扑结构构建。
15、构建包括综合错误识别器智能体、音似错误识别器智能体、形似错误识别器智能体、词间搭配关系错误识别器智能体和反馈判别智能体的智能体集合,并构建错误候选意见混合器和纠正器。所述错误候选意见混合器和纠正器为不调用大语言模型的规则处理模块。
16、所述多智能体协同拓扑可表示为有向图 ,其中, 表示所述各智能体和规则处理模块对应的节点集合, 表示节点间的数据传输关系。综合错误识别器智能体、音似错误识别器智能体、形似错误识别器智能体和词间搭配关系错误识别器智能体的输出均定向发送至错误候选意见混合器;错误候选意见混合器的输出定向发送至纠正器;纠正器的输出定向发送至反馈判别智能体;反馈判别智能体在判定未通过且未达到预设最大迭代次数时,将反馈意见定向发送至所述四个错误识别器智能体,以启动下一轮错误识别。
17、所述各错误识别器智能体和反馈判别智能体分别通过预设提示词调用黑盒大语言模型。各智能体可以调用同一大语言模型的不同会话接口,也可以调用不同的大语言模型。所述黑盒调用仅要求获得接口输入输出能力,不要求获取或修改大语言模型内部参数。
18、s4,替换候选和错误分级生成。
19、将 、 以及对应的专项特征和提示词输入所述四个错误识别器智能体。四个错误识别器智能体采用并行方式或准并行方式执行,每个错误识别器智能体独立输出零个、一个或多个候选意见,并形成候选意见集合 。
20、综合错误识别器智能体的处理过程可表示为:
21、
22、音似错误识别器智能体的处理过程可表示为:
23、
24、形似错误识别器智能体的处理过程可表示为:
25、
26、词间搭配关系错误识别器智能体的处理过程可表示为:
27、
28、其中,、、 和 分别表示对应智能体调用黑盒大语言模型所执行的识别函数;、、 和 分别表示对应智能体的角色提示词;、、和分别表示对应智能体输出的候选意见集合。存在上一轮反馈意见时,各角色提示词中还包括反馈判别智能体生成的反馈意见和任务边界约束信息。
29、综合错误识别器智能体用于从整体语义和语法角度识别一般单字替换错误以及不能仅由单一专项证据限定的单字误用错误。其提示词限定修改对象为字符级拼写错误,并限定保持原句语义、执行最小修改、不任意修改姓名和专有名词、不进行润色、不改变句长以及不执行字符增删或语序调整。
30、音似错误识别器智能体用于依据 及上下文识别同音、近音、声母相近、韵母相近或声调相关的单字误用错误。其提示词要求候选替换字符与原字符之间具有可说明的字音关联,并结合所在位置的上下文判断替换必要性。
31、形似错误识别器智能体用于依据 及上下文识别由偏旁、部件、结构、笔画形态或拆分序列相近而引起的单字误用错误。其提示词要求候选替换字符与原字符之间具有可说明的字形关联,并排除仅因语义可替换但不存在字形证据的意见。
32、词间搭配关系错误识别器智能体用于在提示词引导下,根据 、 和句内上下文检查词语组合、固定搭配、语法角色或局部语义约束是否因某一字符而不成立,并且仅在错误能够落实到单个字符位置时生成候选错误记录。该智能体不要求另行构建独立的词间搭配数值特征,也不以互信息、对数似然或外部词频统计作为必要输入。
33、任一候选错误记录 可表示为:
34、
35、其中, 表示候选错误位置, 表示该位置的原字符, 表示建议替换字符, 表示错误程度分级评价结果, 表示专项证据等级, 表示识别器来源标识。, 表示虽有错误但可接受, 表示轻微影响且不会严重影响可信度和理解性, 表示明显影响理解, 表示严重错误;, 表示不具有对应专项证据或候选动作超出来源识别器职责范围, 表示仅具有部分专项证据, 表示具有明确但不充分的专项证据, 表示具有直接且充分的专项证据;,分别表示综合错误识别器来源、音似错误识别器来源、形似错误识别器来源和词间搭配关系错误识别器来源。
36、为避免大语言模型自行声明来源造成来源错配,识别器来源标识优选由调用调度程序根据候选记录所来自的接口通道附加,而不是仅依赖候选记录中的自然语言内容确定。错误程度分级评价结果和专项证据等级由对应识别器智能体按照提示词中的统一输出格式给出,后续由规则模块校验其取值范围。
37、s5,候选筛选。
38、错误候选意见混合器接收四个错误识别器智能体输出的候选意见集合 ,对候选意见执行格式校验、位置归并、按替换字符分组、无效候选过滤、候选动作评分以及同位置冲突消解,形成候选纠错动作集合:
39、
40、其中, 表示一个候选动作, 表示待替换字符在 中的位置, 表示在该位置写入的替换字符, 表示候选动作数量; 中任意两个不同候选动作的位置索引互不相同。
41、所述格式校验和位置校验至少包括:验证位置索引是否位于1至 的有效范围内;验证候选意见中的原字符是否与l中对应位置的字符一致;验证建议替换字符是否为不同于原字符的单个汉字;验证错误程度分级评价结果、专项证据等级和来源标识是否属于预设取值集合。未通过任一校验的候选意见不进入后续评分。
42、对通过基础校验的候选错误记录,先按照位置索引 归并,再在同一位置内按照建议替换字符分组。同一位置和同一替换字符对应于同一候选动作;来自同一识别器的重复记录在统计来源支持度时仅计为一个来源。由此既保留不同识别器对同一候选动作的共同支持,又将同一位置的不同替换字符视为互相冲突的候选动作。
43、候选动作 的可施加优先级分值可表示为:
44、
45、其中, 表示来源支持度, 表示错误程度分值, 表示专项证据分值,表示位置 处的冲突分值,、、、 为预设非负权重。
46、令全部识别器来源的集合为:
47、
48、对于候选动作 ,将支持该候选动作的互不重复识别器来源集合明确表示为:
49、
50、则来源支持度为:
51、
52、令 表示经基础校验后、与候选动作 具有相同位置和相同建议替换字符的候选错误记录集合。错误程度分值和专项证据分值可分别表示为:
53、
54、
55、其中, 表示将有序的错误程度分级评价结果转换为非递减数值的预设映射函数, 表示将有序的专项证据等级转换为非递减数值的预设映射函数。较高等级对应的映射值不低于较低等级对应的映射值。具体映射值可根据目标领域、验证集或风险偏好预先配置,而不限定为唯一数值。
56、作为一种非限制性实施例,可按照 、、、 以及 、、、 分别按其等级顺序映射至区间 内的四个非递减值。例如,可采用0、1/3、2/3、1,也可采用经开发集校准得到的其他单调映射值。映射值仅用于使不同识别器按照统一量纲参与候选动作评分,不改变候选意见中保留的原始等级信息。
57、令 表示候选错误位置 处通过格式校验、位置校验和单字替换约束后,按照建议替换字符去重得到的不同建议替换字符集合,, 表示不小于2的预设冲突候选数量上限,则冲突分值可表示为:
58、
59、其中,当位置 仅有一个建议替换字符时, 且 ;当同一位置的不同建议替换字符数量增加时, 相应增大,并在 达到 时取1;当 大于 时,仍由 函数将 限制为1。
60、在候选过滤阶段,过滤错误程度分级评价结果为 、候选优先级分值低于预设保留阈值或者未通过单字替换约束的候选意见。当同一候选错误位置仅存在一个建议替换字符时,若其对应候选意见不低于预设保留阈值,则保留该建议替换字符;当同一候选错误位置存在多个建议替换字符时,优先保留 最大的候选动作。若多个候选动作的 相同,可按预设的来源优先规则进行再次比较。所述来源优先规则用于确定平分候选的确定性处理顺序,可根据应用场景对音似、形似、词间搭配和综合识别来源分别设置优先级,也可根据候选动作所具有的最高专项证据等级动态选择对应来源,而不要求采用固定的全局来源排序。若按照所述来源优先规则仍不能确定唯一候选动作,则可将该位置标记为争议位置并放弃修改,以降低误改风险。映射值和来源优先规则属于可预先配置的实现参数,不构成大语言模型的自由裁决步骤。
61、对于不同位置的候选动作,若各候选动作均为单字符等长替换,则按照位置索引分别保留;对于不能满足单字符等长替换边界、位置无效、原字符不匹配或被预设保护规则排除的候选动作,予以过滤。经过处理后,每一位置至多保留一个候选动作。
62、s6,单字替换。
63、纠正器从原始待纠错中文句子 出发,按照 中的位置索引执行确定性一对一单字替换,得到候选纠正后句子。该处理可表示为:
64、;
65、对于任意位置 ,候选纠正后字符 满足:
66、。
67、由此,,纠正器不新增字符、不删除字符、不改变字符顺序,也不调用大语言模型进行自由文本生成。当a为空集合时,直接令 。
68、s7,有效性判别。
69、将 、 及边界约束信息输入反馈判别智能体。反馈判别智能体至少检查: 是否保持 的原始语义和表达意图; 中是否仍存在单字拼写错误;每一修改是否属于必要的单字替换; 是否出现由修改引入的新错误或越界改写。
70、当反馈判别智能体判定 为有效纠正结果时,将 作为最终纠正序列 输出。当判定未通过且当前迭代次数小于预设最大迭代次数时,生成反馈意见 。反馈意见 至少包括候选错误位置、争议替换字符、未通过原因和建议关注维度中的一种或多种,并被发送至所述四个错误识别器智能体。下一轮识别仍以原始待纠错中文句子 及其位置编码为基准,同时将 写入各识别器智能体的提示词,以重新生成候选意见、重新执行候选筛选和单字替换。当判定未通过且已达到预设最大迭代次数时,将 作为最终纠正序列 输出,以形成保护性终止。
71、本发明还提供一种基于多智能体协同的中文拼写纠错系统,包括输入与位置编码模块、字音信息生成模块、字形信息生成模块、综合错误识别器智能体、音似错误识别器智能体、形似错误识别器智能体、词间搭配关系错误识别器智能体、错误候选意见混合器、纠正模块和反馈判别模块。所述系统被配置为执行上述s1至s7。所述系统可部署于服务器、个人计算机、终端设备或由多个计算节点组成的计算环境中,各智能体接口调用与规则处理模块既可位于同一电子设备,也可通过网络进行数据交互。
72、与现有技术相比,本发明至少具有以下有益效果。
73、第一,通过综合错误识别器、音似错误识别器、形似错误识别器和词间搭配关系错误识别器形成职责分离的候选发现结构,使不同类型的识别证据在各自提示词边界内生成,降低单一提示词同时处理多类错误时的任务干扰。
74、第二,通过唯一位置索引和左右上下文对重复字符进行区分,并使候选错误记录始终携带位置、原字符和建议替换字符,避免仅凭字符字面值无法确定具体修改位置的问题。
75、第三,通过错误候选意见混合器对来源、错误程度、专项证据和同位置冲突进行结构化处理,将大语言模型生成的自然语言候选意见转换为每一位置至多一个的候选动作,且具体映射参数和同分处理规则可按应用场景配置。
76、第四,通过不调用大语言模型的纠正器从原句出发执行确定性单字符替换,限制字符增删、语序调整和自由润色,使候选发现能力与最终修改权限相分离,提高输出的可复核性和可重现性。
77、第五,通过反馈判别智能体检查语义保持、错误残留和最小修改必要性,并在有限轮次内将结构化反馈回传至各错误识别器智能体,实现纠正结果的闭环复核;达到最大迭代次数仍未通过时输出原句,以控制迭代成本和误改风险。
78、第六,所述各智能体可通过黑盒接口调用现有大语言模型,无需针对中文拼写纠错任务改变模型参数或内部知识,便于更换底层模型并降低专项训练和维护成本。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com