基于大模型智能体的网络谣言认知引导方法及系统
本发明涉及社交网络平台中的涉谣内容处理及分发控制,具体涉及利用机器学习模型对涉谣网络数据进行周期评估,并对引导内容的生成、核验、队列写入、延时分发及反馈更新进行控制的计算机实现技术。
背景技术:
1、现有的网络谣言处理系统通常通过社交网络平台接口采集帖子、评论、转发关系及用户交互数据,利用分类模型或大语言模型识别涉谣内容、检索相关证据并生成澄清或引导内容,再将生成的内容写入分发队列,经平台接口向目标受众进行分发,分发后根据用户言论、转发及交互行为评价处理结果。
2、在上述处理链中,内容生成、分发队列和平台接口分别处于不同的处理阶段。内容生成阶段能够直接取得的是生成量或计划分发量,分发队列记录的是待分发量,平台接口实际输出的则是经过平台审核、传输和送达处理后的成功送达量。当模型训练、目标量控制或反馈评价采用生成量、入队量或提交分发量,而没有排除审核失败、传输失败和未成功送达的内容时,用于模型评估的数据与平台实际输出的数据之间会产生偏差,进而影响后续周期的目标量确定。
3、网络受众对于引导内容的响应还可能随引导信息量增加呈现非线性变化。当处理系统采用固定生成量、固定分发频率或者单一阈值控制方式时,难以区分认知转化仍处于增长区间、认知转化增幅开始下降以及认知转化已经趋于饱和等不同状态。在接近控制阈值时,如果系统仅根据单次反馈在不同信息量档位之间切换,还可能产生频繁切换,使内容重复生成、分发队列负载波动或者网络传输资源被无效占用。
4、此外,平台反馈数据通常迟于引导内容的生成和入队操作产生。如果反馈数据在同一认知评估周期内直接回写内容生成过程或者改写已经形成的分发队列,可能再次触发检索、生成或入队处理,造成同一周期内的重复任务、队列重写或者反馈控制振荡。如果模型训练、内容生成、内容核验及分发统计分别采用不同的引导信息量换算尺度,或者在主导认知层级发生变化后继续使用前一认知层级的模型参数,还会造成不同处理阶段或不同认知层级之间的数据不一致。
5、因此,需要解决平台异步分发环境中生成侧数据、队列数据和实际成功送达数据不一致所引起的控制偏差,适应认知转化随引导信息量变化的非线性特征,协调引导内容的生成负载与分发时序,并避免滞后反馈在同一认知评估周期内回流所引起的重复生成、队列改写及控制振荡。
技术实现思路
1、本发明所要解决的技术问题是:在平台分发结果异步返回且实际成功送达量可能偏离生成量、入队量或提交分发量的情况下,如何保持认知状态评估所采用的信息量与平台实际输出的信息量一致;如何适应认知转化随引导信息量变化的非线性特征,对引导内容的生成负载和分发时序进行协调控制;如何保持模型训练、内容生成、内容核验和分发统计所采用的信息量尺度一致;以及如何避免滞后反馈在本认知评估周期内回流所引起的重复生成、队列重写和控制振荡。
2、为解决上述技术问题,本发明提供一种基于大模型智能体的网络谣言认知引导方法,计算机系统按认知评估周期执行:按谣言事件标识和目标受众标识聚合涉谣网络数据及一反馈缓冲区的上一周期只读分区中的反馈记录,首个认知评估周期采用空值记录,形成认知状态帧;由受约束的大语言模型根据所述认知状态帧输出主导认知层级和策略约束项,配置唯一任务标识;调用与所述主导认知层级及所述策略约束项匹配的分层认知状态转化模型,将所述上一周期只读分区中的实际成功送达引导信息量同时作为导数评估信息量和迟滞保持分支输入,首个认知评估周期采用预设初始引导信息量,取得边际认知转化速度和边际认知转化加速度,按互斥迟滞规则确定目标引导信息量;所述目标引导信息量大于零时,根据所述边际认知转化速度确定受限分发滞后时间,按所述策略约束项和所述目标引导信息量生成并核验引导内容,以所述唯一任务标识将核验通过的引导内容写入一分发队列并经一平台接口分发,所述目标引导信息量为零时跳过生成、核验、入队和分发;分发结束或确认不分发后,按训练阶段采用的固定换算规则取得实际成功送达引导信息量,没有引导内容成功送达时将其置零,获取反馈数据,由所述反馈数据取得实际认知转化量,将二者及所述反馈数据写入所述反馈缓冲区的本周期只写分区,所述本周期只写分区不向所述引导内容的生成过程和所述分发队列提供读通道或触发通道,封闭后仅在下一认知评估周期的预设启动时刻转为所述上一周期只读分区。
3、本发明还提供一种基于大模型智能体的网络谣言认知引导系统,其包括互连的平台接口、存储器、处理器及周期调度器,所述存储器设分发队列及具有上一周期只读分区、本周期只写分区的反馈缓冲区;所述处理器用于:聚合所述平台接口取得的涉谣网络数据与所述上一周期只读分区中的反馈记录,首个认知评估周期采用空值记录及预设初始引导信息量,形成认知状态帧;受约束的大语言模型根据所述认知状态帧输出主导认知层级和策略约束项;调用与所述主导认知层级及所述策略约束项匹配的分层认知状态转化模型,以所述上一周期只读分区的实际成功送达引导信息量同时输入导数评估位置和迟滞保持分支,取得边际认知转化速度和边际认知转化加速度,经互斥迟滞规则确定目标引导信息量;所述目标引导信息量大于零时,按所述边际认知转化速度确定受限分发滞后时间,驱动一智能体按所述策略约束项和所述目标引导信息量生成并核验引导内容,核验通过后入队并经所述平台接口分发,为零时跳过生成、核验、入队和分发;分发结束或确认不分发后,获取反馈数据,按训练阶段采用的固定换算规则取得实际成功送达引导信息量,无成功送达时计零,由所述反馈数据取得实际认知转化量,将二者及所述反馈数据写入所述本周期只写分区,所述本周期只写分区不向所述智能体和所述分发队列提供读通道或触发通道;所述周期调度器在写入完成后封闭所述本周期只写分区,仅在下一认知评估周期预设时刻将其切换为所述上一周期只读分区。
4、与现有技术相比,本发明具有如下有益效果
5、1.由于将前一认知评估周期的实际成功送达引导信息量同时作为导数评估信息量和迟滞保持分支输入,并在分发统计中排除分发失败及未成功送达的引导内容,因此能够使分层认知状态转化模型采用的信息量与平台接口实际输出的引导内容负载保持一致,减少以生成量、入队量或提交分发量代替实际成功送达量所产生的控制偏差。
6、2.由于模型训练、引导内容生成、引导内容核验和分发结果统计采用相同的固定换算规则,因此能够使各处理阶段在同一引导信息量尺度下进行数据交换和比较,减少因统计口径不同造成的目标量误判和模型参数偏移。
7、3.由于根据边际认知转化速度和边际认知转化加速度,在饱和零值分支、高档分支、低档分支和迟滞保持分支之间进行互斥选择,因此能够根据认知转化关系所处的不同区间调整目标引导信息量,并通过迟滞保持分支降低临界状态下不同信息量档位之间的频繁切换。
8、4.由于在满足饱和条件时将目标引导信息量确定为零,并同步跳过引导内容的生成、入队和分发,因此能够避免在认知转化趋于饱和时继续调用大语言模型生成内容,减少无效的模型计算、队列存储和网络分发处理。
9、5.由于根据边际认知转化速度确定具有上下限约束的受限分发滞后时间,并使用独立的反馈采样参数确定反馈采样时间,因此能够分别控制引导内容的网络分发时序和反馈数据采集时序,避免将分发等待时间与反馈观察时间混用。
10、6.由于反馈缓冲区仅供下一认知评估周期形成认知状态帧和更新分层认知状态转化模型,并且不回写本认知评估周期的生成过程或分发队列,因此能够在数据路径上隔离本周期控制过程与滞后反馈,降低同一周期内重复生成、队列重写和反馈控制振荡的可能性。
11、7.由于受约束的大语言模型输出结构化的策略约束项,智能体仅使用与谣言事件标识及证据类型相匹配的已核验来源,并在入队前对事件匹配关系、策略边界、事实核验状态和目标引导信息量进行核验,因此能够提高自动生成、核验和分发处理之间的数据一致性,并减少未经核验的事实判断进入分发队列。
12、8.由于混合主导认知状态下仅建立一个具有唯一任务标识的生成任务和一个待分发任务,并在检索失败或核验失败后禁止本周期重新触发,因此能够减少多个认知层级同时触发生成所造成的重复任务和分发冲突。
13、9.由于不同认知层级分别保存模型参数,参数更新采用跨周期加权平滑,并在主导认知层级变化后调用变化后的认知层级对应的模型参数,因此能够减少不同认知层级之间的参数串用,并降低单个认知评估周期的反馈波动对后续控制过程的突变影响。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com