一种政务大模型的分级熔断控制方法及相关设备与流程
本发明涉及人工智能与电子政务,尤其涉及一种政务大模型的分级熔断控制方法及相关设备。
背景技术:
1、随着生成式人工智能技术的快速发展,大语言模型在政务领域的应用不断深入。2023年至2025年间,各地行政服务系统开始规模化部署国产开源大模型,推动传统服务模式向ai赋能服务转型升级。根据国家层面人工智能发展规划及行业主管部门联合印发的应用指引要求,建立大模型应用安全评估机制,完善应急处置预案,对高风险场景实施熔断机制,为政务大模型安全应用提供政策依据。当前应用集中在三类场景:一是政策咨询问答,如便民热线智能应答;二是材料预审辅助,如企业开办、不动产登记等高频事项;三是跨部门业务协同,如工程建设审批等复杂流程。统计显示,全国已有多个地区部署了政务大模型应用系统,覆盖大部分行政服务事项,但多数跨部门事项仍需人工中转处理,系统间信息孤岛现象严重,制约整体服务效能。
2、现有安全控制技术在异常状态识别方面主要依赖大模型输出置信度和预设规则匹配进行异常判断,无法实时感知材料质量下降、政策时效变化、跨部门流程断点等多维度状态信息,导致复杂场景下异常识别率低,难以满足风险精准识别要求。在熔断阈值设置方面,现有技术采用固定阈值的熔断策略,无法根据事项风险等级、材料质量状况、系统运行负载等实时因素动态调整熔断阈值,固定阈值在高风险业务中安全防护不足,而在低风险业务中过度熔断,误熔断率高达25.8%,造成人力浪费。在人机协同决策方面,现有方案采用二元决策模式,缺乏细粒度的人机权责划分机制,当人工覆盖ai决策时,系统无法记录决策差异原因,责任追溯困难,且未建立决策差异反馈机制,无法从人机协同过程中提取有价值经验。此外,现有熔断控制方案为开环系统,每次熔断事件处理完成后,相关经验无法自动转化为模型优化参数,92%的熔断案例属于重复类型,但系统无法自主学习预防,需反复依赖人工干预,系统难以持续进化。在安全与效率平衡方面,现有技术难以在保障服务安全与提升处理效率之间取得合理平衡,过度依赖人工审核导致干预频次高达78次每百单,追求效率时又缺乏精准的风险识别能力,造成安全隐患,难以适应动态需求变化。
3、现有政务大模型熔断控制技术在异常识别维度、阈值动态调整、人机协同决策、闭环学习优化以及安全效率平衡等方面存在明显不足。因此,亟需提供一种技术方案解决上述问题。
技术实现思路
1、为解决上述技术问题,本发明提供了一种政务大模型的分级熔断控制方法及相关设备。
2、第一方面,本发明提供一种政务大模型的分级熔断控制方法,该方法的技术方案如下:
3、获取用户发起的政务请求所对应的大模型原始置信度,并采集材料质量评分、政策时效评分、流程连续评分和系统负载评分;
4、根据所述政务请求的业务类型确定风险等级,按照所述材料质量评分、所述政策时效评分、所述流程连续评分和所述系统负载评分的预设权重进行加权求和,得到基础调整因子,根据所述材料质量评分或所述政策时效评分,以及所述风险等级确定风险增强因子,基于所述大模型原始置信度、所述基础调整因子和所述风险增强因子得到调整后置信度;
5、根据所述基础调整因子和所述风险等级对应的基础风险系数生成三级熔断阈值,将所述调整后置信度分别与所述三级熔断阈值中的各级阈值进行比较,根据比较结果从多个预设熔断级别中确定目标熔断级别;
6、按照所述目标熔断级别执行对应的处置操作,并在执行过程中记录决策关键数据;
7、当满足预设触发条件时,根据所述决策关键数据生成训练样本,利用所述训练样本对所述基础调整因子的权重进行微调,并将微调后的权重反馈至所述基础调整因子的计算环节。
8、本发明的一种政务大模型的分级熔断控制方法的有益效果如下:
9、本发明的方法通过采集材料质量评分、政策时效评分、流程连续评分和运行负载评分,结合业务类型确定风险等级,利用基础调整因子和风险增强因子对大模型原始置信度进行动态修正,并基于基础调整因子与风险等级生成三级熔断阈值进行分级比较,同时记录决策关键数据并用于权重微调反馈,解决了现有技术中异常识别维度单一、熔断阈值固定导致误熔断率高、人机协同缺乏权责划分与差异记录、熔断经验无法自主学习优化以及安全与效率难以兼顾的问题,提高了复杂场景下风险识别精准度、降低了误熔断率、增强了人机协同决策可追溯性、促进了熔断策略持续优化以及提升了政务大模型应用安全与效率平衡水平。
10、在上述方案的基础上,本发明的一种政务大模型的分级熔断控制方法还可以做如下改进。
11、在一种可选的方式中,所述采集材料质量评分、政策时效评分、流程连续评分和系统负载评分的步骤,包括:
12、通过轻量ocr引擎采集所述材料质量评分,通过政策知识库采集所述政策时效评分,通过历史流程日志采集所述流程连续评分,通过系统监控采集所述系统负载评分。
13、采用上述可选方式的有益效果为:进一步明确了材料质量评分、政策时效评分、流程连续评分和负载评分四项指标的具体采集途径,分别通过轻量ocr引擎、政策知识库、历史流程日志和运行监控实现多源数据自动化获取,提升了数据采集的全面性与实时性。
14、在一种可选的方式中,所述政策时效评分按照以下公式计算:
15、
16、其中,表示所述政策时效评分,表示政策新鲜度分值,表示政策一致性分值,表示政策更新频率分值,、、表示所述新鲜度分值、所述一致性分值和所述更新频率分值各自对应的预设权重;
17、所述流程连续评分按照以下公式计算:
18、
19、其中,表示所述流程连续评分,表示状态转移概率分值,表示跳跃指数分值,表示历史成功率分值,、、表示所述状态转移概率分值、所述跳跃指数分值和所述历史成功率分值各自对应的预设权重;
20、所述系统负载评分按照以下公式计算:
21、
22、其中,表示所述系统负载评分,表示归一化后的cpu使用率,表示归一化后的内存占用率,表示归一化后的请求队列长度,、、表示所述cpu使用率、所述内存占用率和所述请求队列长度各自对应的预设权重。
23、采用上述可选方式的有益效果为:进一步量化了政策时效评分、流程连续评分和负载评分三项指标的计算方式,通过新鲜度、一致性、更新频率及状态转移概率、跳跃指数、历史成功率等多维度加权建立客观评分模型,使评分结果更加精准可控。
24、在一种可选的方式中,所述基础调整因子按照以下公式计算:
25、
26、其中,表示所述基础调整因子,表示所述材料质量评分,表示所述政策时效评分,表示所述流程连续评分,表示所述系统负载评分,、、、表示所述材料质量评分、所述政策时效评分、所述流程连续评分和所述系统负载评分取反后数值各自对应的预设权重,且。
27、采用上述可选方式的有益效果为:进一步规范了基础调整因子的计算逻辑,按照材料质量、政策时效、流程连续和负载的重要性设定递减权重进行加权求和,使置信度修正更加贴合实际业务需求,增强了调整结果的合理性。
28、在一种可选的方式中,所述风险增强因子按照以下规则确定:当所述风险等级为高风险且所述材料质量评分小于第一预设阈值时,所述风险增强因子取第一预设值;当所述风险等级为中风险且所述政策时效评分小于第二预设阈值时,所述风险增强因子取第二预设值;否则所述风险增强因子取第三预设值。
29、采用上述可选方式的有益效果为:进一步建立了风险增强因子的分级判定规则,针对高风险且材料质量异常或中风险且政策时效异常的组合条件动态选取对应预设值,实现了差异化风险响应,提升了特殊场景下的识别灵敏度。
30、在一种可选的方式中,所述调整后置信度按照以下公式计算:
31、
32、其中,表示所述调整后置信度,表示所述大模型原始置信度,表示所述基础调整因子,表示所述风险增强因子。
33、采用上述可选方式的有益效果为:进一步明确了调整后置信度的计算方法,将基础调整因子与风险增强因子联乘作用于原始置信度,使置信度修正同时兼顾常规运行状态与特殊风险场景,增强了输出结果的适应性。
34、在一种可选的方式中,所述三级熔断阈值包括第一阈值、第二阈值和第三阈值,按照以下方式生成:
35、所述第三阈值,所述第二阈值,所述第一阈值;
36、其中,表示基础风险系数,不同风险等级对应不同的基础风险系数预设值,表示预设下限阈值,和表示预设倍数且,和表示预设上限阈值。
37、采用上述可选方式的有益效果为:进一步建立了三级熔断阈值的动态生成机制,基于基础调整因子与风险等级对应的基础风险系数计算各级阈值并设置上下限约束,使熔断标准随业务场景自适应变化,避免了阈值僵化问题。
38、在一种可选的方式中,所述多个预设熔断级别包括第一熔断级别、第二熔断级别、第三熔断级别和第四熔断级别;
39、当所述调整后置信度不小于所述第一阈值时,确定所述目标熔断级别为所述第一熔断级别,调用大模型api完成业务处理;
40、当所述调整后置信度不小于所述第二阈值且小于所述第一阈值时,确定所述目标熔断级别为所述第二熔断级别,生成结构化审核任务并推送至人工坐席;
41、当所述调整后置信度不小于所述第三阈值且小于所述第二阈值时,确定所述目标熔断级别为所述第三熔断级别,调用诊断服务生成异常报告;
42、当所述调整后置信度小于所述第三阈值时,确定所述目标熔断级别为所述第四熔断级别,执行流程回滚并向用户发送通知。
43、采用上述可选方式的有益效果为:进一步细化了四个熔断级别的判定条件与对应处置策略,根据调整后置信度与三级阈值的比较结果分别执行自动处理、人工审核、异常诊断或流程回滚,实现了分级差异化管控与精准处置。
44、第二方面,本发明提供一种政务大模型的分级熔断控制系统,该系统的技术方案如下:
45、获取模块,用于获取用户发起的政务请求所对应的大模型原始置信度,并采集材料质量评分、政策时效评分、流程连续评分和系统负载评分;
46、计算模块,用于根据所述政务请求的业务类型确定风险等级,按照所述材料质量评分、所述政策时效评分、所述流程连续评分和所述系统负载评分的预设权重进行加权求和,得到基础调整因子,根据所述材料质量评分或所述政策时效评分,以及所述风险等级确定风险增强因子,基于所述大模型原始置信度、所述基础调整因子和所述风险增强因子得到调整后置信度;
47、确定模块,用于根据所述基础调整因子和所述风险等级对应的基础风险系数生成三级熔断阈值,将所述调整后置信度分别与所述三级熔断阈值中的各级阈值进行比较,根据比较结果从多个预设熔断级别中确定目标熔断级别;
48、执行模块,用于按照所述目标熔断级别执行对应的处置操作,并在执行过程中记录决策关键数据;
49、微调模块,用于当满足预设触发条件时,根据所述决策关键数据生成训练样本,利用所述训练样本对所述基础调整因子的权重进行微调,并将微调后的权重反馈至所述基础调整因子的计算环节。
50、本发明的一种政务大模型的分级熔断控制系统的有益效果如下:
51、本发明的系统通过采集材料质量评分、政策时效评分、流程连续评分和运行负载评分,结合业务类型确定风险等级,利用基础调整因子和风险增强因子对大模型原始置信度进行动态修正,并基于基础调整因子与风险等级生成三级熔断阈值进行分级比较,同时记录决策关键数据并用于权重微调反馈,解决了现有技术中异常识别维度单一、熔断阈值固定导致误熔断率高、人机协同缺乏权责划分与差异记录、熔断经验无法自主学习优化以及安全与效率难以兼顾的问题,提高了复杂场景下风险识别精准度、降低了误熔断率、增强了人机协同决策可追溯性、促进了熔断策略持续优化以及提升了政务大模型应用安全与效率平衡水平。
52、第三方面,本发明的一种电子设备的技术方案如下:
53、包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的程序,所述处理器执行所述程序时实现如本发明的政务大模型的分级熔断控制方法的步骤。
54、第四方面,本发明提供的一种计算机可读存储介质的技术方案如下:
55、计算机可读存储介质中存储有指令,当计算机可读存储介质读取所述指令时,使所述计算机可读存储介质执行如本发明的政务大模型的分级熔断控制方法的步骤。
56、上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com