面向企业人工智能的决策治理方法、设备及产品与流程

摘要: 本技术涉及企业人工智能决策治理,尤其涉及一种面向企业人工智能的决策治理方法、设备及产品。背景技术:1、随着大语言模型、多代理协同及企业人工智能系统不断发展,人工...
面向企业人工智能的决策治理方法、设备及产品与流程

本技术涉及企业人工智能决策治理,尤其涉及一种面向企业人工智能的决策治理方法、设备及产品。

背景技术:

1、随着大语言模型、多代理协同及企业人工智能系统不断发展,人工智能已逐步参与企业业务分析、报价计算、客户管理、风险识别、审批建议及运营决策,其决策依据是否可信、可追溯、可验证,直接关系企业经营安全与责任边界。

2、然而,现有企业人工智能系统在决策治理过程中普遍存在“结果可见、依据不可见”的问题。当前行业内采用了一些决策追踪与解释手段,但现有技术中,主流方案多采用单一提示词记录、简单日志、模型重新生成解释或单模型输出,无法区分真实业务决策依据与模型事后解释,也无法验证所引用的业务对象、知识版本、长期记忆、工具结果及人工反馈,导致决策依据不可追溯、证据链不完整、多代理决策不一致、责任边界模糊,误报与不可信风险极高,治理精度不足。

技术实现思路

1、本技术的主要目的在于提供一种面向企业人工智能的决策治理方法、设备及产品,旨在解决现有企业人工智能系统中决策依据不可追溯、证据来源不可验证、责任边界模糊的问题。

2、为实现上述目的,本技术提出一种面向企业人工智能的决策治理方法,所述方法包括:

3、响应于待决策任务事件,生成可信调用上下文;

4、利用决策候选生成引擎,根据所述可信调用上下文生成决策候选方案;

5、利用证据需求引擎解析所述决策候选方案,得到证据需求清单,根据所述证据需求清单采集证据,构建决策证据图和可审计决策轨迹;

6、对所述决策候选方案进行验证,得到决策方案的决策可信度和决策风险;

7、根据所述决策证据图、所述可审计决策轨迹、所述决策可信度和所述决策风险进行多智能体裁定协调,并在满足人工审核触发条件时进行人工审核,得到治理判断结果;

8、基于所述治理判断结果生成可信度决策方案,在满足执行准入条件时执行所述可信度决策方案对应的业务动作,并生成执行回执。

9、在一实施例中,所述响应于待决策任务事件,生成可信调用上下文,包括:

10、根据所述待决策任务事件中的租户信息、工作台信息、调用主体信息、权限和业务对象信息确定租户归属、对象所有者、业务对象版本和最小权限范围;

11、对所述租户归属、所述对象所有者、所述业务对象版本、所述调用目的和所述最小权限范围进行层级校验;

12、若所有层级校验通过,则输出可信调用上下文,所述可信调用上下文包含任务标识、关联标识、追踪标识,以及校验后的租户、企业、业务工作台、调用主体、权限、业务对象版本、调用目的和最小权限范围中的至少一项。

13、在一实施例中,所述利用决策候选生成引擎,基于所述可信调用上下文生成决策候选方案,包括:

14、基于所述可信调用上下文,确定目标业务对象和请求意图;

15、根据所述目标业务对象和所述请求意图,判断所述待决策任务事件是否满足预设候选生成条件;

16、若满足所述预设候选生成条件,则生成一个或多个决策候选方案,并为所述一个或多个决策候选方案建立依赖关系。

17、在一实施例中,所述利用证据需求引擎解析所述决策候选方案,得到证据需求清单,根据所述证据需求清单采集证据,构建决策证据图和可审计决策轨迹,包括:

18、利用证据需求引擎解析所述决策候选方案、所述可信调用上下文及所述业务对象版本的证据需求配置,得到证据需求清单;

19、从所述证据需求清单采集各项证据,并基于采集到的各项证据构建决策证据图;

20、根据所述决策证据图记录决策形成过程中的外显且可机器验证的业务事件,构建可审计决策轨迹。

21、在一实施例中,所述对所述决策候选方案进行验证,得到决策方案的可信度和决策风险,包括:

22、利用决策验证引擎对所述决策候选方案进行强制条件校验;

23、若强制条件校验通过,则进行加权验证得到校验决策候选方案;

24、计算所述校验决策候选方案的决策可信度,根据所述可信度确定所述校验决策候选方案的可信度等级;

25、对所述校验决策候选方案进行风险评估,得到所述校验决策候选方案的决策风险。

26、在一实施例中,所述根据所述证据需求清单、所述决策轨迹、所述可信度和所述决策风险进行多智能体冲突裁决,并在满足预设人工审核触发条件时进行人工审核,形成治理判断结果,包括:

27、将所述证据需求清单、所述可审计决策轨迹、所述可信度和所述决策风险输入各专业智能代理,得到各专业智能代理分别输出的专业判断;

28、通过冲突处理引擎对所述专业判断进行冲突检测;

29、若所述冲突检测结果指示存在冲突,则依据预设裁决规则对所述专业判断进行裁决,得到裁决结果;

30、当所述裁决结果中的人工审核请求满足预设人工审核触发条件时,将所述校验决策候选方案和所述决策证据图提供给相应权限的人工审核人,通过所述人工审核人核对决策候选方案和所述决策证据图进行审核,得到审核结果;

31、将所述裁决结果和所述审核结果作为治理判断结果。

32、在一实施例中,所述基于所述治理判断结果生成可信度决策方案,在满足执行准入条件时执行所述可信度决策方案对应的业务动作,并生成执行回执,包括:

33、根据所述治理判断生成决策版本和可信度决策对象;

34、基于所述决策版本和所述可信决策对象,判断是否满足执行准入条件;

35、若满足所述执行准入条件,则由执行闸门生成执行许可;

36、根据所述执行许可执行所述可信度决策对象对应的业务动作,并生成执行回执,所述执行回执绑定决策标识、决策版本、决策证据图摘要、关联标识和运行元数据中的至少一项。

37、在一实施例中,所述根据所述执行许可执行正式业务动作,并生成执行回执之后,还包括:

38、对决策过程进行只追加审计,生成审计记录和审计摘要链;

39、将所述执行回执和所述审计摘要链的审计完整性信息输入观察账本,由所述观察账本生成观察结果;

40、根据所述观察结果和/或外部变化触发对决策进行更新、再验证,生成新版本决策候选方案和优化决策候选方案中的至少一项。

41、此外,为实现上述目的,本技术还提出一种面向企业人工智能的决策治理设备,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序配置为实现如上文所述的面向企业人工智能的决策治理方法的步骤。

42、此外,为实现上述目的,本技术还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序被处理器执行时实现如上文所述的面向企业人工智能的决策治理方法的步骤。

43、本技术提出的一个或多个技术方案,至少具有以下技术效果:响应于待决策任务事件,生成可信调用上下文;利用决策候选生成引擎,根据可信调用上下文生成决策候选方案;利用证据需求引擎解析决策候选方案,得到证据需求清单,根据证据需求清单采集证据,构建决策证据图和可审计决策轨迹;对决策候选方案进行验证,得到决策方案的决策可信度和决策风险;根据决策证据图、可审计决策轨迹、决策可信度和决策风险进行多智能体裁定协调,并在满足人工审核触发条件时进行人工审核,得到治理判断结果;基于治理判断结果生成可信度决策方案,在满足执行准入条件时执行可信度决策方案对应的业务动作,并生成执行回执。由此,本技术通过生成可信调用上下文、构建决策证据图和可审计决策轨迹,使决策依据可追溯;通过证据需求引擎解析证据需求并采集证据,使证据来源可验证;通过多智能体裁定协调、人工审核、受控执行和只追加审计,使责任边界清晰;解决现有企业人工智能系统中决策依据不可追溯、证据来源不可验证、责任边界模糊的问题。