用户可见证据闭环准入方法、系统、设备及可读存储介质与流程

本技术涉及人工智能与数据科学，具体涉及一种用户可见证据闭环准入方法、系统、设备及可读存储介质。

背景技术：

1、随着人工智能技术的发展，大语言模型在企业数据分析领域的应用日益广泛。业务用户希望通过自然语言交互，由数据分析智能体自动调用查询工具、分析函数或代码执行工具，完成数据获取、分析及结果展示，特别是在制造业、模具制造、设备维护、质量管理及供应链管理等场景中，这类系统能够有效降低用户访问复杂数据库的技术门槛，提升决策效率。

2、相关技术中，数据分析智能体通常接收用户的自然语言请求，解析意图后调用相应的数据工具执行查询或计算，获取执行结果后，由大语言模型根据执行结果生成自然语言回复，并将数据以markdown（轻量化标记语法）表格、图表配置json或文本摘要的形式直接嵌入回复内容中，最终通过用户界面进行渲染展示。

3、但是，现有技术在多工具数据分析链路中，数据工具的实际执行结果、智能体生成的最终回答与用户界面中的证据组件之间缺乏强制的准入校验机制，使得未经校验的数据能够直接进入用户界面的证据组件，无法保证用户最终看到的可视化证据均来自可追溯且不可由智能体随意改写的候选证据，存在数据一致性难以保障与溯源困难的技术问题。

4、因此，如何提供一种用户可见证据闭环准入方法，以确保用户界面展示的证据组件严格源自可追溯且经校验的候选证据是当前亟需解决的问题。

技术实现思路

1、本技术提供一种用户可见证据闭环准入方法、系统、设备及可读存储介质，可以确保用户界面展示的证据组件严格源自可追溯且经校验的候选证据。

2、第一方面，本技术实施例提供一种用户可见证据闭环准入方法，包括：

3、基于原始输出结果确定第一证据包及其对应的第一证据标识，所述原始输出结果为用户所调用的数据分析工具生成的；

4、接收智能体发送的采纳请求，所述采纳请求是当智能体确定向用户展示目标证据时生成的，所述采纳请求包括与目标证据对应的目标证据标识；

5、根据目标证据标识进行目标证据包的调取，生成调取结果，所述目标证据包包括规范化数据、目标哈希值和目标来源信息；

6、调用采纳校验器基于第一证据包、第一证据标识以及调取结果对所述采纳请求中的目标证据标识进行验证得到验证结果；

7、基于验证结果确认是否将目标证据标识加入当前会话的渲染白名单，以实现用户可见证据闭环准入。

8、结合第一方面，在一种实施方式中，所述基于原始输出结果确定第一证据包及其对应的第一证据标识，包括：

9、基于原始输出结果分别确定第一来源信息、规范化数据及其基础哈希值；

10、将规范化数据、基础哈希值和第一来源信息作为第一证据包，并生成与所述第一证据包对应的第一证据标识。

11、结合第一方面，在一种实施方式中，所述调用采纳校验器基于第一证据包、第一证据标识以及调取结果对所述采纳请求中的目标证据标识进行验证得到验证结果，包括：

12、判断调取结果中是否存在目标证据包、目标来源信息相对于第一来源信息是否完整、第一证据标识与目标证据标识是否一致且第一哈希值与基础哈希值是否一致；

13、若是，则判定验证结果为验证通过；

14、若否，则判定验证结果为验证失败。

15、结合第一方面，在一种实施方式中，所述基于验证结果确认是否将目标证据标识加入当前会话的渲染白名单，包括：

16、若验证结果为验证通过，则将目标证据标识加入当前会话的渲染白名单；

17、若验证结果为验证失败，则拒绝采纳请求，且不将所述目标证据标识加入所述渲染白名单。

18、结合第一方面，在一种实施方式中，所述方法还包括：

19、提取智能体回复文本中的目标证据标识，并判断目标证据标识是否存在于渲染白名单中；

20、若是，则基于目标证据标识从目标证据包中获取规范化数据进行渲染；

21、若否，则禁止基于回复文本中嵌入的数据内容进行证据展示。

22、第二方面，本技术实施例提供了一种用户可见证据闭环准入系统，所述用户可见证据闭环准入系统包括：

23、第一处理模块，其用于基于原始输出结果确定第一证据包及其对应的第一证据标识，所述原始输出结果为用户所调用的数据分析工具生成的；

24、第二处理模块，其用于接收智能体发送的采纳请求，所述采纳请求是当智能体确定向用户展示目标证据时生成的，所述采纳请求包括与目标证据对应的目标证据标识；

25、第三处理模块，其用于根据目标证据标识进行目标证据包的调取，生成调取结果，所述目标证据包包括规范化数据、目标哈希值和目标来源信息；

26、第四处理模块，其用于调用采纳校验器基于第一证据包、第一证据标识以及调取结果对所述采纳请求中的目标证据标识进行验证得到验证结果；

27、第五处理模块，其用于基于验证结果确认是否将目标证据标识加入当前会话的渲染白名单，以实现用户可见证据闭环准入。

28、结合第二方面，在一种实施方式中，所述第一处理模块具体用于：

29、基于原始输出结果分别确定第一来源信息、规范化数据及其基础哈希值；

30、将规范化数据、基础哈希值和第一来源信息作为第一证据包，并生成与所述第一证据包对应的第一证据标识。

31、结合第二方面，在一种实施方式中，所述第四处理模块具体用于：

32、判断调取结果中是否存在目标证据包、目标来源信息相对于第一来源信息是否完整、第一证据标识与目标证据标识是否一致且第一哈希值与基础哈希值是否一致；

33、若是，则判定验证结果为验证通过；

34、若否，则判定验证结果为验证失败。

35、第三方面，本技术实施例提供了一种用户可见证据闭环准入设备，所述用户可见证据闭环准入设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的用户可见证据闭环准入程序，其中所述用户可见证据闭环准入程序被所述处理器执行时，实现如前述任一项所述的用户可见证据闭环准入方法的步骤。

36、第四方面，本技术实施例提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有用户可见证据闭环准入程序，其中所述用户可见证据闭环准入程序被处理器执行时，实现如前述任一项所述的用户可见证据闭环准入方法的步骤。

37、本技术实施例提供的技术方案带来的有益效果包括：

38、通过原始输出结果生成第一证据包及第一证据标识，并接收智能体发送的仅包含目标证据标识的采纳请求，在指令传输层面切断智能体篡改数据载荷的路径；进而根据目标证据标识进行目标证据包的调取，生成调取结果，确保渲染数据源自工具执行后固化的可信存储以保证可追溯性；随后调用采纳校验器基于第一证据包、第一证据标识以及调取结果对采纳请求中的目标证据标识进行验证得到验证结果，强制实施展示前的准入校验；最后基于验证结果将目标证据标识加入当前会话的渲染白名单，限制用户界面仅渲染白名单内的可信数据，由此实现了用户可见证据闭环准入，确保用户界面展示的证据组件严格源自可追溯且经校验的候选证据，有效解决了数据一致性难以保障与溯源困难的技术问题。