一种人工智能推理方法、电子设备及计算机存储介质与流程

本申请实施例涉及人工智能，尤其涉及一种人工智能推理方法、电子设备及计算机存储介质。

背景技术：

1、随着大语言模型（large language model，llm）从“对话生成工具”向“自主推理代理”演进，企业级人工智能系统面临一个核心架构问题：如何让ai（artificialintelligence，人工智能）安全、可控、高效地完成多步推理和自主执行。

2、现阶段，多步推理框架实现了从思考到行动再到观察的多步循环，使ai能够在推理过程中调用工具、获取新信息、迭代推理。

3、然而，这些框架存在以下缺陷：在同一个循环中，ai既做推理判断又做工具调用，审计时无法区分"ai认为应该做什么"和"ai实际做了什么"。这在企业环境中构成合规风险：当ai误操作时，无法追溯该操作是"推理结论驱动"还是"执行环节自行判断"。

技术实现思路

1、有鉴于此，本申请实施例提供一种人工智能推理方案，以至少部分解决上述问题。

2、根据本申请实施例的第一方面，提供了一种人工智能推理方法，包括：

3、接收用户消息；通过认知服务基于所述用户消息进行推理操作，得到决策指令，并将所述决策指令发送至执行服务；通过所述执行服务，根据所述决策指令调用业务工具执行所述决策指令，得到执行结果，以基于所述执行结果得到所述用户消息对应的响应结果；其中，所述认知服务与所述执行服务相互隔离，并通过预先建立的通信链路通信。

4、根据本申请实施例的第二方面，提供了一种人工智能推理装置，包括：

5、消息接收模块，用于接收用户消息；认知模块，用于通过认知服务基于所述用户消息进行推理操作，得到决策指令，并将所述决策指令发送至执行服务；执行模块，用于通过所述执行服务，根据所述决策指令调用业务工具执行所述决策指令，得到执行结果，以基于所述执行结果得到所述用户消息对应的响应结果；其中，所述认知服务与所述执行服务相互隔离，并通过预先建立的通信链路通信。

6、根据本申请实施例的第三方面，提供了一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如第一方面所述方法对应的操作。

7、根据本申请实施例的第四方面，提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面所述的方法。

8、根据本申请实施例的第五方面，提供了一种计算机程序产品，其上包含计算机指令，所述计算机指令指示计算设备执行如第一方面所述方法对应的操作。

9、根据本申请实施例提供的人工智能推理方法，独立设置了两个相互独立的服务：认知服务和执行服务，在接收到用户消息之后，通过认知服务调用语言模型对用户消息进行推理，从而得到待执行的决策指令，并将该指令发送至执行服务；执行服务接收到上述决策指令之后，调用业务工具执行该决策指令，从而得到执行结果，最终即可基于执行结果得到针对用户消息的响应结果。

10、本申请上述实施例，在人工智能系统（尤其是面向企业的企业级人工智能系统）中实现了认知推理与工具执行在架构层面的强制物理隔离，审计时则可以方便地区分"ai认为应该做什么"和"ai实际做了什么"，也即使两种行为在审计链中可独立追溯。当ai误操作时，可以分别检查"推理是否合理"和"执行是否合规"，因此，可以更好地满足企业要求。

1.一种人工智能推理方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述接收用户消息，包括：

3.根据权利要求1或2所述的方法，其特征在于，所述通过认知服务基于所述用户消息进行推理操作，得到决策指令，并将所述决策指令发送至执行服务，包括：

4.根据权利要求3所述的方法，其特征在于，所述认知服务在单次推理迭代中通过函数调用声明下一步动作；所述函数仅包括如下函数之一：数据检索函数、决策指令生成函数、追问函数、已完成函数。

5.根据权利要求3所述的方法，其特征在于，在所述将所述决策指令发送至所述执行服务之前，所述方法还包括：

6.根据权利要求1所述的方法，其特征在于，所述通过认知服务基于所述用户消息进行推理操作，包括：

7.根据权利要求1所述的方法，其特征在于，所述通过认知服务基于所述用户消息进行推理操作，得到决策指令，包括：

8.根据权利要求7所述的方法，其特征在于，所述将所述域系统提示词添加至所述用户消息，得到更新后消息，包括：

9.一种电子设备，其特征在于，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

10.一种计算机存储介质，其特征在于，其上存储有计算机程序，该程序被处理器执行时实现如权利要求1-8中任一项所述的方法。