基于智能体大模型的结合蛋白设计方法、智能体大模型的训练方法、设备、存储介质及计算机程序产品与流程

摘要: 本技术涉及机器学习,尤其涉及一种基于智能体大模型的结合蛋白设计方法、智能体大模型的训练方法、设备、存储介质及计算机程序产品。背景技术:1、基于靶点结构的结合蛋白...
基于智能体大模型的结合蛋白设计方法、智能体大模型的训练方法、设备、存储介质及计算机程序产品与流程

本技术涉及机器学习,尤其涉及一种基于智能体大模型的结合蛋白设计方法、智能体大模型的训练方法、设备、存储介质及计算机程序产品。

背景技术:

1、基于靶点结构的结合蛋白设计的目标是为特定靶点蛋白设计能够与之特异性结合的结合蛋白候选。结合蛋白设计流程通常包括目标表位确定、结合骨架或结合姿态生成、氨基酸序列设计、复合物结构预测、界面质量评价和候选筛选等多个环节。

2、现有方案中,利用智能体大模型自动选择和调用外部工具来完成上述蛋白质设计任务。在推理阶段,模型根据当前提示动态选择合适的工具并解析其返回结果。然而,智能体大模型仅将工具调用视为即时推理行为,每一次面对新的靶点,模型都需要从零开始摸索有效的序列修改策略、工具调用顺序以及停止条件,导致智能大模型的结合蛋白设计的效率低下且缺乏持续学习能力。

技术实现思路

1、本技术的主要目的在于提供一种基于智能体大模型的结合蛋白设计方法、智能体大模型的训练方法、设备、存储介质及计算机程序产品,旨在解决智能大模型的结合蛋白设计的效率低下的技术问题。

2、为实现上述目的,本技术提出一种基于智能体大模型的结合蛋白设计方法,所述方法包括:

3、获取模型上下文,其中,所述模型上下文至少包括:结合蛋白设计任务、当前候选节点状态、内部记忆树的摘要、外部候选记忆的摘要、可用预算;所述内部记忆树为有根有向树,包括节点和有向边;所述节点的信息包括候选的状态和剩余预算,所述有向边存储相邻节点的执行动作;

4、利用训练完成的智能体大模型基于模型上下文输出当前候选节点的双层结构化决策,所述双层结构化决策包括目标候选决策和工作流决策;

5、基于所述工作流决策调用至少一个外部执行器逐步执行所述目标候选决策,获取所述外部执行器反馈的执行结果和至少一个候选;

6、基于所述执行结果和所述至少一个候选在所述内部记忆树中逐步新增所述当前候选节点的子节点,并更新所述当前候选节点与所述子节点的有向边;

7、以触发终止条件的子节点作为终止节点,生成多条终止路径;

8、其中,所述工作流决策包括完成所述结合蛋白设计任务的至少一个执行动作。

9、在一实施例中,所述利用训练完成的智能体大模型基于模型上下文输出当前候选节点的双层结构化决策的步骤包括:

10、若所述结合蛋白设计任务包含初始候选,则根据所述初始候选形成根节点候选的状态,所述根节点的剩余预算等于所述模型上下文中的可用预算;

11、若所述结合蛋白设计任务不包含初始候选,则调用所述外部执行器执行一次逆折叠生成初始候选,根据生成的初始候选形成根节点候选的状态,所述根节点的剩余预算为所述可用预算扣除调用一次所述外部执行器生成所述初始候选的成本后的剩余预算;

12、以所述根节点作为当前候选节点,利用训练完成的智能体大模型基于模型上下文输出所述当前候选节点的双层结构化决策。

13、在一实施例中,所述基于所述工作流决策调用至少一个外部执行器逐步执行所述目标候选决策,获取所述外部执行器反馈的执行结果和至少一个候选的步骤,包括:

14、基于所述结合蛋白设计任务校验所述工作流决策是否合法;

15、校验通过后,基于所述执行动作的顺序逐步调用对应的外部执行器;

16、获取所述外部执行器执行所述执行动作后对应反馈的执行结果和至少一个候选。

17、在一实施例中,所述外部执行器包括逆折叠执行器、编辑执行器、评价执行器,所述基于所述执行动作的顺序逐步调用对应的外部执行器的步骤包括:

18、当所述执行动作为逆折叠时,调用所述逆折叠执行器,所述逆折叠执行器根据所述蛋白设计任务生成至少一个候选;

19、当所述执行动作为编辑时,调用所述编辑执行器,所述编辑执行器根据所述目标候选决策的可编辑残基、最大突变数和局部反馈,对当前候选执行局部突变或受限序列重设计生成至少一个候选;

20、其中,所述蛋白设计任务至少包括靶点信息、设计条件、结构要求。

21、在一实施例中,所述蛋白设计任务还包括硬约束,所述基于所述执行动作的顺序逐步调用对应的外部执行器的步骤包括:

22、当所述执行动作为评价时,判断所述候选是否由所述逆折叠执行器或所述编辑执行器生成;

23、若所述候选不是由所述逆折叠执行器或所述编辑执行器生成,调用所述评价执行器对当前候选执行快速评价生成结合蛋白评价;

24、若所述候选由所述逆折叠执行器或所述编辑执行器生成,先调用硬约束检查器判断所述逆折叠执行器或所述编辑执行器反馈的执行结果是否满足硬约束;

25、若满足硬约束,调用所述评价执行器对当前候选执行快速评价生成结合蛋白评价。

26、在一实施例中,所述基于所述执行结果和所述至少一个候选在所述内部记忆树中逐步新增所述当前候选节点的子节点,并更新所述当前候选节点与所述子节点的有向边的步骤,包括:

27、根据每一个所述候选新增所述内部记忆树中当前候选节点的一个子节点,并建立所述子节点至所述当前候选节点的分支;

28、更新所述子节点候选的状态;

29、根据所述外部执行器执行一次所述执行动作的标准化成本更新所述子节点的剩余预算;

30、根据所述执行结果更新所述当前候选节点与子节点之间的有向边。

31、在一实施例中,所述候选的状态至少包括当前候选节点的结合蛋白候选序列、结合蛋白评价,所述以触发终止条件的子节点作为终止节点,生成多条终止路径的步骤,包括:

32、若触发终止条件,所述执行动作为终止动作,所述智能体大模型执行所述终止动作,将触发所述终止条件的子节点作为终止节点,并更新所述终止节点的信息;

33、根据所述根节点逐步增加子节点直至所述终止节点的过程,生成多条终止路径。

34、在一实施例中,所述终止条件包括主动终止条件和强制终止条件中的至少一个条件;

35、所述主动终止条件包括所述智能体大模型输出的双层结构化决策中包含终止动作;

36、所述强制终止条件至少包括以下一种:当前节点的剩余预算小于下一步调用对应的外部执行器所需的执行成本,子节点的结合蛋白评价的增益小于或等于预设的收益收敛阈值,基于所述结合蛋白设计任务校验所述工作流决策不通过。

37、在一实施例中,所述硬约束为预设的确定性规则或可验证程序实施的条件,所述以触发终止条件的子节点作为终止节点,生成多条终止路径的步骤之后,所述方法还包括:

38、若所述终止路径中每一个节点的所述执行结果均满足所述硬约束,将所述终止路径作为成功路径;

39、将所述成功路径及所述成功路径的摘要写入所述外部候选记忆;

40、所述成功路径的摘要至少包括:所述成功路径对应的结合蛋白候选序列、所述双层结构化决策的关键执行动作、路径综合评价、路径成本;

41、所述路径综合评价根据所述成功路径中每一个节点的结合蛋白评价确认;

42、所述路径成本根据所述根节点的剩余预算与所述终止节点的剩余预算确认。

43、为实现上述目的,本技术提出一种智能体大模型的训练方法,所述智能体大模型用于结合蛋白设计,所述方法包括:

44、构建模型上下文,其中,所述模型上下文至少包括:结合蛋白设计任务、当前候选节点状态、内部记忆树的摘要、外部候选记忆的摘要、可用预算;所述内部记忆树为有根有向树包括节点和有向边;所述节点的信息包括候选的状态和剩余预算,所述有向边存储相邻节点的执行动作;

45、利用待训练的智能体大模型基于模型上下文输出当前候选节点的双层结构化决策,所述双层结构化决策包括目标候选决策和工作流决策;其中,所述待训练的智能体大模型为已完成监督微调训练的策略模型;

46、基于所述工作流决策调用至少一个外部执行器逐步执行所述目标候选决策,获取所述外部执行器反馈的执行结果和至少一个候选;

47、基于所述执行结果和所述至少一个候选在所述内部记忆树中逐步新增所述当前候选节点的子节点,并更新所述当前候选节点与所述子节点的有向边;

48、以触发终止条件的子节点作为终止节点,生成多条终止路径,确认每条终止路径的路径综合评价;

49、根据所述路径综合评价确认每条终止路径中每条有向边的步骤奖励;

50、根据所述步骤奖励确定每条有向边的折扣回报,并根据所述折扣回报确定训练信号;

51、根据所述训练信号对所述待训练的智能体大模型进行在线强化学习,更新所述待训练的智能体大模型的参数。

52、在一实施例中,所述训练方法包括:

53、将所述外部执行器反馈的所述执行结果作为条件信息输入所述待训练的智能体大模型;

54、所述训练信号仅作用于所述待训练的智能体大模型输出的双层结构化决策,采用近端策略通过反向传播的方式更新所述待训练的智能体大模型的参数;

55、其中,所述外部执行器作为所述训练方法的承载环境,在训练过程中所述外部执行器的参数保持冻结,不参与所述反向传播。

56、在一实施例中,所述根据所述路径综合评价确认每条终止路径中每条有向边的步骤奖励的步骤包括:

57、根据结合蛋白评价的变化量确定步骤奖励;

58、根据所述终止路径中相邻节点之间的所述结合蛋白评价的变化量,确定所述相邻节点之间的有向边对应的步骤奖励;

59、所述根据所述折扣回报确定训练信号的步骤包括:

60、根据所述折扣回报和预设价值函数计算优势值,根据所述优势值确定所述训练信号。

61、在一实施例中,所述利用待训练的智能体大模型基于模型上下文输出当前候选节点的双层结构化决策的步骤包括:

62、若所述结合蛋白设计任务包含初始候选,则根据所述初始候选形成根节点候选的状态,所述根节点的剩余预算等于所述模型上下文中的可用预算;

63、若所述结合蛋白设计任务不包含初始候选,则调用所述外部执行器执行一次逆折叠生成初始候选,根据生成的初始候选形成根节点候选的状态,所述根节点的剩余预算为所述可用预算扣除调用一次所述外部执行器生成所述初始候选的成本后的剩余预算;

64、以所述根节点作为当前候选节点,利用待训练的智能体大模型基于模型上下文输出所述当前候选节点的双层结构化决策。

65、在一实施例中,所述基于所述工作流决策调用至少一个外部执行器逐步执行所述目标候选决策,获取所述外部执行器反馈的执行结果和至少一个候选的步骤,包括:

66、基于所述结合蛋白设计任务校验所述工作流决策是否合法;

67、校验通过后,基于所述执行动作的顺序逐步调用对应的外部执行器;

68、获取所述外部执行器执行所述执行动作后对应反馈的执行结果和至少一个候选。

69、在一实施例中,所述外部执行器包括逆折叠执行器、编辑执行器、评价执行器,所述基于所述执行动作的顺序逐步调用对应的外部执行器的步骤包括:

70、当所述执行动作为逆折叠时,调用所述逆折叠执行器,所述逆折叠执行器根据所述蛋白设计任务生成至少一个候选;

71、当所述执行动作为编辑时,调用所述编辑执行器,所述编辑执行器根据所述目标候选决策的可编辑残基、最大突变数和局部反馈,对当前候选执行局部突变或受限序列重设计生成至少一个候选;

72、其中,所述蛋白设计任务至少包括靶点信息、设计条件、结构要求。

73、在一实施例中,所述蛋白设计任务还包括硬约束,所述基于所述执行动作的顺序逐步调用对应的外部执行器的步骤包括:

74、当所述执行动作为评价时,判断所述候选是否由所述逆折叠执行器或所述编辑执行器生成;

75、若所述候选不是由所述逆折叠执行器或所述编辑执行器生成,调用所述评价执行器对当前候选执行快速评价生成结合蛋白评价;

76、若所述候选由所述逆折叠执行器或所述编辑执行器生成,先调用硬约束检查器判断所述逆折叠执行器或所述编辑执行器反馈的执行结果是否满足硬约束;

77、若满足硬约束,调用所述评价执行器对当前候选执行快速评价生成结合蛋白评价。

78、在一实施例中,所述基于所述执行结果和所述至少一个候选在所述内部记忆树中逐步新增所述当前候选节点的子节点,并更新所述当前候选节点与所述子节点的有向边的步骤,包括:

79、根据每一个所述候选新增所述内部记忆树中当前候选节点的一个子节点,并建立所述子节点至所述当前候选节点的分支;

80、更新所述子节点候选的状态;

81、根据所述外部执行器执行一次所述执行动作的标准化成本更新所述子节点的剩余预算;

82、根据所述执行结果更新所述当前候选节点与子节点之间的有向边。

83、在一实施例中,所述候选的状态至少包括当前候选节点的结合蛋白候选序列、结合蛋白评价,所述以触发终止条件的子节点作为终止节点,生成多条终止路径的步骤,包括:

84、若触发终止条件,所述执行动作为终止动作,所述智能体大模型执行所述终止动作,将触发所述终止条件的子节点作为终止节点,并更新所述终止节点的信息;

85、根据所述根节点逐步增加子节点直至所述终止节点的过程,生成多条终止路径。

86、在一实施例中,所述终止条件包括主动终止条件和强制终止条件中的至少一个条件;

87、所述主动终止条件包括所述智能体大模型输出的双层结构化决策中包含终止动作;

88、所述强制终止条件至少包括以下一种:当前节点的剩余预算小于下一步调用对应的外部执行器所需的执行成本,子节点的结合蛋白评价的增益小于或等于预设的收益收敛阈值,基于所述结合蛋白设计任务校验所述工作流决策不通过。

89、在一实施例中,所述硬约束为预设的确定性规则或可验证程序实施的条件,所述以触发终止条件的子节点作为终止节点,生成多条终止路径的步骤之后,所述方法还包括:

90、若所述终止路径中每一个节点的所述执行结果均满足所述硬约束,将所述终止路径作为成功路径;

91、将所述成功路径及所述成功路径的摘要写入所述外部候选记忆;

92、所述成功路径的摘要至少包括:所述成功路径对应的结合蛋白候选序列、所述双层结构化决策的关键执行动作、路径综合评价、路径成本;

93、所述路径综合评价根据所述成功路径中每一个节点的结合蛋白评价确认;

94、所述路径成本根据所述根节点的剩余预算与所述终止节点的剩余预算确认。

95、此外,为实现上述目的,本技术还提出一种电子设备,所述电子设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序配置为实现如上文所述的基于智能体大模型的结合蛋白设计方法和/或智能体大模型的训练方法的步骤。

96、此外,为实现上述目的,本技术还提出一种存储介质,所述存储介质为计算机可读存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上文所述的基于智能体大模型的结合蛋白设计方法和/或智能体大模型的训练方法的步骤。

97、此外,为实现上述目的,本技术还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序被处理器执行时实现如上文所述的基于智能体大模型的结合蛋白设计方法和/或智能体大模型的训练方法的步骤。

98、本技术提出的一个或多个技术方案,至少具有以下技术效果:

99、智能体大模型通过输出目标候选决策与工作流决策的双层结构化决策机制,将结合蛋白设计的宏观方向选择与具体执行路径规划相分离,使智能体大模型能够在统一框架下兼顾设计目标的合理性评估与执行动作的可操作性。同时,借助有根有向的内部记忆树结构对候选状态、剩余预算及执行动作进行系统化存储与关联管理,不仅实现了设计过程的完整回溯与状态追踪,还能基于预算约束动态调控搜索空间,避免无效探索。此外,通过调用外部执行器逐步执行并反馈结果,将真实的执行结果更新至内部记忆树,利用外部执行器构建智能体大模型的运行承载环境。最后,基于触发终止条件的子节点生成多条终止路径,从而在保证设计质量可控的前提下,提升了结合蛋白设计的质量和效率。