一种组合增强的三元延迟人机协作方法

本申请的实施例涉及人工智能，特别涉及一种组合增强的三元延迟人机协作方法。

背景技术：

1、近年来，人工智能在诸多领域取得了显著进展，但在复杂现实任务中，其可靠性仍面临挑战。人机协作通过融合人类与ai的互补优势，成为一种有效的解决方案。其中，学会拒绝（learning to defer）框架是主流方法之一，它允许系统在特定情况下将决策任务交由人类处理。

2、然而，现有的人机协作方法普遍存在以下不足：首先，多数方法局限于僵化的二元选择，例如仅在“ai或人类”之间选择，或仅在“ai或人机组合”之间选择。这种限制无法适配实际应用中ai独立、人类独立及人机组合三种模式缺一不可的复杂场景，难以充分释放系统潜力。其次，当模型对某个样本提供低置信度预测，而人类判断正确时，将样本交由人机组合模式处理，模型引入的不确定性噪声反而会破坏组合性能，导致组合退化现象，即组合结果劣于单独依靠人类。此外，三元模式选择与融合方法存在局限，即少数探索三元范式的现有工作，或通过简单拼接人类标签与模型概率，未能捕获细粒度分布特征；或依赖于昂贵的概念标注，限制了实用性；且在区分“仅人类”模式与“组合模式”时面临巨大挑战，因为人类置信度通常是难以获取的隐式变量。

技术实现思路

1、有鉴于此，本申请的实施例提出了一种组合增强的三元延迟人机协作方法，旨在构建一种自适应的人机协作决策机制，突破二元限制，实现对ai独立预测、人类独立预测及人机组合三种模式的精准动态选择，并有效抑制因不可靠模型预测导致的组合模式性能退化，进而能够自适应地在三种决策模式中选择最优路径，并通过对模型预测进行人类指导的保形预测来消除噪声，从而显著提升人机协作系统整体分类准确率。

2、为了实现上述目的，本申请的实施例提出了一种组合增强的三元延迟人机协作方法，所述方法包括以下步骤：

3、接收待处理的输入样本；

4、确定针对输入样本的至少三种候选决策模式；其中，三种候选决策模式包括ai独立决策模式、人类独立决策模式以及经增强融合处理的人机组合决策模式；

5、通过自适应选择模块，基于输入样本的特征，从三种候选决策模式中确定最优决策模式；其中，自适应选择模块用于将模式选择建模为三元决策问题，以基于三元决策问题自适应匹配最适合当前样本特征的最优决策模式；

6、执行所确定的最优决策模式，以输出针对输入样本的最终决策结果。

7、本申请的实施例提出的一种组合增强的三元延迟人机协作方法，首先，接收待处理的输入样本；然后，确定针对输入样本的至少三种候选决策模式；其中，三种候选决策模式包括ai独立决策模式、人类独立决策模式以及经增强融合处理的人机组合决策模式；之后，通过自适应选择模块，基于输入样本的特征，从三种候选决策模式中确定最优决策模式；其中，自适应选择模块用于将模式选择建模为三元决策问题，以基于三元决策问题自适应匹配最适合当前样本特征的最优决策模式；最后，执行所确定的最优决策模式，以输出针对输入样本的最终决策结果；本方案构建了一种自适应的人机协作决策机制，通过突破二元限制，实现对ai独立预测、人类独立预测及人机组合三种模式的精准动态选择，并有效抑制因不可靠模型预测导致的组合模式性能退化，进而能够自适应地在三种决策模式中选择最优路径，并通过对模型预测进行人类指导的保形预测来消除噪声，从而显著提升人机协作系统整体分类准确率。

8、可选地，通过自适应选择模块，基于输入样本的特征，从三种候选决策模式中确定最优决策模式，包括：计算输入样本对应于ai独立决策模式的第一得分；其中，第一得分是模型内在置信度的非参数化得分；通过判别式门控网络，协同生成输入样本对应于人类独立决策模式的第二得分和对应于人机组合决策模式的第三得分；其中，第二得分和第三得分为参数化得分；通过比较第一得分、第二得分和第三得分，将得分最高的决策模式确定为最优决策模式。

9、可选地，模型内在置信度为模型输出的最高概率与次高概率的对数差，其表达式如下：

10、；

11、其中，表示第一得分；表示最高概率的对数值；表示次高概率的对数值。

12、可选地，判别式门控网络通过联合优化路由损失和排序损失进行训练；路由损失用于最大化最优决策模式被选中的概率；排序损失用于强制修正第二得分与第三得分之间的相对排序关系，以在发生组合退化时，优先赋予人类独立决策模式更高的得分。

13、可选地，路由损失通过为每种决策模式动态分配权重计算得到；其中，ai独立决策模式的权重为其预测正确性的二元指示器，人类独立决策模式和人机组合决策模式的权重由模型不确定性引导的可微函数，以及基于人类交互成本和预测错误的惩罚项得到的评估项共同确定。

14、可选地，排序损失利用softplus函数对第二得分小于第三得分的得分倒置现象进行平滑惩罚。

15、可选地，人机组合决策模式进一步包括：获取人类专家对输入样本给出的硬标签，以及预训练模型对输入样本输出的初始概率向量；将硬标签映射为人类软标签向量；通过人类指导的保形预测，对初始概率向量进行精炼，以滤除低置信度的类别，得到精炼后的概率向量；基于人类软标签向量和精炼后的概率向量，对所有类别计算贝叶斯组合概率，并通过贝叶斯融合计算组合概率，并将概率最高的类别确定为组合决策结果。

16、可选地，通过人类指导的保形预测，对初始概率向量进行精炼，以滤除低置信度的类别，得到精炼后的概率向量，包括：

17、计算结合人类先验的非一致性分数；其计算公式包括：

18、；

19、其中，表示非一致性分数；表示模型对类别的预测概率；表示人类对类别的软标签概率；表示用于平衡模型与人类权重的参数；

20、基于校准集，根据预设的边际覆盖率确定目标阈值，并基于目标阈值，构建预测集；

21、将初始概率向量中除预测集内的类别以外的类别所对应的概率置零，并进行归一化，得到精炼后的概率向量。

22、可选地，用于平衡模型与人类权重的参数的取值是基于样本的难度级别动态调整的；其中，样本的难度级别通过比较人类和模型在每个类别上的分类能力进行划分。

23、可选地，本实施例所提供的方法还包括：通过比较人类混淆矩阵对角线与模型混淆矩阵对角线元素的大小，将类别划分为人类易处理组和人类难处理组，并分别为不同组别配置最优的参数；其中，人类易处理组和人类难处理组互不重叠且共同覆盖全部类别空间。

1.一种组合增强的三元延迟人机协作方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述通过自适应选择模块，基于输入样本的特征，从三种候选决策模式中确定最优决策模式，包括：

3.根据权利要求2所述的方法，其特征在于，所述模型内在置信度为模型输出的最高概率与次高概率的对数差，其表达式如下：

4.根据权利要求2所述的方法，其特征在于，判别式门控网络通过联合优化路由损失和排序损失进行训练；

5.根据权利要求4所述的方法，其特征在于，路由损失通过为每种决策模式动态分配权重计算得到；其中，ai独立决策模式的权重为其预测正确性的二元指示器，人类独立决策模式和人机组合决策模式的权重由模型不确定性引导的可微函数，以及基于人类交互成本和预测错误的惩罚项得到的评估项共同确定。

6.根据权利要求4所述的方法，其特征在于，排序损失利用softplus函数对第二得分小于第三得分的得分倒置现象进行平滑惩罚。

7.根据权利要求1所述的方法，其特征在于，所述人机组合决策模式进一步包括：

8.根据权利要求7所述的方法，其特征在于，所述通过人类指导的保形预测，对初始概率向量进行精炼，以滤除低置信度的类别，得到精炼后的概率向量，包括：

9.根据权利要求8所述的方法，其特征在于，所述用于平衡模型与人类权重的参数的取值是基于样本的难度级别动态调整的；其中，样本的难度级别通过比较人类和模型在每个类别上的分类能力进行划分。

10.根据权利要求9所述的方法，其特征在于，所述方法还包括：