候选任务工作者声誉值的确定方法

1.本技术属于联邦学习技术领域，尤其涉及一种候选任务工作者声誉值的确定方法。


背景技术：

2.联邦学习是一种新兴的人工智能基础技术，它支持使用来自大规模节点(如移动设备)的本地数据集进行分布式模型训练，但只共享模型更新，而不上传原始训练数据。该技术提供了良好的隐私保护，同时保证了较高的学习性能。尽管联邦学习具有上述这些好处和广阔的应用前景，但仍存在一些关键的挑战，诸如现有的工作主要集中在设计先进的学习算法，以达到更好的学习性能。然而参与培训的可靠联邦学习的任务工作者(即移动设备)选择方案等挑战尚未得到探索。因此，防御这种有意或无意的不可靠的局部模型更新对于联邦学习是至关重要的。
3.研究表明，任务工作者故意发送恶意更新以及任务工作者可能会无意地更新一些低质量的参数都会影响全局模型参数。在这些理论和研究的推动下，联邦学习中引入了声誉作为一个公平的度量来选择可靠的任务工作者进行联合学习，以抵御移动网络中不可靠的模型更新。目前，现有方案主要是通过多权重主观逻辑模型和联盟区块链的结合选择可靠和可信任务工作者。联邦学习运用多权重主观逻辑模型来生成任务工作者候选人的综合声誉值，多权重主观逻辑是一个广泛采用的概率推理框架:每个任务发布者将其直接声誉意见和间接声誉意见相结合，为任务工作候选人生成综合声誉价值。联盟区块链以分散的方式管理声誉，保证精确的信誉计算，从而显著提高学习精度。
4.尽管这些方法在选择可靠和可信的任务工作者方面取得了一些进展，但仍存在一定的局限性。例如很多方法没有考虑恶意任务发布者的检测，这将导致恶意任务发布者能与不可靠任务工作者相互串通共同影响数据的准确性。
5.综上，联邦学习存在候选任务工作者声誉值求值不够准确的问题。


技术实现要素：

6.本技术实施例提供了一种候选任务工作者声誉值的确定方法，可以解决联邦学习中候选任务工作者声誉值求值不够准确的问题。
7.本技术实施例提供了一种候选任务工作者声誉值的确定方法，应用于联邦学习系统，包括：在候选任务工作者完成联邦学习系统的联邦学习任务后，将联邦学习系统中所有任务发布者中的任一者作为当前任务发布者；根据联邦学习任务的完成情况，获取所有任务发布者对候选任务工作者的直接声誉值；根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值；
根据直接声誉值和间接声誉值，计算所有任务发布者对候选任务工作者的综合声誉值；计算所有任务发布者的可靠度，并将计算出的可靠度作为该可靠度对应的综合声誉值的可信度；根据所有任务发布者对候选任务工作者的综合声誉值以及对应的可信度，利用bui聚合模型计算候选任务工作者的最终声誉值。
8.可选的，根据联邦学习任务的完成情况，获取所有任务发布者对候选任务工作者的直接声誉值，包括：通过计算公式通过计算公式通过计算公式得到所有任务发布者对候选任务工作者的直接声誉值，其中，表示任务发布者i对候选任务工作者j的直接声誉值，表示候选任务工作者j的正面互动事件数，正面互动事件数表示候选任务工作者j向任务发布者i返回可靠的本地模型的次数，表示候选任务工作者j的负面互动事件数，负面互动事件数表示候选任务工作者j向任务发布者i返回不可靠的本地模型的次数，表示任务发布者i对候选任务工作者j的直接声誉值信度，表示任务发布者i对候选任务工作者j的直接声誉值不信度，表示任务发布者i对候选任务工作者j的直接声誉值不确定度，表示直接声誉值不确定度的影响水平；，，，m表示任务发布者的总个数，表示候选任务工作者的总个数。
9.可选的，根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值，包括：通过计算公式通过计算公式通过计算公式通过计算公式得到候选任务工作者j的间接声誉值，其中，表示其他任务发布者y对候选任务工作者j的间接声誉值，表示其他任务发布者y对候选任务工作者j的间接声誉值信度，表示其他任务发布者y对候选任务工作者j的间接声誉值不信度，表示其他任务
发布者y对候选任务工作者j的间接声誉值不确定度，表示其他任务发布者y对当前任务发布者i的评分权重参数，，，，。
10.可选的，根据直接声誉值和间接声誉值，计算所有任务发布者对候选任务工作者的综合声誉值，包括：通过计算公式通过计算公式通过计算公式通过计算公式得到所有任务发布者对候选任务工作者j的综合声誉值，其中，表示任务发布者i对候选任务工作者j的综合声誉值，表示任务发布者i对候选任务工作者j的综合声誉值可信度，表示任务发布者i对候选任务工作者j的综合声誉值不可信度，表示任务发布者i对候选任务工作者j的综合声誉值不确定度，。
11.可选的，计算所有任务发布者的可靠度，包括：通过计算公式得到所有任务发布者的可靠度，其中，表示任务发布者i的可靠度，表示任务发布者i是否使用重复数据源，表示任务发布者i发布联邦学习任务的频率，表示任务发布者i是否长期给出不切实际的高分，均表示权重因子。
12.可选的，根据所有任务发布者对候选任务工作者的综合声誉值以及综合声誉值对应的可信度，利用bui聚合模型计算候选任务工作者的最终声誉值，包括：将候选任务工作者j的最终声誉值转化成bui二元组，其中，由所有任务发布者对候选任务工作者j的综合声誉值聚合而成，表示的可信度；利用区间转换函数将bui二元组转化成区间值，得到和的第一表达式如下：其中，表示所有任务发布者对候选任务工作者j的综合声誉值的加权聚合函数，表示区间值的加权聚合函数，表示任务发布者i对候选任务工作者j的综合声誉值，，表示任务发布者i对候选任务工作者j的综合声誉值的可信度，，表示区间值，，，l表示区间的不确定度
函数；利用算术平均聚合函数对第一表达式进行处理，得到和的最终表达式如下：计算最终表达式，得到的值和的值，，；通过计算公式，得到候选任务工作者j的最终声誉值。
13.可选的，在计算所有任务发布者的可靠度，并将计算出的可靠度作为该可靠度对应的综合声誉值的可信度之后，本技术提供的候选任务工作者声誉值的确定方法，还包括：联邦学习系统将综合声誉值和综合声誉值的可信度存储在信誉区块链中。
14.本技术的上述方案有如下的有益效果：本技术的一些实施例中，联邦学习系统通过根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值，能够避免恶意任务发布者的干扰；通过计算所有任务发布者对候选任务工作者的综合声誉值，并用任务发布者的可靠度表示综合声誉值的可信度，结合bui聚合模型计算候选任务工作者的最终声誉值，得到的最终声誉值的可信度，与所有任务发布者对候选任务工作者的综合声誉值以及所有任务发布者的可靠度共同聚合成的波动区间成反比，波动区间越大最终声誉值越小，从而能够有效的避免恶意任务发布者与不可靠任务工作者相互串通，提高候选任务工作者声誉值求值的准确性。
15.本技术的其它有益效果将在随后的具体实施方式部分予以详细说明。
附图说明
16.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
17.图1为本技术一实施例提供的候选任务工作者声誉值的确定方法的流程图。
具体实施方式
18.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本技术实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本技术。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本技术的描述。
19.应当理解，当在本技术说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
20.还应当理解，在本技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
21.如在本技术说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0022]
另外，在本技术说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
[0023]
在本技术说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本技术的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
[0024]
针对联邦学习存在任务工作者声誉值求值不够准确的问题，本技术提出了一种候选任务工作者声誉值的确定方法，联邦学习系统通过根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值，能够避免恶意任务发布者的干扰；通过计算所有任务发布者对候选任务工作者的综合声誉值，并用任务发布者的可靠度表示综合声誉值的可信度，结合基本不确定性信息（bui，basic uncertain information）聚合模型计算候选任务工作者的最终声誉值，得到的最终声誉值的可信度，与所有任务发布者对候选任务工作者的综合声誉值以及所有任务发布者的可靠度共同聚合成的波动区间成反比，波动区间越大最终声誉值越小，从而能够有效的避免恶意任务发布者与不可靠任务工作者相互串通，提高候选任务工作者声誉值求值的准确性。
[0025]
如图1所示，本技术提供的候选任务工作者声誉值的确定方法包括如下步骤：步骤11，在候选任务工作者完成联邦学习系统的联邦学习任务后，将联邦学习系统中所有任务发布者中的任一者作为当前任务发布者。
[0026]
联邦学习系统发布联邦学习任务给候选任务工作者是为了获取性能资源信息更好地工作者（候选任务工作者是根据工作者的性能资源信息择优筛选的），从而提高模型训练的效率。
[0027]
步骤12，根据联邦学习任务的完成情况，获取所有任务发布者对候选任务工作者的直接声誉值。
[0028]
使候选任务工作者执行联邦学习任务，能够对全局模型进行迭代更新，直至全局模型达到精度标准，在上述过程中，任务发布者与候选任务工作者之间，通常只会共享模型更新，并不会传送原始训练数据。
[0029]
示例性的，上述联邦学习任务的执行过程如下：步骤a，候选任务工作者接收当前任务发布者传送的初始全局模型，并对初始全局模型进行训练，得到本地模型。
[0030]
具体的，候选任务工作者根据本地生成的数据对初始全局模型进行更新，生成本地模型。
[0031]
上述传送过程中，通常情况下仅共享模型更新，并不会传送原始训练数据，示例性的，可以传送模型的参数。
[0032]
值得一提的是，候选工作者与任务发布者之间仅共享模型更新，并不会传送原始训练数据，能够很好的保护信息数据的隐私。
[0033]
步骤b，候选任务工作者将本地模型返回给当前任务发布者。
[0034]
步骤c，当前任务发布者接收本地模型，并根据本地模型对初始全局模型进行更新，得到新的全局模型。
[0035]
步骤d，当前任务发布者判断新的全局模型是否满足预设标准。
[0036]
步骤e，当新的全局模型不满足预设标准时，当前任务发布者将新的全局模型作为初始全局模型传送给候选任务工作者，返回执行步骤a；否则确定为联邦学习任务完成。
[0037]
此外，联邦学习系统在候选任务工作者执行联邦学习任务的时候，会记录历史互动情况，统计正面互动事件次数和负面互动事件次数。
[0038]
步骤13，根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值。
[0039]
值得一提的是，在此利用其他任务发布者对当前任务发布者的评分权重，可以避免恶意任务发布者对数据的影响。
[0040]
步骤14，根据直接声誉值和间接声誉值，计算所有任务发布者对候选任务工作者的综合声誉值。
[0041]
在此计算出的所有任务发布者对候选任务工作者的综合声誉值并不能直接作为候选任务工作者的最终声誉值，否则可能会出现恶意任务发布者与不可靠任务工作者相互串通共同影响数据的准确性的问题。
[0042]
步骤15，计算所有任务发布者的可靠度，并将计算出的可靠度作为该可靠度对应的综合声誉值的可信度。
[0043]
计算所有任务发布者的可靠度并将其作为所有任务发布者对候选任务工作者的综合声誉值的可信度，便于后续利用bui聚合模型对最终声誉值进行计算。
[0044]
此外，通过上述步骤得到所有任务发布者对候选任务工作者的综合声誉值和该综合声誉值对应的可信度后，需要将综合声誉值和综合声誉值对应的可信度以向量的形式存储管理在开放访问的信誉区块链上，便于后续联邦学习系统计算该候选任务工作者最终声誉值时调用，同时，也便于联邦学习系统计算其他任务发布者对该候选任务工作者的综合声誉值。
[0045]
步骤16，根据所有任务发布者对候选任务工作者的综合声誉值以及对应的可信度，利用bui聚合模型计算候选任务工作者的最终声誉值。
[0046]
最终声誉值必须综合所有任务发布者对任务工作者的综合声誉值以及判断任务发布者给出的评分是否合理，本技术利用bui聚合模型计算候选任务工作者的最终声誉值，从而防止恶意任务发布者与不可靠任务工作者相互串通，共同影响最终声誉值的准确性。
[0047]
bui聚合模型具有如下优势：1）同时表征信息和信息可靠度；2）具有完善聚合函数框架；3）信息可靠度的计算方式多元。
[0048]
可见，本技术的实施例中，联邦学习系统通过根据其他任务发布者对当前任务发布者的评分权重，计算候选任务工作者的间接声誉值，能够避免恶意任务发布者的干扰；通
过计算所有任务发布者对候选任务工作者的综合声誉值，并用任务发布者的可靠度表示综合声誉值的可信度，结合bui聚合模型计算候选任务工作者的最终声誉值，得到的最终声誉值的可信度，与所有任务发布者对候选任务工作者的综合声誉值以及所有任务发布者的可靠度共同聚合成的波动区间成反比，波动区间越大最终声誉值越小，从而能够有效的避免恶意任务发布者与不可靠任务工作者相互串通，提高候选任务工作者声誉值求值的准确性。
[0049]
下面对步骤11（在候选任务工作者完成联邦学习系统的联邦学习任务后，将联邦学习系统中所有任务发布者中的任一者作为当前任务发布者）中，候选任务工作者的筛选过程做示例性说明。
[0050]
示例性的，候选工作者的筛选过程如下：首先，联邦学习系统发布包括了任务发布者对工作者的特定资源要求（数据类型、数据大小和准确性、时间范围和中央处理器（cpu，central processing unit）周期）的联邦学习任务。
[0051]
然后，接收到联邦学习任务的工作者首先判断自己是否满足任务发布者的资源要求，如果满足就返回包含本身资源信息的响应消息给任务发布者，否则舍弃数据，不做响应。
[0052]
最后，任务发布者根据响应消息中的工作者资源信息选取候选任务工作者。
[0053]
下面对步骤12（根据联邦学习任务的完成情况，获取所有任务发布者对候选任务工作者的直接声誉值）中，获取所有任务发布者对候选任务工作者的直接声誉值的具体过程做示例性说明。
[0054]
具体的，通过计算公式具体的，通过计算公式具体的，通过计算公式得到所有任务发布者对候选任务工作者的直接声誉值，其中，表示任务发布者i对候选任务工作者j的直接声誉值，表示候选任务工作者j的正面互动事件数，正面互动事件数表示候选任务工作者j向任务发布者i返回可靠的本地模型的次数，表示候选任务工作者j的负面互动事件数，负面互动事件数表示候选任务工作者j向任务发布者i返回不可靠的本地模型的次数，表示任务发布者i对候选任务工作者j的直接声誉值信度，表示任务发布者i对候选任务工作者j的直接声誉值不信度，表示任务发布者i对候选任务工作者j的直接声誉值不确定度，表示直接声誉值不确定度的影响水平；，，，m表示任务发布者的总个数，表示候选任务工作者的总个数。
[0055]
需要说明的是，由任务工作者j和任务发布者i之间的通信链路质量决定，表示数据包传输失败的概率。
[0056]
下面对步骤13（根据其他任务发布者对当前任务发布者的评分权重，计算候选任
务工作者的间接声誉值）的具体过程做示例性说明。
[0057]
具体的，通过计算公式具体的，通过计算公式具体的，通过计算公式具体的，通过计算公式得到候选任务工作者j的间接声誉值，其中，表示其他任务发布者y对候选任务工作者j的间接声誉值，表示其他任务发布者y对候选任务工作者j的间接声誉值信度，表示其他任务发布者y对候选任务工作者j的间接声誉值不信度，表示其他任务发布者y对候选任务工作者j的间接声誉值不确定度，表示其他任务发布者y对当前任务发布者i的评分权重参数，，，，。
[0058]
下面对步骤14（根据直接声誉值和间接声誉值，计算所有任务发布者对候选任务工作者的综合声誉值）的具体过程做示例性说明。
[0059]
具体的，通过计算公式具体的，通过计算公式具体的，通过计算公式具体的，通过计算公式得到所有任务发布者对候选任务工作者j的综合声誉值，其中，表示任务发布者i对候选任务工作者j的综合声誉值，表示任务发布者i对候选任务工作者j的综合声誉值可信度，表示任务发布者i对候选任务工作者j的综合声誉值不可信度，表示任务发布者i对候选任务工作者j的综合声誉值不确定度，。
[0060]
下面对步骤15（计算所有任务发布者的可靠度，并将计算出的可靠度作为该可靠度对应的综合声誉值的可信度）中，计算所有任务发布者的可靠度的具体过程做示例性说明。
[0061]
具体的，通过计算公式得到所有任务发布者的可靠度，其中，表示任务发布者i的可靠度，表示任务
发布者i是否使用重复数据源，表示任务发布者i发布联邦学习任务的频率，表示任务发布者i是否长期给出不切实际的高分，均表示权重因子。
[0062]
下面对步骤16（根据所有任务发布者对候选任务工作者的综合声誉值以及综合声誉值对应的可信度，利用bui聚合模型计算候选任务工作者的最终声誉值）的具体过程做示例性说明。
[0063]
步骤16.1，将候选任务工作者j的最终声誉值转化成bui二元组，其中，由所有任务发布者对候选任务工作者j的综合声誉值聚合而成，表示的可信度。
[0064]
步骤16.2，利用区间转换函数将bui二元组转化成区间值，得到和的第一表达式如下：其中，表示所有任务发布者对候选任务工作者j的综合声誉值的加权聚合函数，表示区间值的加权聚合函数，表示任务发布者i对候选任务工作者j的综合声誉值，，表示任务发布者i对候选任务工作者j的综合声誉值的可信度，，表示区间值，，，l表示区间的不确定度函数。
[0065]
步骤16.3，利用算术平均聚合函数对第一表达式进行处理，得到和的最终表达式如下：计算最终表达式，得到的值和的值，，；通过计算公式，得到候选任务工作者j的最终声誉值。
[0066]
为了更好地理解本技术提供技术方案，下面结合具体实施例对本技术提供的候选任务工作者声誉值的确定方法做示例性说明：本技术的一实施例中，经过上述步骤得到的各项数据值如下表所示：
其中，上表中i和j的取值均为[1,10]，pi表示第i个任务发布者，wj表示第j个候选任务工作者，ci表示第i个任务发布者的可靠度，xj表示在不考虑可信度时，第j个候选任务工作者的声誉值，cj表示第j个候选任务工作者的声誉值的可信度，tj表示第j个候选任务工作者的最终声誉值。
[0067]
结合表中候选任务工作者w3和w9对应的最终声誉值、不考虑可信度的候选任务工作者的声誉值xj以及基于bui聚合模型的xj的可信度cj，可见，在不考虑恶意任务发布者与不可靠的任务工作者相互串通（不考虑可信度）的情况下，任务工作者w3的声誉值（所有综合声誉值的聚合）小于任务工作者w9的声誉值，上述结果可能被恶意发布者影响，得到的是不准确的声誉值。而在考虑可信度并结合bui聚合模型计算的任务工作者w3的最终声誉值和w9的最终声誉值相同，可见本技术提供的候选任务工作者声誉值的确定方法能够有效结合其他正常任务发布者的可靠度得到最终不被恶意任务发布者影响的最终声誉值，求得的任务工作者的声誉值更加准确。
[0068]
本技术提供的候选任务工作者声誉值的确定方法能同时考虑任务发布者对候选任务工作者声誉评分及该评分的可靠度，能有效防止恶意任务发布者与不可靠候选任务工作者相互串通共同影响数据的准确性。
[0069]
以上所述是本技术的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本技术所述原理的前提下，还可以作出若干改进和润饰，这些改进和润饰也应视为本技术的保护范围。