用于实现对计算结果的验证的方法、计算机程序和系统与流程

1.实施例涉及一种用于实现对从第三方获得的计算结果的验证的方法、计算机程序和系统，更具体地，但不排他地，通过提供一种表示分布式账本上的计算的模型。


背景技术：

2.在许多领域和应用中，在决策制定中使用诸如基于人工智能(ai)的模型的模型。该模型通常基于用于对相应模型进行训练的大量数据、并且通常是创建模型的组织的重要资产，从而为模型提供优于竞争组织的优点。因此，可以花费大量资源创建、维护、以及更新该模型，尤其当模型提供优于竞争者的竞争性优点时。因此，希望所述组织防止竞争者理解其模型如何作用。
3.一些模型的目标是使用其个人识别信息(pii)来检测用户行为并且对用户行为进行分类。在一些情况下，制定一些类型的企业决策中所使用的pii的类型存在法律限制。例如，在一些管辖区域中，当制定诸如贷款应用或保健请求的决策时，可能禁止基于年龄、性别、位置、以及其他原因进行区分。在一些情况下，用户有权或希望询问决策的有效性。


技术实现要素：

4.可能希望改进能够使用户通过该模型对计算结果进行验证的构思，例如，鉴于基于用户pii的可疑区分。
5.通过独立权利要求的主题解决这种需求。
6.本公开的实施方式提供一种用于实现对从第三方获得的计算结果进行验证的方法。方法包括：在分布式账本上设置模型。模型表示第三方所使用的计算。方法包括：为一个或多个用户提供对模型的访问，以使得用户对计算的结果进行验证。
7.本公开的实施方式提供一种具有程序代码的计算机程序，当在计算机、处理器、或可编程硬件部件上执行计算机程序时，程序代码用于执行实现对从第三方获得的计算的结果进行验证的方法。方法包括：在分布式账本上设置模型。模型表示第三方所使用的计算。方法包括：为一个或多个用户提供对模型的访问，以使得用户对计算的结果进行验证。
8.本公开的实施方式提供一种用于实现对从第三方获得的计算的结果进行验证的系统。系统包括被配置为在分布式账本上设置模型的处理电路。模型表示第三方所使用的计算。系统包括被配置为为一个或多个用户提供对模型的访问的处理电路，以使得用户对计算的结果进行验证。
附图说明
9.在下文中，将参考所附图并且仅通过实例对装置和/或方法的一些实例进行描述，其中：
10.图1a与图1b示出了用于实现对从第三方获得的计算的结果进行验证的方法的实施方式的流程图；
11.图1c示出了用于实现对从第三方获得的计算的结果进行验证的系统的实施方式的框图；并且
12.图2示出了根据实施方式的系统中的信息的示例性流程的示意图。
具体实施方式
13.现参考示出一些实例的所附附图对各个实例进行更完整地描述。在图中，为清晰起见，可以放大线、层、和/或区域的厚度。
14.因此，尽管进一步的实例能够实现各种改造与可替代的形式，然而，在图中示出了其一些具体实例并且随后进行详细描述。然而，该详细描述并不使进一步的实例局限于所描述的具体形式。进一步的实例可以覆盖落在本公开的范围内的全部改造、等同物、以及替代物。贯穿附图的描述，相同或类似的标号指类似或相似的元件，当与提供相同或相似功能的另一元件相比较时，可以通过相同或改造的形式而实现。
15.应当理解的是，当元件被称为“连接”或“耦接”至另一元件时，元件可以直接连接或经由一个或多个中间元件耦接。如果使用“或”对两个元件a和b进行组合，如果未另行明示或默示地限定，则应被理解为公开了全部可能的组合，即，仅a、仅b、以及a和b。相同组合的可替代词语是“a和b中的至少一个”或“a和/或b”。经必要修正，同样适用于两个以上元件的组合。
16.用于描述具体实施例之目的的此处使用的术语并不旨在限制进一步的实例，无论何时使用诸如“一(a)”、“一个(an)”、以及“该”的单数形式并且仅使用单一元件既未明示、亦未默示地被定义为强制性的，进一步实例还可以使用多个元件来实现相同的功能。同样，当随后将功能描述为使用多个元件实现时，进一步实例可以使用单一元件或处理实体实现相同的功能。应进一步理解的是，当使用时，术语“包括”、“包含”、“具有”、和/或“涵盖”指定存在所述特征、整数、步骤、操作、过程、动作、元件、和/或部件，但并不排除存在或添加一个或多个其他特征、整数、步骤、操作、过程、动作、元件、部件、和/或其任意组合。
17.除非另有限定，否则，此处使用其实例所属领域的普通意义上的全部术语(包括技术术语和科学术语)。
18.图1a与图1b示出了方法的实施方式的流程图，例如，计算机实现的方法。方法适合于实现对从第三方获得的计算的结果进行验证。方法包括：在分布式账本上设置110模型，模型表示第三方所使用的计算。方法包括：为一个或多个用户提供120对模型的访问，以使得用户对计算的结果进行验证。例如，可以通过图1c中的系统执行方法，例如，使用图1c中的系统的处理电路100。
19.图1c示出了用于实现对从第三方获得的计算的结果进行验证的系统的实施方式的框图。系统包括被配置为在分布式账本上设置模型的处理电路100。模型表示第三方所使用的计算。系统包括被配置为为一个或多个用户提供对模型的访问的处理电路100，以使得用户对计算的结果进行验证。
20.下列描述涉及图1a和/或图1b中的方法以及图1c中的系统。
21.本公开的实施方式涉及一种适合于实现对从第三方获得的计算的结果进行验证的方法、计算机程序和系统。在许多情况下，组织内的决策是基于数据做出的，例如，过去已经发生并且用于推断关于当前交易的决策的之前交易的数据。这些决策通常基于由相应组
织积累的大量数据。数据可以用于创建模型，其进而用于计算决策。在许多情况下，由于其竞争优点的至少一部分基于模型内所积累的知识，相应的组织尝试保存相应模型秘密(的细节)。本公开的实施方式可以聚焦于为用户提供对由第三方所计算的决策进行验证的方式，而不迫使第三方公开计算所使用的模型的内部细节。由此，实施方式可能适合于在不公开模型的内部细节的情况下使得用户通过基于模型的结果的企业而对决策进行验证。
22.方法包括：在分布式账本上设置110模型。在信息技术中，“分布式账本”可以被视为与分散式数据库类似。在分布式账本中，将数据存储并且复制到多个节点中，并且通常可经由多个节点中的每个节点访问数据。此外，当向分布式账本添加数据时或当使用分布式账本的数据时，应用规则集。区块链是分布式账本的主要实例，即，分布式账本可以是基于区块链的分布式账本。其他可行的选项是基于有向无环图的分布式账本。例如，分布式账本可以基于有向无环图，例如，块有向无环图或基于交易的无环图。在分布式账本上提供机器学习模型可以包括将模型以及例如用于访问模型的智能合约插入到分布式账本中。
23.通过在分布式账本上设置模型，可以利用分布式账本的各个特性。例如，分布式账本的许多实现方式(诸如区块链)所遵循的一个规则是链的完整块的不变性。例如，分布式账本可以包括多个(数据)块，该多个(数据)块在链中(例如，在基于区块链的分布式账本中)或在有向无环图中(在基于有向无环图的分布式账本中)链接在一起。多个块中的块可以通过加密而互连，即，被添加至多个块中的块通过加密而基于多个块中已经包括的块的内容。因此，如果在区块链或有向无环图中更改块，即，如果块的内容改变，则由于在更改块之后作为后续块的加密判断的基础丢失，在更改块之后所添加的块的加密互连丢失。因此，可以检测已有块的任意更改，从而使得其不变。例如，分布式账本内的模型可以是不变的，即，以不变的形式存储在分布式账本内。
24.如果以不变的形式存储模型，则其能够用于反复地证明，自从第三方获得结果起，模型并未改变。
25.此外或可替代地，可以使用分布式账本的至少一些实现方式所固有的进一步特性。例如，在一些实施方式中，可以在分布式账本上设置模型，以使得模型(仅)可在分布式账本内执行。换言之，分布式账本上所设置的模型可能局限于分布式账本，例如，可能限制在分布式账本内执行模型。例如，可以将模型存储在分布式账本内，以使得不能从分布式账本中进行检索。例如，可以经由分布式账本公开提供对模型的访问，而保留分布式账本内的模型的内部部分与操作不可访问。例如，可以经由所谓的智能合约提供对分布式账本上所设置的模型的访问，智能合约可以是适合于在分布式账本上访问模型的封装并且其可以限制对分布式账本的模型的访问。在分布式账本上，仅可以提供true(真)或false(假)语句来代替结果。true(真)可以指示之前获得的结果与分布式账本中所计算的结果对应，并且false(假)可以指示其不对应。这可以进一步增强对模型的内部部分与操作的保护。此外，可以将模型在分布式账本内的每次执行记录在分布式账本内。换言之，可以将关于模型在分布式账本内的每次执行的信息存储在被添加至分布式账本的块内。
26.模型表示第三方所使用的计算。换言之，从第三方获得的结果的计算可以基于与分布式账本上所设置的模型在功能上等同的另一模型，即，至少用于正在进行的计算。至少对于被提供有第三方的计算结果的用户，分布式账本上所设置的模型可以适合于重建计算结果。在至少一些实施方式中，模型可能不专用于(单一)用户，但是，可能是表示第三方为
多个不同用户提供多个结果所使用的计算的模型。换言之，模型可能适合于为多个不同用户创建多次计算的多个结果。模型可以表示第三方为获得关于多个不同用户的多次计算的多个结果所使用的计算。例如，第三方所使用的另一模型可以是适合于基于例如与用户相关联的一个或多个输入值而计算决策的机器学习模型(即，ai模型)或任意其他模型。换言之，另一模型可以是机器学习模型。可替代地，可以使用其他类型的模型。
27.如果分布式账本上所设置的模型基于另一模型，则可以将另一模型转换成分布式账本上所设置的模型。例如，方法可以包括：对另一模型进行转换，以获得该模型，并且提供所转换的另一模型作为分布式账本上的模型。具体地，另一模型可以是机器学习模型，即，第三方计算结果所使用的机器学习模型。方法可以包括：对机器学习模型进行转换105，以获得模型。在该上下文中，术语“转换”可以表示这样的过程，其中，将第一类型的模型(即，另一模型/机器学习模型)转换成(至少部分)功能等同的第二类型的模型(即，分布式账本上所提供的模型)。
28.验证计算结果所使用的一种类型的模型是所谓的零知识证明模型。例如，模型可以是零知识证明模型。零知识证明模型指在不公开计算所使用的细节的情况下适合于验证计算结果的模型。在该上下文中，“零知识证明”表示能够在不公开计算所使用的任意知识地情况下提供计算证明。当使用零知识证明模型时，提供一个或多个输入值以及结果作为零知识证明模型的输入，并且在零知识证明模型的输出处获得二进制值，二进制值指示是否可基于所提供的一个或多个输入值而获得结果。在实施方式中，零知识证明模型可以是另一模型(例如，机器学习模型)的转换版本。换言之，方法可以包括：对另一模型/机器学习模型进行转换，以获得零知识证明模型。另一模型/机器学习模型可以用于计算结果。在实施方式中，零知识证明模型可以基于zk-snark(零知识的简要非交互式知识论据)框架。在非交互的零知识证明方案中，证明者(即，第三方)与验证者(即，用户)之间不需要交互。换言之，模型可以是非交互的零知识证明模型。
29.本公开的至少一些实施方式涉及能够实现对从第三方获得的计算结果进行验证。在一些情况下，从第三方获得的计算结果是从企业获得的企业决策的结果，其中由企业例如使用机器学习模型计算企业决策。换言之，第三方可以是企业，并且待验证的结果可以是通过企业而计算的企业决策。用户、或者一个或多个用户可以是企业客户，例如，私人客户或其他企业。例如，机器学习模型可以适合于计算企业决策。例如，机器学习模型可以适合于基于一个或多个输入值计算企业决策，一个或多个输入值的至少子集专用于计算其企业决策的用户。换言之，一个或多个输入值的至少子集可以专用于计算其企业决策的用户。例如，一个或多个输入值可以包括下列中的至少一项：关于用户的位置信息、用户的年龄值、用户的收入值、用户的健康前提、以及用户的职业。在各个实施方式中，一个或多个输入值可以包括用户从第三方与结果一起获得的一个或多个企业特定参数，例如，信用率。
30.方法包括：为一个或多个用户提供120对模型的访问，以使得用户对计算结果进行验证。在该上下文中，“为一个或多个用户提供对模型的访问”可以表示能够使得一个或多个用户使用模型对计算结果进行验证，但模型不一定在分布式账本内是可完全访问的。可以提供对模型的访问，以使得一个或多个用户能够输入一个或多个输入值并且获得关于基于模型的结果的结果或决策。在至少一些实施方式中，可以提供能够使得一个或多个用户使用分布式账本内的模型的服务或接口，由此提供对模型的访问，而不使得模型对一个或
多个用户是完全可访问的。
31.例如，方法可以包括：例如，基于由相应用户提供的一个或多个输入值，提供125用于对计算结果进行验证的服务。例如，通过提供125服务，可以提供120对模型的访问。换言之，可以通过服务提供125对模型的访问。例如，服务能够使得一个或多个用户对其相应的结果进行验证。可以经由分布式账本提供服务，例如，智能合约，或服务可以仅基于分布式账本上所设置的模型。例如，可以经由网络接口(一个或多个用户输入输入数据和结果所使用的)或经由一个或多个应用访问服务所使用的应用编程接口(api)，提供服务。服务或接口可以用于使模型屏蔽一个或多个用户。换言之，仅能够经由用于对计算结果进行验证的服务的接口(例如，api或网络)而访问模型。可以使用适合于访问分布式账本上所提供的模型的智能合约屏蔽和/或限制对模型的访问。
32.在一些情况下，服务可以提供网络接口，一个或多个用户可以使用网络接口对第三方所提供的计算结果进行验证。网络接口可以用于输入一个或多个输入值。此外，网络接口可以用于输入例如与通过分布式账本上设置的模型所重建的结果进行比较的待验证结果(即，从第三方获得的结果)。例如，分布式账本上所提供的模型可以接受一个或多个输入值以及结果作为输入，并且可以适合于获得指示是否可使用一个或多个输入值获得结果的二进制值。例如，模型可能不适合于输出实际结果，而是仅输出二进制值，二进制值表示输入处所提供的结果与基于一个或多个输入值进行验证的结果之间的比较和/或一致性。在该情况下，可以经由例如网络接口提供从第三方获得的结果作为服务的输入。换言之，可以经由网络接口输入一个或多个输入值以及待验证的结果(至服务或模型)。在许多情况下，可能需要一个或多个输入值处于适当的格式，以使得其能够被模型理解。该格式可能与经由网络接口输入的格式不同。例如，一个或多个用户中的用户可以使用网络接口以纯文本输入其地址或职业。在纯文本形式中，由于模型可以基于从用户提供的纯文本所推导的抽象值，该输入可能不适合于模型。因此，在一些实施方式中，方法包括：将纯文本输入值转换成适合于模型的编码输入值。换言之，一个或多个输入值可以是编码输入值。
33.方法可以包括：从到网络接口的人类可读输入(即，纯文本)生成一个或多个输入编码值。例如，由用户键入的一个或多个输入值可以包括下列中的至少一项：用户的纯文本地址、年龄值、收入值、健康前提、以及职业名称。方法可以包括：基于由用户键入的所述一个或多个输入值生成一个或多个输入编码输入值，以获得下列中的至少一项：用户的编码位置信息、年龄段、收入段、编码健康评估、以及编码职业，然后，其可以用作模型的一个或多个编码输入值。
34.在至少一些实施方式中，除了为一个或多个用户提供对模型的访问之外，或作为为一个或多个用户提供对模型的访问的方式，方法可以包括：对计算结果进行验证。在该上下文中，“验证计算结果”可以被理解为：使用模型重建计算，并且返回计算的结果，或者使用模型重建计算，将计算结果与待验证的结果(即，从第三方获得的结果)进行比较，并且返回关于计算结果与待验证的结果的比较的信息。可以通过执行模型而验证结果，即，通过使用模型重建结果。换言之，方法可以包括：通过使用模型以及由相应用户提供的一个或多个输入值重建结果而验证130计算结果。可以重建结果并且将结果与模型内待验证的结果进行比较。换言之，从模型的外面不可访问结果重建所生成的中间值或中间结果。方法可以包括：例如，使用模型以及由相应用户提供的一个或多个输入值(以及可选地，待验证的结果)
在模型内重建结果；并且将关于重建结果与待验证的结果之间的比较(即，一致性)的信息提供给相应的用户。换言之，模型的输出可以是指示重建结果与待验证的结果之间的一致性的二进制值。
35.在至少一些实施方式中，通过使用一个或多个输入值在分布式账本内执行135模型(由此重建结果)、并且将通过模型获得的重建结果与待验证的结果进行比较而验证结果。例如，可以使用用于使用模型执行验证的所谓智能合约在分布式账本内执行模型。智能合约可以为模型提供包装，即，可以(仅)经由智能合约而访问模型。
36.当在分布式账本内执行模型时，智能合约可以限定输入和/或输出。此外，智能合约可以触发和/或控制模型在分布式内的执行、并且将指示重建结果与待验证的结果之间的一致性的二进制值(或重建结果)提供给请求验证结果的用户。
37.此外，可以通过限制模型的执行的方式在分布式账本内执行模型，由此避免能够通过使用大量可行输入值执行模型而对模型进行反向工程/回放的情景。例如，可以将验证结果(例如，模型的执行)记录在分布式账本内(即，可以存储关于验证结果的信息)，由此提供可审计的跟踪。此外，可以限制模型在分布式账本内的许可执行次数(例如，总次数或每单位时间的次数)。可以(在分布式账本内)记录模型在分布式账本内的执行次数。可以通过用于访问模型的智能合约而限定记录与许可执行次数。在一些情况下，由于在分布式账本内执行智能合约是花费时间的，该速率限制可能是分布式账本上提供的模型所固有的，并且可以在智能合约/分布式账本的审计记录中显示回放。
38.如上面书写的，方法可以是由处理电路100执行的计算机实现方法。在实施方式中，可以使用一个或多个处理单元、一个或多个处理设备、任意处理装置实现处理电路100，诸如通过相应适配的软件进行操作的处理器、计算机、或可编程硬件部件。换言之，还可以在软件中实现处理电路100的所述功能，随后，在一个或多个可编程的硬件部件上执行软件。该硬件部件可以包括通用处理器、数字信号处理器(dsp)、微控制器等。在至少一些实施方式中，处理电路可以被配置为通过例如执行访问模型所使用的智能合约而访问和/或操纵分布式账本。在一些实施方式中，可以通过相同的处理电路执行每个方法步骤，例如，相同的处理器或相同组的处理器。可替代地，可以通过包括处理电路的多个设备执行方法，每个设备执行方法的一个或多个特征。例如，一个设备可以被配置为对另一模型/机器学习模型进行转换，以获得模型。另一设备可以被配置为在分布式账本上设置模型。另一设备可以用于提供服务，以对模型进行验证，并且在分布式账本内执行模型。可以在分布式账本的节点中实现系统。系统可以进一步包括用于与分布式账本的一个或多个其他节点进行通信、并且用于为一个或多个用户提供接口的至少一个接口。至少一个接口可以与用于接收和/或发送信息的一个或多个输入和/输出对应，其可以是符合指定代码、模块内、模块之间、或不同实体的模块之间的数字(比特)值。例如，至少一个接口可以包括被配置为接收和/或发送信息的接口电路。
39.至少一些实施方式基于使用机器学习模型或机器学习算法。机器学习是指代替依赖于模型和接口，计算机系统在不使用明示指令的情况下用于执行指定任务的算法与统计模型。例如，在机器学习中，代替基于规则的数据转换，可以使用从历史和/或训练数据的分析中所推断的数据的转换。机器学习算法通常基于机器学习模型。换言之，术语“机器学习算法”可以表示用于创建、训练、或使用机器学习模型的指令集。术语“机器学习模型”可以
表示代表所学习的知识的数据结构和/或规则集，例如，基于通过机器学习算法所执行的训练。在实施方式中，机器学习算法的使用可以默示底层机器学习模型(或多个底层机器学习模型)的使用。机器学习模型的使用可以默示通过机器学习算法对机器学习模型和/或机器学习模型的数据结构/规则集进行训练。
40.例如，机器学习模型可以是人工神经网络(ann)。ann是由生物神经网络激励的系统，诸如能够在大脑中找到。ann包括多个互连节点以及节点之间的多个连接(所谓的边缘)。通常存在三种类型的节点：接收输入值的输入节点、(仅)连接至其他节点的隐藏节点、以及提供输出值的输出节点。每个节点可以表示人工神经。每个边缘可以将信息从一个节点发送至另一节点。可以将节点的输出定义为其输入的和的(非线性)函数。可以在基于提供输入的边缘或节点的“权重”的函数中使用节点的输入。可以在学习过程中对节点和/或边缘的权重进行调整。换言之，人工神经网络的训练可以包括：对人工神经网络的节点和/或边缘的权重进行调整，即，实现给定输入的期望输出。
41.可替代地，机器学习模型可以是支持向量机。支持向量机(即，支持向量网络)是具有可以用于在例如分类或回归分析中分析数据的相关联学习算法的监督学习模型。可以通过提供属于两个类别中的一个类别的具有多个训练输入值的输入对支持向量机进行训练。可以对支持向量机进行训练，以为两个类别中的一个类别分配新的输入值。可替代地，机器学习模型可以是贝叶斯网络，即，概率性有向无环图模型。贝叶斯网络可以使用有向无环图表示随机变量集以及其条件依赖性。可替代地，机器学习模型可以基于基因算法，即，模拟自然选择的过程的搜索算法和启发式技术。
42.结合上述所述或下面所描述的提出的构思或者一个或多个实施例，提及了方法、计算机程序、以及系统的更多细节和方面(例如，图2)。方法、计算机程序、以及系统可以包括与上述所述或下面所描述的提出构思或者一个或多个实施例的一个或多个方面对应的一个或多个额外可选特征。
43.本公开的至少一些实施方式涉及安全模型的置信评分。企业能够使用各种实施方式来确保其ai模型(例如，机器学习模型)，同时允许客户(例如，一个或多个用户)验证由ai模型(迄今被称为模型)制定的决策的正确性和有效性的能力。
44.实施方式提供一种使用例如zksnark转换并且确保零知识证明(zkp)模型(即，分布式账本上所提供的模型)形式的企业ai模型(即，机器学习模型/另一模型)的方法。随后，向保持用于制定企业决策的模型的可审计性与可跟踪性的分布式账本(dl)公布该确保模型(zkpm)。这些特性可以允许客户(或代表客户的调节人员)验证由zkpm内的原始模型所制定的决策的有效性。zksnark的使用仅是示例，更一般地，可以使用所执行的零知识证明(zkp)作为分布式账本上所提供的模型。
45.存在客户可能希望验证企业决策的有效性的多个不同情境。例如，客户制定与详述模型结果(r)(例如，待验证的结果)与企业指定参数(p)的文件(md)一起被拒绝的贷款应用。客户不接受r并且认为企业模型由于其pii(个人识别信息)而对其有所偏置。尽管在客户与企业之间进行了描述，然而，上述示例不仅仅关于或适用于客户。其在企业希望对另一企业制定的决策的有效性进行验证的b2b情况下也同等有效。因此，结合图1a至图1c所描述的一个或多个用户可以是客户或企业，并且第三方可以是企业。
46.图2示出了根据实施方式的系统中的信息的示例性流的示意图。如图2中所示，在
框210中，在(1)，企业创建模型并且将模型嵌入到服务212中。框210包括企业服务212、和保存模型的中心数据存储214。在(2)，使用分布式账本技术(dlt)公开地保护并且公布模型，以使得能够验证其正确性。例如，对模型进行转换并且输入至zkpm(即，分布式账本上所提供的模型)222中、并且添加至dlt 220(即，分布式账本)。dlt 220包括zkpm 222。在(3)，用户u 230可以使用设备d 240，设备包括中央处理单元242和本地数据存储244，以从企业服务212请求决策(4)。客户向企业210做出请求(3)并且企业使用客户数据(存储在数据库中或直接由客户提供)对请求进行评分。企业利用所使用的结果和企业参数返回决策(4)和决策文件。使用其设备252的其他用户250可以进行相同的操作。在(5)，用户u对决策不满意并且认为决策对他/她有所偏置。在(6)，用户能够通过使用其数据验证zkpm 222而审计是否使用任意私人数据。例如，如果模型依赖于包含pii的外部混淆数据源，则这些数据源在进行评估时必须可用，或者结果不匹配。可以跟踪对未记载的输入值的访问，并且如果对模型进行审计，则可能发现问题。客户可以使用他/她的pii及决策文件执行所公布的zkpm 222。存在许多可能的使用情景。例如，客户可能利用旧的、过期的pii数据及其最新的pii数据执行模型、并且看到模型结果对于旧数据为true(真)。随后，客户可以联系公司对其信息进行更新。可替代地或此外，客户可以利用故意修改的pii执行模型，以测试模型是否因pii变化而发生偏置。如果发生偏置，并且如果模型不应使用该信息，客户则可以挑战企业或第三方(即，调节人员)的决策。在(7)，可以将zkpm 222的验证记入/记录224在dlt 220内。以不可篡改的方式将每次模型执行记入(7)在链/分布式账本上。
47.因为向不可篡改的分布式账本(dl)(例如，区块链)公布了模型，所以随后，客户能够通过向模型回放(例如，重建结果)其应用(r p)以及其pii数据(例如，作为一个或多个输入值与待验证的结果)而检查决策的正确性。客户还能够回放其pii的修改版本，以检查模型中是否存在任意偏置。在输入pii p产生相同结果r的情况下，zkpm可能仅返回(二进制)true(真)结果。如果p或pii中存在任意变化，则zkpm可以返回false(假)。如此，能够使得客户易于检查/验证模型是否潜在地使用pii(例如，以区别性形式)。使用实施方式，不可能透漏模型的内部细节与商业敏感操作。此文，通过使用dlt来执行zkpm，在至少一些实施方式中，可以创建不可篡改的记入，该记入显示客户已经执行模型的次数。这有助于防止客户或其他各方(即，商业竞争者)持续地向模型回放请求，以努力地反向工程并且理解其如何操作。
48.使用实施方式，企业可以通过使用dlt保护模型并且以不可篡改的方式执行而保护其商业敏感模型不被反向工程化。客户(或企业对企业(b2b)情况中的其他企业)能够在使用其数据时对所公布的受保护模型的正确性进行验证。至少一些实施方式可以提供公共服务。公布关于如何保护模型以及如何使用技术的信息可以与模型一起公开。在一些实施方式中，例如，如果调节人员要求企业公布其模型，则可以根据规章标准在分布式账本上设置模型。
49.结合上述所述或下面所描述的提出的构思或一个或多个示例，提及了实施方式的更多细节以及方面(例如，图1a至图1c)。实施方式可以包括与上述所述或下面所描述的提出的构思或一个或多个示例的一个或多个方面对应的一个或多个额外的可选特征。
50.下列示例涉及其他的实施方式：
51.(1)一种用于实现对从第三方获得的计算结果进行验证的方法，方法包括：
52.在分布式账本上提供110模型，模型表示第三方所使用的计算；并且
53.为一个或多个用户提供120对模型的访问，以使得用户对计算的结果进行验证。
54.(2)根据(1)所述的方法，包括：通过使用模型以及由相应用户提供的一个或多个输入值重建结果而对计算的结果进行验证130。
55.(3)根据(2)所述的方法，其中，重建结果并且将结果与模型内待验证的结果进行比较。
56.(4)根据(3)所述的方法，其中，模型的输出是指示所重建的结果与待验证的结果之间的一致性的二进制值。
57.(5)根据(2)至(4)中任一项所述的方法，其中，通过使用一个或多个输入值在分布式账本内执行135模型并且将通过模型获得的重建结果与待验证的结果进行比较而对结果进行验证。
58.(6)根据(5)所述的方法，其中，限制模型在分布式账本内的许可执行次数，或者其中，记录模型在分布式账本内的执行次数。
59.(7)根据(1)至(6)中任一项所述的方法，其中，模型是指零知识证明模型。
60.(8)根据(7)所述的方法，其中，零知识证明模型是另一模型的转换版本，另一模型用于结果的计算。
61.(9)根据(1)至(8)中任一项所述的方法，其中，机器学习模型用于结果的计算，方法包括：对机器学习模型进行转换105，以获得模型。
62.(10)根据(8)或(9)中任一项所述的方法，其中，机器学习模型是用于计算企业决策的机器学习模型。
63.(11)根据(1)至(10)中任一项所述的方法，其中，在分布式账本内记录对结果的验证，由此提供能审计的跟踪。
64.(12)根据(1)至(11)中任一项所述的方法，其中，模型在分布式账本内是不变的。
65.(13)根据(1)至(12)中任一项所述的方法，其中，模型表示第三方所使用的计算，以获得关于多个不同用户的多次计算的多个结果。
66.(14)根据(1)至(13)中任一项所述的方法，包括：基于由相应用户提供的一个或多个输入值，提供125用于对计算的结果进行验证的服务。
67.(15)根据(14)所述的方法，其中，仅能经由用于对计算的结果进行验证的服务的接口而对模型进行访问。
68.(16)根据(14)或(15)中任一项所述的方法，其中，接口是指网络接口，经由网络接口输入一个或多个输入值以及待验证的结果。
69.(17)根据(16)所述的方法，其中，一个或多个输入值是指编码输入值，方法包括：从到网络接口的人类可读输入生成编码输入值。
70.(18)一种具有程序代码的计算机程序，当在计算机、处理器、或可编程硬件部件上执行计算机程序时，程序代码用于执行根据(1)至(17)中任一项所述的方法。
71.(19)一种用于实现对从第三方获得的计算的结果的验证的系统，系统包括：
72.被配置为在分布式账本上设置模型的处理电路，模型表示第三方所使用的计算；以及
73.被配置为为一个或多个用户提供对模型的访问的处理电路，以使得用户对计算的
结果进行验证。
74.与之前一个或多个细节示例及附图一起提及并且描述的各方面及特征还可以与一个或多个其他示例相结合，以替代其他实施例中的类似特征或将特征额外地引入至其他示例。
75.示例可以进一步是或涉及具有程序代码的计算机程序，当在计算机或处理器上执行计算机程序时，程序代码用于执行上述一种或多种方法。可以通过可编程计算机或处理器执行上述所述各种方法的步骤、操作、或过程。示例还可以覆盖诸如数字数据存储介质的程序存储设备，即，机器、处理器、或计算机可读与编码机器可执行、处理器可执行或计算机可执行的程序指令。指令执行或致使执行上述所述方法中的一些或全部动作。程序存储设备可以包括或可以是例如数字存储器、诸如磁盘和磁带的磁性存储介质、硬驱动、或光学可读的数字数据存储介质。进一步实施例还可以覆盖被编程为执行上述所述方法的动作的计算机、处理器或控制单元、或被编程为执行上述所述方法的动作的(现场)可编程逻辑阵列((f)pla)或(现场)可编程门阵列((f)pga)。
76.描述与附图仅示出了本公开的原理。此文，此处所述的全部示例主要明确地旨在仅用于示出之目的，以帮助读者理解本公开的原理以及发明人为促进本领域所贡献的构思。此处阐述本公开的原理、方面、以及示例的全部陈述以及其具体示例旨在涵盖其等同物。
77.表示为“用于”执行特定功能的“装置”的功能块可以指被配置为执行特定功能的电路。因此，“用于
…
的装置”可以实现为“被配置为或适合于
…
的装置”，诸如被配置为或适合于相应任务的设备或电路。
78.可以通过诸如“信号供应商”、“信号处理单元”、“处理器”、“控制器”等的专用硬件、以及能够执行与适当软件相关联的软件的硬件的形式，实现图中所示的各个元件的功能，包括被标记为“装置”、“用于提供信号的装置”、“用于生成信号的装置”等的任意功能块。当由处理器提供时，可以通过单一专用处理器、单一共享处理器、或多个单独的处理器提供功能，其中地一些或全部功能可以共享。然而，迄今，术语“处理器”或“控制器”并不局限于能够排他地执行软件的硬件，而是可以包括数字信号处理器(dsp)硬件、网络处理器、专用集成电路(asic)、现场可编程门阵列(fpga)、用于存储软件的只读存储器(rom)、随机存取存储器(ram)、以及非易失性存储器。还可以包括常规和/或定制的其他硬件。
79.例如，框图可以示出实现本公开的原理的高级电路图。同样，流程图、流图、状态转换图、伪码等可以表示例如计算机可读介质中大致表示并且因此由计算机或处理器执行(如论是否明确示出该计算机或处理器)的各个过程、操作、或步骤。可以通过具有用于执行这些方法中的每个相应动作的装置的设备而实现本说明书或权利要求中所公开的方法。
80.应当理解的是，本说明书或权利要求中所公开的多个动作、过程、操作、步骤、或功能的公开不应被视为位于具体的顺序内，除非另有明示或默示的规定，例如，出于技术原因。因此，多个动作或功能的公开并不使其局限于具体顺序，除非出于技术原因，该动作或功能不可互换。进一步地，在一些示例中，单一动作、功能、过程、操作、或者步骤可以包括或可以分别分解成多个子动作、功能、过程、操作、或步骤。该子动作可以包括并且作为该单一动作的公开的一部分，除非明确排除。
81.此外，此处将所附权利要求整合到详细描述中，其中，每个权利要求其自身可以代
表独立的示例。尽管每个权利要求其自身可以代表独立的示例，然而，应注意，尽管权利要求中的从属权利要求可以指一个或多个其他权利要求的具体组合，然而，其他示例还可以包括从属权利要求与每个其他从属或独立权利要求的主题的组合。此处明确提出了该组合，除非规定并不旨在具体的组合。此外，即使该权利要求并不直接从属于独立权利要求，其也旨在将权利要求的特征包括在任意其他独立权利要求中。