用于修改神经网络的操作的技术的制作方法

技术特征：
1.一种用于约束神经网络的行为的计算机实现的方法，所述方法包括：使所述神经网络基于第一训练数据执行第一推理操作以生成第一输出；基于与所述第一训练数据相关联的第一目标输出生成对应于所述第一输出的第一规则；确定在执行第二推理操作时所述神经网络生成所述第一输出；以及执行所述第一规则，所述第一规则防止所述神经网络响应于接收到第一输入而输出所述第一输出，而取代地使所述神经网络响应于接收到所述第一输入而输出所述第一目标输出。2.如权利要求1所述的计算机实现的方法，其还包括：基于所述第一输出与目标输出之间的比较而确定所述第一输出是不正确的。3.如权利要求1所述的计算机实现的方法，其还包括：生成图形用户界面以显示与所述第一规则相关联的程序代码；经由所述图形用户界面接收对所述程序代码的至少一个修改以生成第二规则；以及执行所述第二规则，所述第二规则防止所述神经网络响应于接收到第一输入而输出所述第一输出，而取代地使所述神经网络响应于接收到所述第一输入而输出不同的输出。4.如权利要求1所述的计算机实现的方法，其还包括：从知识库提取与所述第一训练数据相关的词汇表字词集；以及生成图形用户界面以显示词汇表术语集。5.如权利要求1所述的计算机实现的方法，其还包括：从知识库提取指示所述第一训练数据的一个或多个逻辑属性的领域事实集；以及生成图形用户界面以显示所述领域事实集。6.如权利要求5所述的计算机实现的方法，其还包括：基于所述领域事实集和所述第一输出来生成得出的事实，其中所述得出的事实表征所述神经网络在执行所述第一推理操作时的功能属性。7.如权利要求1所述的计算机实现的方法，其还包括：生成所述神经网络的体系结构表示以经由图形用户界面进行显示；以及基于经由所述图形用户界面接收到的输入来生成所述神经网络的多个不同版本。8.如权利要求1所述的计算机实现的方法，其还包括：生成所述神经网络的至少一个版本的性能数据，其中所述性能数据表征训练阶段期间所述神经网络的所述至少一个版本的更多个性能特性中的一个性能特性；以及更新图形用户界面以显示所述性能数据。9.如权利要求8所述的计算机实现的方法，其中所述性能数据指示所述神经网络的所述至少一个版本在操作期间生成一个或多个输出的准确度。10.如权利要求8所述的计算机实现的方法，其中所述性能数据指示所述神经网络的所述至少一个版本生成一个或多个输出所花费的时间量。11.一种存储程序指令的非暂时性计算机可读介质，所述程序指令在由处理器执行时使所述处理器通过执行以下步骤来约束神经网络的行为：基于与第一训练数据相关联的第一目标输出来生成对应于第一输出的第一规则，其中所述第一输出产生自所述神经网络使用所述第一训练数据执行的第一推理操作；
确定在执行第二推理操作时所述神经网络生成所述第一输出；以及执行所述第一规则，所述第一规则防止所述神经网络响应于接收到第一输入而输出所述第一输出，而取代地使所述神经网络响应于接收到所述第一输入而输出所述第一目标输出。12.如权利要求11所述的非暂时性计算机可读介质，其还包括以下步骤：基于所述第一输出与目标输出之间的比较而确定所述第一输出是不正确的。13.如权利要求11所述的非暂时性计算机可读介质，其还包括以下步骤：生成图形用户界面以显示与所述第一规则相关联的程序代码；经由所述图形用户界面接收对所述程序代码的至少一个修改以生成第二规则；以及执行所述第二规则，所述第二规则防止所述神经网络响应于接收到第一输入而输出所述第一输出，而取代地使所述神经网络响应于接收到所述第一输入而输出不同的输出。14.如权利要求11所述的非暂时性计算机可读介质，其还包括以下步骤：从知识库提取与所述第一训练数据相关的词汇表字词集；以及生成图形用户界面以显示词汇表术语集。15.如权利要求11所述的非暂时性计算机可读介质，其还包括以下步骤：从知识库提取指示所述第一训练数据的一个或多个逻辑属性的领域事实集；以及生成图形用户界面以显示所述领域事实集。16.如权利要求15所述的非暂时性计算机可读介质，其还包括以下步骤：基于所述领域事实集和所述第一输出生成得出的事实，其中所述得出的事实指示经由所述第一推理操作处理的第一训练数据样本的至少一个属性。17.如权利要求11所述的非暂时性计算机可读介质，其还包括以下步骤：生成所述神经网络的至少一个版本的性能数据，其中所述性能数据表征训练阶段期间所述神经网络的所述至少一个版本的更多个性能特性中的一个性能特性；以及更新图形用户界面以显示所述性能数据。18.如权利要求17所述的非暂时性计算机可读介质，其中所述性能数据指示当所述神经网络的所述至少一个版本在操作期间生成一个或多个输出时所消耗的内存量。19.如权利要求17所述的非暂时性计算机可读介质，其中所述性能数据指示当所述神经网络的所述至少一个版本中所包括的神经网络层在操作期间处理一个或多个输入时所消耗的内存量。20.一种系统，其包括：存储器，所述存储器存储软件应用程序；以及处理器，所述处理器在执行所述软件应用程序时被配置为执行以下步骤：使神经网络基于第一训练数据执行第一推理操作以生成第一输出，基于与所述第一训练数据相关联的第一目标输出生成对应于所述第一输出的第一规则，确定在执行第二推理操作时所述神经网络生成所述第一输出，以及执行所述第一规则，所述第一规则防止所述神经网络响应于接收到第一输入而输出所述第一输出，而取代地使所述神经网络响应于接收到所述第一输入而输出所述第一目标输出。

技术总结
如所描述，一种人工智能(AI)设计应用程序向用户展示用于生成、分析、评估和描述神经网络的各种工具。所述AI设计应用程序包括网络生成器，所述网络生成器基于用户与网络体系结构的图形描绘的交互来生成和/或更新定义神经网络的程序代码。所述AI设计应用程序还包括网络分析器，所述网络分析器响应于测试输入而在层水平、神经元水平和权重水平处分析神经网络的行为。所述AI设计应用程序还包括网络评估器，所述网络评估器跨训练数据样本的范围执行对神经网络的综合评估。最后，所述AI设计应用程序包括网络描述器，所述网络描述器用自然语言表述神经网络的行为，并且根据规则集约束所述行为。行为。行为。


技术研发人员：维沙尔
受保护的技术使用者：维亚奈系统公司
技术研发日：2020.07.07
技术公布日：2022/3/29