事件预测的制作方法

事件预测


背景技术：

1.本发明涉及电力控制通信网络，更具体地，涉及用于管理电力控制通信网络的基于学习机器的事件预测。
2.国际电工委员会(iec)61850系统通常用于变电站和配电自动化，以控制和保护电网，例如智能电网、微电网、风电场等。本质上，iec 61850是一项用于定义电网内变电站的智能电子设备的通信协议的国际标准。变电站是发电、输电和配电系统的一部分。变电站将电压从高电压转换为低电压，或从低电压转换为高电压，或执行多个其它功能中的任何功能。电力能够在发电站(例如，电厂)和消费者之间流经多个不同电压等级的变电站。变电站能够包括变压器，用以改变高传输电压和低配电电压之间，或两个不同传输电压的互连处的电压等级。
3.随着条件和要求的不断变化，支持上述变电站和发电站的控制通信网络愈加复杂、庞大和灵活。由于这些控制通信网络的复杂性，网络运营商需要自动化工具来帮助和协助监控和操作这些网络。


技术实现要素：

4.本发明的实施例涉及一种用于事件预测的方法。该方法的非限制性实例包括：确定与控制通信网络相关联的一个或多个设备的相关联的状态数据；通过机器学习模型生成包括从该状态数据中提取的多个特征的特征向量；以及至少部分地基于该特征向量来确定与该控制通信网络相关的一个或多个事件预测。
5.本发明的实施例涉及一种用于事件预测的系统。该系统的非限制性实例包括被配置用于执行以下操作的处理器：确定与控制通信网络相关联的一个或多个设备的相关联的状态数据；通过机器学习模型生成包括从该状态数据中提取的多个特征的特征向量；以及至少部分地基于该特征向量来确定与该控制通信网络相关联的一个或多个事件预测。
6.本发明的实施例涉及一种用于事件预测的计算机程序产品，该计算机程序产品包括计算机可读存储介质，该计算机可读存储介质具有随其实施的程序指令。该程序指令由处理器执行，以使该处理器执行方法。该方法的非限制性实例包括：确定与控制通信网络相关联的一个或多个设备的相关联的状态数据；通过机器学习模型生成包括从该状态数据中提取的多个特征的特征向量；以及至少部分地基于该特征向量来确定与该控制通信网络相关联的一个或多个事件预测。
7.通过本发明的技术也实现了附加技术特征和优点。本发明的各实施例和方面在本文中进行了详细描述，并且被认为是所要求保护的主题的一部分。为了更好地理解，请参阅具体实施方式和附图。
附图说明
8.在说明书结尾处的权利要求书中，特别指出并明确要求了本文所述的专有权的具体内容。本发明的实施例的上述和其它特征和优点通过以下结合附图的具体实施方式是显
而易见的，其中：
9.图1示出了根据一个或多个实施例的利用事件预测的控制通信网络的系统的框图；
10.图2示出了根据一个或多个实施例的机器学习系统的框图；
11.图3示出了根据一个或多个实施例的用于进行数据预处理的方法的框图；并且
12.图4示出了用于实现本发明的一个或多个实施例的计算机系统的框图。
13.本文所示的示图是说明性的。在不脱离本发明范围的情况下，在此所示出的示图或操作能够有多个变体方案。
具体实施方式
14.现在转向与本发明的各方面更相关的技术的概述，支持iec 61850系统的控制通信网络日益复杂。因此，网络运营商需要各种自动化工具来有效地管理这些网络。特别地，控制通信网络中的事件预测对于网络运营商而言能够是特别感兴趣的，使得网络运营商能够采取某些措施来说明即将到来的预测事件。问题在于如何使用从控制通信网络和实时控制应用程序收集的状态数据来有效地预测能够影响该控制通信网络的事件。例如，预测的事件能够包括iec 61850消息传输延迟、预计超过阈值的损失、或预计超过预定阈值的控制网络节点接口发送/接收的计数器。基于这些预测，能够采取措施，包括例如修改iec 61850消息重传机制、预防性维护、重新配置网络、网络升级/更改、修改后台流量，或于网络和应用程序运营商而言有价值的其它措施。
15.本发明的各方面提供了一种用于上述控制通信网络(该控制通信网络例如实现和支持iec 61850系统和协议)的自动化、实时事件预测系统。该自动化事件预测系统利用收集和分析与控制通信网络相关联的状态数据的学习机器(lm)来学习和预测能够影响该网络的潜在事件。一旦预测到事件，则该系统和/或网络运营商能够采取适当的措施来寻址。学习机器(lm)是一种计算实体，其依赖于一种或多种机器学习(ml)技术来执行尚未明确编程执行的任务。机器学习模型定义了特征和标签之间的关系。特征是被观察的现象的单个可测量属性或特征。在这种情况下，特征能够是与网络内的各种电子设备的操作有关的数据。在机器学习中，标签是针对数据集(例如，特征的集合)中给定输入的期望输出。例如，图像数据集能够具有描述数据集中图像的主题的标签的期望输出。ml模型包括分类和回归模型类型。
16.分类模型预测离散值。例如，基于人工神经网络的分类模型能够具有作为其输入的特征f1、f2，以及作为其输出的标签g，并且在这两层之间，其还具有带有简单线性整流单元(relu)和与属于相邻层的人工神经网络节点之间的每个连接相关联的权重wi的隐藏层。另一方面，回归模型预测连续值。例如，回归模型预测变量在将来的某个时间的值。一个简单模型能够是g＝w0 w1*f1 w2*f2，其中，特征是f1、f2，标签是g，并且每个特征均具有其权重w1、w2。机器学习模型通常需要进行训练(有时称为学习)。训练该ml模型包括显示机器学习模型标记实例(即，特征及其相关联标签)，以及使该模型能够逐渐学习特征与一个或多个标签之间的关系。给出具有简单人工神经网络模型的ml模型的标记实例f1、f2、g，然后该模型将确定隐藏层中的权重wi。对于具有简单回归模型的lm，给出该模型的标记实例f1、f2和g，该模型会从这些实例中为上述模型方程选择w0、w1、w2。学习过程的目的在于最小化所
观察到的误差(即，最小化目标函数)，例如，min{σ(g'-g)/2}，其中，g等于标记实例中的值，而g'等于该模型产生的值。在机器学习中，预测是指将经训练的模型应用于特征时所产生的标签g'。因此，当对经训练的模型给出f1、f2时，该模型会作出预测g'。机器学习模型能够根据精确的实例属性进行修改和定制。这种修改是监控目标函数值、经验、猜测等的结果。模型的这种修改和简化能够帮助避免过度学习，也称为过度拟合。
17.在一个或多个实施例中，上文和这里所述的机器学习技术能够用于预测控制通信网络中的事件。这些控制通信网络能够利用各种网络管理协议，例如网络配置协议(netconf)。netconf利用yang(yet another next generation)建模语言来对网元的配置数据以及状态数据(即，状态信息和统计信息)进行建模。具体地，适用于虚拟网络的yang数据模型利用逻辑网元(lne)。lne的yang模型由资源和分配给这些资源的函数组成。lne的实例是虚拟交换机、逻辑路由器、虚拟专用网络路由和转发实体，以及虚拟交换实例。netconf客户端能够向netconf服务器发出netconf《get》操作，并且该操作会获取带有有关网络的相关状态数据的响应。此外，当感兴趣的事件(即，满足指定标准)已经发生时，netconf从机发出事件通知。感兴趣的事件能够包括与该网络相关联的某个参数值超过阈值。利用《create-subscription》操作向订阅实体发送事件通知。也能够根据历史数据的请求重放通知。netconf从机进行的任何状态数据通信都包含相关的时间戳《eventtime》，该时间戳指示状态数据由其源生成的时间。
18.restconf是一种基于超文本传输协议(http)的协议，其允许从resconf客户端对yang中定义并由restconf服务器提供的数据进行基于web的访问。restconf与netconf在相同的yang数据上操作。restconf被定义为用作netconf的替代。yang、netconf和restconf被扩展以实现网络管理数据存储器。该网络管理数据存储器是存储和访问信息的概念性位置，并且能够通过例如使用文件、数据库、闪存位置或其组合来实现。网络管理数据存储器包括通过使用lne yang和其它模型而与特定虚拟网络相关的数据。网络管理数据存储器包括netconf客户端，其与netconf从机通信、订阅感兴趣的事件、并随后填充网络管理数据存储器中的数据。
19.图1示出了根据一个或多个实施例的利用事件预测的控制通信网络的系统的框图。系统100包括用于管理控制通信网络和用于预测事件的实时控制应用程序800。如上所述，iec 61850系统通常用于变电站和配电自动化，以控制和保护电网。实时控制应用程序800表示具有实时约束的iec61850函数的选定子集，并使用面向通用对象的变电站事件(goose)或采样值(sv)。实时控制应用程序800能够包含实时高压电网保护功能，其对网络传输时间的实时要求为10ms。此外，实时控制应用程序800能够包含电网远程控制功能，其对网络传输时间的实时要求为40ms。
20.在一个或多个实施例中，系统100包括智能电子设备(ied)801，其是能够在系统100内发送和接收goose消息的终端控制设备。系统100还包括能够利用实时控制应用程序800的工程站802。工程站802能够被认为是ied 801。ied 801goose消息能够通过控制通信网络110进行通信。goose消息携带嵌入到多播以太网帧中的消息，作为对来自工程站802的轮询的响应，或者goose消息能够是非请求消息。相同的goose消息能够以变化和增加的重传间隔来重传。采样值(sv)消息携带同步相量，该同步相量是由测量的电压、波形计算的，嵌入到单播或多播以太网帧中。sv消息由合并单元(mu)、相量管理单元(pmu)、独立合并单
元(smu)等发送，并由相量数据集中器(pdc)等接收。工程站802配置这样的设备，并且为了简单起见，参与sv消息交换的任何设备均能够称为简单合并单元(mu)803。工程站802执行以下任务，例如在ied 801中配置goose重传次数、重传间隔持续时间，以及为实时控制应用程序800收集和存储状态数据。
21.在一个或多个实施例中，控制通信网络110是实时控制应用程序800使用的虚拟网络。该虚拟网络能够在物理网络和/或另一个虚拟网络上运行，或者也能够是整个物理网络。该物理网络能够是以下类型：ieee 802.3以太网、ieee时间敏感网络(tsn)。控制通信网络110的虚拟网络能够是以下类型：虚拟局域网(vlan)、基于互联网协议(ip)多协议标签交换(mpls)的虚拟专用网络(vpn)等。该虚拟网络类型也能够是例如欧洲电信标准化协会(etsi)或5g和更高网络的第3代合作伙伴计划(3gpp)指定的类型的网络切片。
22.在一个或多个实施例中，控制通信网络110包括节点111。节点111被配置为用于通过网络110路由和转发消息。例如，节点111能够是虚拟交换机、虚拟路由器等。承载goose/sv消息的以太网多播帧属于特定的多播组，并由控制通信网络110的节点111转发。实时控制应用程序800被配置为通过网络110进行通信。在一个或多个实施例中，控制通信网络110是ied 801和mu 803使用的虚拟网络。虚拟网络使得从定义的网络110收集的状态数据能够具有可靠质量，以供机器学习(ml)系统300进一步使用。
23.在一个或多个实施例中，系统100还包括机器学习(ml)系统300、网络管理系统(nms)站112、工程站802和中央数据存储器203。ml系统300、nms站112、工程站802和中央数据存储器203能够通过内部通信方法(例如，过程调用)在网络110外部彼此通信。
24.在一个或多个实施例中，控制通信网络110由与网络节点111通信的nms站112管理，以执行包括配置节点111在内的网络管理。这种通信在控制通信网络110之外通过诸如ietf简单网络管理协议(snmp)、netconf等通信方法来进行。nms站112能够以集中式方式、分布式方式实现，或者能够被虚拟化。
25.在一个或多个实施例中，控制通信网络110能够实现为包括sdn控制器的软件定义网络(sdn)，例如根据ietf rfc7426。sdn控制器能够以集中式方式、分布式方式实现，或者能够被虚拟化。通信方法能够是openflow、动态路由协议如开放式最短路径优先(ospf)等。交换的信息包括来自每个控制网络节点111的动态、实时节点配置、状态数据、通知等。
26.在一个或多个实施例中，控制网络节点111、nms站112、中央数据存储器203、led 801、mu 803、工程站802和ml系统300的时钟时间与公共时钟同步。例如，这种时钟同步是通过ieee 1588精确时钟同步协议，或通过使用全球导航卫星系统(gnss)(如通用定位系统(gps))或通过其它方式来完成的。因此，由一个设备制作的任何时间戳都是准确的，以供其它设备在其执行的功能中进一步使用。
27.中央数据存储器203实现为如上所述的网络管理数据存储器。中央数据存储器203能够利用netconf或其它方法来收集数据和yang模型，以用于虚拟网络表示(如前所述)。中央数据存储器203从控制网络节点111获取状态数据(即，状态信息和统计信息)。中央数据存储器203还从用作netconf服务器的其它不同来源获取数据到用作netconf客户端的中央数据存储器203。中央数据存储器203能够是位于ml系统300中的netconf客户端的netconf从机。在一个或多个实施例中，nms站112包括中央数据存储器203。此外，实时控制应用程序800和工程站802能够包括其它数据存储器。这些其它数据存储器能够利用iec 61850协议
或其它方法来收集iec 61850状态数据和相应的时间戳，例如，通过iec 61850工程站802用来从ied 801收集数据的方法。数据存储器203能够存储yang模型中的数据，并且能够是netconf客户端的netconf从机。在一些实施例中，这些数据存储器能够是中央数据存储器203的netconf从机，在这种情况下，中央数据存储器203包含来自控制通信网络110和来自实时控制应用程序800的信息，或者这些数据存储器能够是位于ml系统300中的客户端的netconf从机，在这种情况下，它也是中央数据存储器203。
28.在一个或多个实施例中，中央数据存储器203能够存储专用于控制通信网络110和实时控制应用程序800的数据。在一个或多个实施例中，中央数据存储器203能够包括到下一级客户端(例如，ml系统300)的netconf服务器功能，并经由接口进行通信。中央数据存储器203包含当前数据存储器数据(即，最新数据)和历史数据存储器数据(即，在过去的时间段内收集的先前数据)。具体地，中央数据存储器203能够包括超过指定的一个或多个阈值的数据存储器数据控制网络节点111接口计数器。接口计数器能够对传输的数据包的数量和/或接收的数据包的数量进行计数。数据存储器数据还能够包括超过指定的一个或多个阈值的控制网络节点111接口状态信息变化，以及超过指定的一个或多个阈值的控制网络节点111资源利用率。资源利用率能够包括链路利用率、cpu利用率、ram利用率、多播组的数量与交换芯片支持的最大数量之比等。此外，数据存储器数据能够包括超过指定的一个或多个阈值的控制网络通信服务质量(qos)参数、超过指定的一个或多个阈值的实时控制应用程序800goose/sv消息传送延迟、超过指定的一个或多个阈值的实时控制应用程序800goose/sv消息丢失、超过指定的一个或多个阈值的实时控制应用程序800goose/sv消息传送延迟、以及超过与控制通信网络110或实时控制应用程序800有关的一个或多个阈值的任何其它测量数据、状态信息。
29.在一个或多个实施例中，上述数据存储器数据的收集不需要大量的附加资源，如来自控制网络节点111和ied 801的cpu功率。例如，通过具有yang模型的netconf能够使用许多这种数据。能够通过简单地检索关于所使用的多播组的交换芯片信息并将其与交换芯片制造商所指定的最大允许多播组进行比较，来确定多播组的数量与交换芯片所支持的最大数量之比。goose/sv消息丢失能够作为goose/sv传输函数的一部分来实现，并且能够通过iec 61850协议来收集，并能够用于工程站802中。此外，实时控制应用程序goose/sv消息传送延迟数据和服务参数的控制网络通信质量会导致高质量数据作为机器学习系统300的输入。通过在由ied 801或mu 803进行传输时插入goose/sv消息中的传输时间戳，该数据的收集能够在虚拟化ied 801和mu 803内以及在控制网络节点111内实现，并且在接收设备接收到消息时和在goose/sv消息路径中的任何控制网络节点111处接收到消息时，发送时间戳与goose/sv消息相关联。
30.在一个或多个实施例中，系统100利用机器学习系统300来预测控制通信网络110内的一个或多个事件的发生。图2示出了根据一个或多个实施例的机器学习系统的框图。ml系统300包括数据预处理模块301、学习机器310和预测处理模块306。在一个或多个实施例中，学习机器310能够使用硬件辅助的人工神经网络学习和预测来实现。
31.在一个或多个实施例中，数据预处理模块301能够订阅中央数据存储器203，以获取数据存储器数据。预处理模块301通过中央数据存储器203和数据预处理模块301之间的接口获取数据存储器数据。接口处的通信方法能够是netconf，而该数据模型能够是yang。
数据预处理模块301获取在线实时数据存储器数据，或者能够利用netconf通知重放功能或类似功能获取历史数据存储器数据。图3示出了根据一个或多个实施例的用于数据预处理的方法的框图。方法400包括方法步骤401：数据预处理模块301通过到中央数据存储器203的接口获取数据存储器数据条目。方法400还包括方法步骤402：数据预处理模块301解析该数据存储器数据条目，以确定特征集{f1，f2......fn}的一个或多个特征fx。数据预处理模块301将数据存储器数据映射到标记实例{f1，f2......fn，g}上，其中，标记实例包括特征{f1，f2......fn}和标签g。方法400包括方法步骤403：数据预处理模块301还检查fx和g值，并利用各种技术消除任何极端异常值。标记实例{f1，f2......fn，g}对应于数据存储器数据，并遵循特定的格式和值，其中，这些值能够被丢弃、规范化，并且通常属于所分配的值的集合或范围。方法400还包括方法步骤404：数据预处理模块301提取特征fx和标签g，并将fx表示为一对(fx1，fx2)，将g表示为一对(g1，g2)。这里，f1x是特征值，f2x是事件的相应时间戳。例如，对于称为“超出的实时控制应用程序延迟”的特征，实例值能够是对应于“否”或“是”的0或1，并且时间戳能够是10。例如，将时间戳值丢弃，以对应于等于电网测量采样间隔倍数的时间间隔。标签g表示为一对(g1，g2)，其中，g1是值，g2是事件的时间戳。方法400包括方法步骤405：数据预处理模块301将特征{f1，f2......fn}和g呈现在到学习机器的接口处。
32.还能够包括其它过程。应当理解，图3中示出的过程表示说明，并且在不脱离本发明的范围和主题的情况下能够添加其它过程，或能够移除、修改或重新布置现有过程。
33.在一个或多个实施例中，能够利用标记实例{f1，f2......fn，g}中的标签g来训练ml模型。标签g'是对应于特征{f1，f2......fn}的预测。在ml系统300中，标签g'具有将来的时间戳，并对应于当前的特征{f1，f2......fn}。也就是说，标签g'是将在某个未来时间发生的事件预测。标签g'的布局与标签g相同。因此，特征fx(f1x，f2x)的布局和标签g/g'的布局是相同的，这能够有助于使呈现给学习机器310的预处理数据更容易地用于各种多类别预测。也就是说，标记实例{f1，f2......fn，g}能够由lm310使用，并且其中，fx和g具有交换的位置和含义的任何相应修改能够被另一个学习机器使用。
34.在一个或多个实施例中，数据预处理模块301能够向lm 310提供标记实例{f1，f2......fn，g}。这使得lm 310能够使用用于在线学习的标记实例来训练机器学习模型。训练也能够基于预处理模块310呈现为来自历史数据的标记实例的离线历史数据而离线进行。这种离线学习能够用于训练初始机器学习模型，或用于更新机器学习模型。在一个或多个实施例中，先前训练的机器学习模型能够用作用于lm 310的初始机器学习模型。这种情况可能会在网络中发生变化时发生，例如网络配置变化、添加新的ied801等。
35.在一个或多个实施例中，该机器学习模型通过为特征的集合{f1，f2......fn}生成预测标签g'而为控制通信网络110提供事件预测。在一个或多个实施例中，能够有多于一个预测事件(即，多于一个g')。机器学习模型能够是简单的人工神经网络模型，如两层模型(在其之间具有隐藏层)。该机器学习模型能够用于预测是否超过阈值(例如，事件)。例如，预测是否能够包括超过指定的一个或多个阈值的goose/sv消息传送延迟。机器学习工具能够包括学习和预测方法(例如，人工神经网络)，并适应对特定数据的特定模型学习。此外，该机器学习模型能够是使用具有实际值的特征并预测实际值的回归模型。
36.在一个或多个实施例中，能够监视机器学习模型的预测g'。这通过将预测g'与随
时间变化的实际值g进行比较，并观察目标函数来实现。基于这些观察，能够修改所采用的机器学习模型，以提供更令人满意的预测结果(即，更好的目标函数值)。这能够允许基于事件预测而对模型进行再训练，或采用不同的模型。
37.在一个或多个实施例中，lm 310使得预测处理模块306能够获取预测g'。预测处理模块306处理来自一个或多个lm 310的预测g'。例如，预测处理模块306将预测g'转换为在nms站112的用户接口上呈现的实际预测。在实际预测中预测的事件能够包括例如：预计超过一个或多个阈值的iec 61850消息传送延迟、预计超过一个或多个阈值的ied 61850消息丢失、以及预计超过一个或多个阈值的控制网络节点111接口计数器。预测处理模块306和nms站112之间的接口能够实现为netconf、yang、snmp，或者实现为nms站112所使用的另一个通信类型接口。
38.在一个或多个实施例中，一旦做出实际预测，则nms站112就能够基于该预测采取一个或多个措施。例如，nms站112能够向iec 61850工程站802发送通知，能够在控制通信网络110中发起修改，或者采取任何其它措施来寻址控制通信网络的预测事件。工程站802能够基于该预测对控制通信网络进行修改。例如，如果所预测的事件包括丢失的数据包的数量将超过阈值，则接下来的措施能够包括但不限于：重新配置ied，实现更小的goose重传间隔；重新配置ied，实现更多的goose重传；启动ied 801/mu 803的预防性维护；以及重新配置ied 801，实现更小的轮询间隔。此外，工程站802能够向电网操作员发出警告，以进一步分析事件预测已经发生的原因，并启动适当的措施。在一个或多个实施例中，图1中所示的任何组件均能够启动包括nms站112、实时控制应用程序800和工程站802在内的措施。这样的措施能够包括例如减少对控制通信网络110具有不利影响的视频监控或其他流量。其它示例性措施包括通过添加虚拟链路来增加控制通信网络110的容量、增加虚拟链路容量、重新配置与虚拟网络有关的转发、以及任何其它修改。重新配置转发是指调整控制通信网络内的路径。该调整能够包括用于转发的新路径和/或对用于转发的当前路径的调整。为了启动预防性维护，示例性措施能够包括检查并修复故障链路上的电缆，或检查并修复故障交换机。
39.参考图4，示出了用于实现本文教导的处理系统500的实施例。在该实施例中，系统500具有一个或多个中央处理单元(处理器)21a，21b，21c等(统称或总称为处理器21)。在一个或多个实施例中，每个处理器21均能够包括精简指令集计算机(risc)微处理器。处理器21经由系统总线33耦合到系统存储器34和各种其它组件上。只读存储器(rom)22耦合到系统总线33，并且能够包括控制系统500的某些基本功能的基本输入/输出系统(bios)。
40.图4还示出了耦合到系统总线33的输入/输出(i/o)适配器27和网络适配器26。i/o适配器27能够是与硬盘23和/或磁带单元25或任何其它类似组件通信的小型计算机系统接口(scsi)适配器。i/o适配器27、硬盘23和磁带单元25在此统称为大容量存储器24。用于在处理系统300上执行的操作系统40能够存储在大容量存储器24中。网络适配器26将总线33与外部网络36互连，使得数据处理系统300能够与其它这种系统通信。屏幕(例如，显示监视器)35通过显示适配器32连接至系统总线33，其能够包括用于提高图形密集型应用程序性能的图形适配器和视频控制器。在一个实施例中，适配器27，26和32能够与经由中间总线桥(未示出)连接至系统总线33的一个或多个i/o总线连接。用于连接诸如硬盘控制器、网络适配器和图形适配器的外围设备的合适的i/o总线通常包括诸如外围组件互连(pci)的通用
协议。附加的输入/输出设备示出为经由用户接口适配器28和显示适配器32连接至系统总线33。键盘29、鼠标30和扬声器31都经由用户接口适配器28互连到总线33，其能够包括例如将多个设备适配器集成到单个集成电路中的超级i/o芯片。
41.在示例性实施例中，处理系统500包括图形处理单元41。图形处理单元41是专门的电子电路，其被设计为操纵和改变存储器，以加速帧缓冲器中用于输出至显示器的图像的创建。通常，图形处理单元41在操纵计算机图形和图像处理方面是非常有效的，并且具有高度并行的结构，使得其比用于并行处理大数据块的算法的通用cpu更有效。
42.因此，如图4中所配置的，系统500具有以处理器21形式的处理能力，包括系统存储器34和大容量存储器24的存储能力，诸如键盘29和鼠标30的输入部件，以及包括扬声器31和显示器35的输出能力。在一个实施例中，系统存储器34和大容量存储器24的一部分共同存储操作系统，该操作系统协调图4所示的各个组件的功能。
43.在本发明的实施例中，机器学习系统300还能够实现为所谓的分类器(下文进行更详细地描述)。在本发明的一个或多个实施例中，这里所述的各种机器学习系统300的特征能够在图4所示的处理系统500上实现，或者能够在神经网络上实现。在本发明的实施例中，机器学习系统300的特征能够通过配置和安排处理系统500执行机器学习(ml)算法来实现。通常，分类ml算法实际上从接收到的数据(例如，机器学习系统300的输入)中提取特征，以便对所接收到的数据进行“分类”。合适的算法方法的实例包括但不限于神经网络(下文进行更详细地描述)、支持向量机(svm)、逻辑回归、决策树、隐马尔可夫模型(hmm)等。分类器操作(即，“分类”)的最终结果是预测数据的类别；回归模型的最终结果是预测未来值。ml算法对所接收到的数据应用机器学习技术，以便随着时间的推移而创建/训练/更新唯一的“模型”。由机器学习系统300执行的学习或训练能够是监督式学习、非监督式学习、或包括监督式学习和非监督式学习方面的混合。当训练数据已经可用并被分类/标记时是监督式学习。当训练数据未被分类/标记，因此必须通过分类器的迭代来开发时是非监督式学习。非监督式学习能够利用其它学习/训练方法，包括例如聚类、异常检测、神经网络、深度学习等。
44.在机器学习系统300实现为神经网络的本发明的实施例中，电阻开关器件(rsd)能够被用作前神经元和后神经元之间的连接(突触)，从而以设备电阻的形式表示连接权重。神经形态系统是互连的处理器元件，其充当模拟“神经元”，并以电子信号的形式在彼此之间交换“消息”。与在生物神经元之间携带消息的突触神经递质连接的所谓“可塑性”类似，神经形态系统(例如，神经网络)中的连接在模拟神经元之间携带电子消息，其具有与给定连接的强弱相对应的数字权重。能够根据经验调整和调节权重，使神经形态系统适应输入，并能够学习。例如，用于手写识别的神经形态/神经网络由输入神经元的集合定义，其能够由输入图像的像素激活。在通过由网络设计者确定的函数进行加权和转换之后，这些输入神经元的激活随后被传递到其它下游神经元，其通常被称为“隐藏”神经元。重复该过程，直到输出神经元被激活。因此，激活的输出神经元确定(或“学习”)哪个字符被读取。多个前神经元和后神经元能够通过一列rsd连接，其自然就表示了全连接的神经网络。在这里的描述中，归于系统100的任何功能都能够使用处理系统500来实现。
45.本发明能够是处于任何可能的集成技术细节等级的系统、方法和/或计算机程序产品。该计算机程序产品能够包括其上具有用于使处理器执行本发明的各方面的计算机可
读程序指令的计算机可读存储介质。
46.本文参考相关附图描述了本发明的各种实施例。在不脱离本发明范围的情况下，能够设计本发明的替代实施例。在以下描述和附图中，阐述了元件之间的各种连接和位置关系(例如，位于上方、位于下方、相邻等)。除非另有说明，否则这些连接和/或位置关系能够是直接或间接的，并且本发明并不意在在这方面进行限制。因此，实体的耦合能够指直接或间接耦合，并且实体之间的位置关系能够是直接或间接位置关系。此外，本文所述的各种任务和过程步骤均能够并入具有本文未详细描述的其它步骤或功能的更全面的程序或过程中。
47.以下定义和缩写用于解释权利要求和说明书。如本文所使用的，术语“包含”、“包括”、“具有”、“含有”或其任何其它变体意在涵盖非排他性包含。例如，包括一系列元素的组合物、混合物、过程、方法、制品或装置不必仅限于那些元素，而是能够包含未明确列出的或此类组合物、混合物、过程、方法、制品或装置所固有的其它元素。
48.此外，术语“示例性”在本文中用于表示“用作示例、实例或说明”。在此描述为“示例性”的任何实施例或设计不一定被解释为比其它实施例或设计更优选或更有利。术语“至少一个”和“一个或多个”能够理解为包括大于或等于1的任何整数，即1，2，3，4等。术语“多个”能够理解为包括大于或等于2的任何整数，即2，3，4，5等。术语“连接”能够包括间接“连接”和直接“连接”。
49.术语“约”、“基本上”、“大约”及其变体旨在包括与基于提交本技术时可用的设备的特定量的测量相关的误差程度。例如，“约”能够包括给定值的
±
8％，或
±
5％，或
±
2％的范围。
50.为了简洁起见，与制造和使用本发明的各方面相关的常规技术在此能够或能够不进行详细描述。特别地，实现本文所述各种技术特征的计算系统和特定计算机程序的各个方面都是公知的。因此，为了简洁起见，许多常规实现细节在本文中仅简要提及或完全省略，而不提供众所周知的系统和/或过程细节。
51.这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合都能够由计算机可读程序指令实现。
52.这些计算机可读程序指令能够被提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生用于实现流程图和/或框图中指定的功能/措施的装置。也能够把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式运行，从而使得存储有指令的计算机可读存储介质包括包含实现流程图和/或框图中指定的功能/措施的各个方面的指令的制品。
53.本发明的各种实施例的描述已经出于说明的目的给出，但并不旨在穷举或限制于所公开的实施例。在不脱离所述实施例的范围和精神的情况下，许多修改和变型对于本领域普通技术人员是显而易见的。本文所使用的术语的选择，旨在最佳地解释各实施例的原理、实际应用或对市场中技术的技术改进，或者使本领域普通技术人员能够理解本文中所描述的各实施例。