与数字机器人交互的方法、设备、装置、存储介质和程序产品与流程

1.本公开的实施例主要涉及人工智能(artificial intelligence，ai)领域。更具体地，本公开的实施例涉及与数字机器人交互的方法、设备、装置、计算机可读存储介质以及计算机程序产品。


背景技术：

2.随着计算机技术的发展，各种类型的数字机器人(例如，数字助手)被广泛地应用于人们生活的各个方面。例如，人们可以通过语音来与数字机器人交互来查询诸如天气等信息，或者，人们可以与数字机器人交互来快捷地操控特定的电子设备。人们期望能够进一步提升数字机器人的智能程度。


技术实现要素：

3.本公开的实施例提供了一种与数字机器人交互的方案。在本公开中，“数字机器人”(在一些特定场景中也被称为“数字人(digital human)”)旨在表示用于实现与用户之间的智能交互的控制逻辑或程序代码，其例如可以表现为应用程序或者云端部署的服务。代表性的“数字机器人”例如可以包括语音数字助手、聊天机器人、自动查询机器人等。一些“数字机器人”例如可以具有相应的视觉形象，例如，二维或三维的拟人形象或者卡通形象，从而实现更加生动的交互。或者，“数字机器人”例如也可以用于驱动“物理机器人”，以控制“物理机器人”实现与用户的智能交互。
4.在本公开的第一方面，提供了与数字机器人交互的方法。该方法包括：获取针对数字机器人的输入；基于输入和与数字机器人相关联的性格信息，确定指示与数字机器人相关联的预期情感状态的情感信息，其中，性格信息用于指示与数字机器人相关联的性格偏好；以及基于情感信息和输入，确定针对输入的响应。
5.在本公开中，“与数字机器人相关联的性格信息”旨在表示“数字机器人”所产生的交互所表现出的类似于人类的性格。类似地，与数字机器人相关联的预期情感状态”旨在表示“数字机器人”将通过交互所表现出的情感状态。基于这样的方式，本公开的实施例能够使得数字机器人根据相应的性格设定来提供具有相应情感状态的响应，从而提高数字机器人的智能程度。
6.在第一方面的一些实施例中，输入包括文本输入或语音输入，并且确定指示数字机器人的预期情感状态的情感信息包括：获取与输入对应的自然语言编码；以及利用情感模型处理自然语言编码和性格信息，确定情感信息，情感模型是根据一组训练数据训练完成的人工智能ai模型，一组训练数据包括与一组情感行为相关联的训练自然语言编码、训练性格信息以及训练情感信息。
7.基于这样的方式，本公开的实施例能够利用机器学习技术使得数字机器人能够根据外界输入和性格设定来切换至不同的情感状态，从而使得数字机器人能够呈现出相应的性格，从而实现个性化的交互。
8.在第一方面的一些实施例中，确定针对输入的响应包括：基于情感信息和输入，确定输入特征；利用记忆模型基于输入特征和历史信息确定针对输入的响应，其中历史信息包括被存储在记忆模型的记忆单元中的、与记忆模型生成的历史响应相关联的信息。
9.基于这样的方式，本公开的实施例利用具有记忆能力的模型来确定数字机器人的当前响应，这能够使得数字机器人能够具有类人的记忆能力，从而使得交互更加智能化。
10.在第一方面的一些实施例中，方法还包括：获取与输入相关联的环境信息，其中环境信息指示以下中的至少一项：与提供输入的用户相关联的信息，或与用户所在物理环境相关联的信息；以及基于情感信息、输入和环境信息，确定响应。
11.基于这样的方式，本公开的实施例能够进一步考虑外界环境信息(也被称为上下文信息)来确定数字机器人的当前响应，这进一步提高了数字机器人的智能程度。
12.在第一方面的一些实施例中，响应包括以下中的至少一项：文本响应、语音响应、或动画响应。
13.在第一方面的一些实施例中，方法还包括：基于响应，确定数字机器人的视觉对象待被应用的视觉变化，视觉变化与以下中的至少一项有关：视觉对象的面部运动动画或肢体运动动画；以及绘制视觉对象，以呈现视觉变化。在第一方面的一些实施例中，确定数字机器的视觉对象待被应用的视觉变化包括：获取与视觉对象相对应的网格模型；以及基于响应，确定与网格模型相关联的参数变化，参数变化用于指示视觉对象待被应用的视觉变化。
14.基于这样的方式，本公开的实施例能够通过视觉对象来提供直观的视觉交互，进而能够直观地向用户呈现数字机器人的性格特性和情感状态，这进一步提高了交互的趣味性。
15.在第一方面的一些实施例中，方法还包括：基于响应，驱动与数字机器人相关联的物理机器人执行以下动作中的至少一项：输出语音、面部运动、或肢体运动。基于这样的方式，本公开的实施例能够提供一种具有相应性格的物理机器人，并能够相应地基于性格信息来进行与情感状态对应的交互。
16.在第一方面的一些实施例中，方法还包括：从用户输入确定性格信息。在第一方面的一些实施例中，性格信息包括用于指示以下至少一项的值：开放性、尽责性、外向性、亲和性和情绪性。基于这样的方式，本公开的实施例使得用户能够定制数字机器人的性格特点，从而获得更为个性化的数字机器人。
17.在本公开的第二方面，提供了一种与数字机器人交互的装置。该装置包括：情感确定模块，被配置为获取针对数字机器人的输入；以及基于输入和与数字机器人相关联的性格信息，确定指示与数字机器人相关联的预期情感状态的情感信息，其中，性格信息用于指示与数字机器人相关联的性格偏好；以及行为驱动模块，被配置为基于情感信息和输入，确定针对输入的响应。
18.基于这样的方式，本公开的实施例能够使得数字机器人根据相应的性格设定来提供具有相应情感状态的响应，从而提高数字机器人的智能程度。
19.在第二方面的一些实施例中，输入包括文本输入或语音输入，并且情感确定模块还被配置为：获取与输入对应的自然语言编码；以及利用情感模型处理自然语言编码和性格信息，确定情感信息，情感模型是根据一组训练数据训练完成的人工智能ai模型，一组训
练数据包括与一组情感行为相关联的训练自然语言编码、训练性格信息以及训练情感信息。
20.基于这样的方式，本公开的实施例能够利用机器学习技术使得数字机器人能够根据外界输入和性格设定来切换至不同的情感状态，从而使得数字机器人能够呈现出相应的性格，从而实现个性化的交互。
21.在第二方面的一些实施例中，行为驱动模块还被配置为：基于情感信息和输入，确定输入特征；利用记忆模型基于输入特征和历史信息确定针对输入的响应，其中历史信息包括被存储在记忆模型的记忆单元中的、与记忆模型生成的历史响应相关联的信息。
22.基于这样的方式，本公开的实施例利用具有记忆能力的模型来确定数字机器人的当前响应，这能够使得数字机器人能够具有类人的记忆能力，从而使得交互更加智能化。
23.在第二方面的一些实施例中，装置还包括：环境感知模块，被配置为获取与输入相关联的描述信息，其中描述信息指示以下中的至少一项：与提供输入的用户相关联的信息，或与用户所在物理环境相关联的信息；并且行为驱动模块还被配置为基于情感信息、输入和描述信息，确定响应。
24.基于这样的方式，本公开的实施例能够进一步考虑外界环境信息(也被称为上下文信息)来确定数字机器人的当前响应，这进一步提高了数字机器人的智能程度。
25.在第二方面的一些实施例中，响应包括以下中的至少一项：文本响应、语音响应、或动画响应。
26.在第二方面的一些实施例中，装置还包括：视觉呈现模块，被配置为基于响应，确定数字机器人的视觉对象待被应用的视觉变化，视觉变化与以下中的至少一项有关：视觉对象的面部运动动画或肢体运动动画；以及绘制视觉对象，以呈现视觉变化。在第二方面的一些实施例中，视觉呈现模块还被配置为：获取与视觉对象相对应的网格模型；以及基于响应，确定与网格模型相关联的参数变化，参数变化用于指示视觉对象待被应用的视觉变化。
27.基于这样的方式，本公开的实施例能够通过视觉对象来提供直观的视觉交互，进而能够直观地向用户呈现数字机器人的性格特性和情感状态，这进一步提高了交互的趣味性。
28.在第二方面的一些实施例中，装置还包括：机器人控制模块，被配置为基于响应，驱动与数字机器人相关联的物理机器人执行以下动作中的至少一项：输出语音、面部运动、或肢体运动。
29.基于这样的方式，本公开的实施例能够提供一种具有相应性格的物理机器人，并能够相应地基于性格信息来进行与情感状态对应的交互。
30.在第二方面的一些实施例中，情感确定模块还被配置为：从用户输入确定性格信息。在第二方面的一些实施例中，性格信息包括用于指示以下至少一项的值：开放性、尽责性、外向性、亲和性和情绪性。基于这样的方式，本公开的实施例使得用户能够定制数字机器人的性格特点，从而获得更为个性化的数字机器人。
31.在本公开的第三方面，提供了一种计算设备。计算设备包括处理器以及存储有指令的存储器。指令在被处理器执行时使得计算设备执行根据第一方面及其实现方式的任一方法。
32.在本公开的第四方面，提供了一种计算机可读存储介质。计算机可读存储介质存
储有指令，指令在被计算设备执行时使得计算设备执行第一方面及其实现方式的任一方法。
33.在本公开的第五方面，提供了一种计算机程序产品。计算机程序产品包括指令，指令在被计算设备执行时使得计算设备执行第一方面及其实现方式的任一方法。
34.在本公开的第六方面，提供了一种交互系统。该交互系统包括交互设备以及根据第三方面描述的计算设备，其中交互设备被配置为基于计算设备所确定的响应来向用户提供输出。示例性地，这样的交互设备可以通过适当的交互界面来与用户进行输入或输出交互。
35.可以理解地，上述提供的第二方面的装置、第三方面的计算设备、第四方面的计算机存储介质、第五方面的计算机程序产品、或者第六方面的交互系统均可以用于执行第一方面所提供的方法。因此，关于第一方面的解释或者说明同样适用于第二方面、第三方面、第四方面、第五方面和第六方面。此外，第二方面、第三方面、第四方面、第五方面和第六方面所能达到的有益效果可参考对应方法中的有益效果，此处不再赘述。
36.应当理解，发明内容部分中所描述的内容并非旨在限定本公开的关键或重要特征，亦非用于限制本公开的范围。本公开的其他特征通过以下的描述将变得容易理解。
附图说明
37.结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标注表示相同或相似的元素，其中：
38.图1a和图1b示出了本公开的多个实施例能够在其中实现的示例环境的示意图；
39.图2示出了根据本公开的多个实施例的交互系统的示意框图；
40.图3示出了根据本公开的多个实施例的情感确定模块的示意框图；
41.图4示出了根据本公开的多个实施例的配置性格信息的示例界面；
42.图5示出了根据本公开的多个实施例的环境感知模块的示意框图；
43.图6示出了根据本公开的多个实施例的行为驱动模块的示意框图；
44.图7示出了根据本公开的多个实施例的视觉呈现模块的示意框图；
45.图8示出了根据本公开的多个实施例的与数字机器人交互的示例过程的流程图；以及
46.图9示出了能够实施本公开的多个实施例的计算设备的框图。
具体实施方式
47.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
48.在本公开的实施例的描述中，术语“包括”及其类似用语应当理解为开放性包含，即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。
49.各种类型的数字机器人被广泛地应用于人们生活的各个方面。例如，一些智能终端部署有语音助手，以根据用户的语音输入或文本输入来产生相应的响应。或者，一些服务站点也可以通过部署聊天机器人以作为智能客服，以帮助用户解读相应的问题。
50.然而，上述各种类型的数字机器人或者是依照预定的规则来产生相应的响应，或者是基于人工智能来产生相应的响应。然而，这样的数字机器人无法具有与人类类似的性格，这使得这些数字机器人难以激发用户与之充分交互的兴趣。
51.有鉴于此，根据本公开的各种实施例，提供了一种与数字机器人交互的方案。在本公开的实施例中，获取针对数字机器人的输入，并且进一步地根据指示与数字机器人相关联的性格偏好的性格信息，来确定数字机器人响应于该输入将呈现的预期情感状态，该预期情感状态可以通过情感信息来表示。进一步地，联合该情感信息和该输入，进而生成针对该输入的响应。由此，该响应能够与预期情感状态相对应。这样，本公开的实施例能够使得数字机器人根据相应的性格设定来提供具有相应情感状态的响应。
52.以下将结合附图来描述本公开的具体方案。
53.示例环境
54.本公开的实施例能够被应用于各种类型的数字机器人交互环境。以下将参考图1a和图1b来描述本公开的多个实施例的示例环境100a和100b。应当理解，图1a和图1b所示出的示例环境仅是示例性的，其他适当的数字机器人交互环境也适于事实根据本公开的一个或多个实施例。
55.图1a示出了本公开的多个实施例的示例环境100a的示意图。环境100a可以包括计算设备130。尽管计算设备130在图1a中被示出为一种智能手机，但是计算设备130还可以被实施为其他任何适当的形式，其示例可以包括但不限于：智能手机、笔记本电脑、平板电脑、台式机、智能手表、智能手环、智能眼镜或者其他任何适当的设备。
56.如图1a所示，以智能手机作为计算设备130的示例，用户110例如可以点击打开计算设备130上所装载的数字机器人应用(例如，数字助手)，并进而与数字机器人进行交互。例如，用户110可以向计算设备130提供语音输入120-1或文本输入120-2(单独或统一称为输入120)。
57.示例性地，用户110可以通过与计算设备130耦合的语音采集设备(例如，麦克风)来提供语音输入120-1。例如，用户110可以长按数字助手界面中的麦克风按钮，以向计算设备130输入与“夺冠了”对应的语音输入120-1。作为另一示例，用户110例如还可以通过与计算设备130耦合的输入设备(例如，触摸屏或者键盘设备)来向计算设备130提供文本输入120-2。
58.在一些实施例中，计算设备130中部署的数字机器人可以与预定的性格相关联。示例性地，可以通过配置性格信息135来将数字机器人与相应的性格相关联。在一些实施例中，数字机器人的性格例如可以通过开放性(openness to experience)、尽责性(conscientiousness)、外向性(extraversion)、亲和性(agreeableness)和情绪性(neuroticism)五种人格因子来量化。各人格因子的描述信息可以参见表1。
59.表1人格因子描述
60.人格因子描述开放性(openness to experience)认知风格
尽责性(conscientiousness)控制、管理和调节自身冲动的方式外向性(extraversion)在社交场合中的偏好和行为亲和性(agreeableness)对他人行为所持的态度情绪性(neuroticism)体验消极情绪的倾向和情绪不稳定性
61.在一些实施例中，各个人格因子可以被量化为特定的值(例如，0至10之间的值)，以指示在相应人格因子方面的偏重。应当理解，还可以根据其他性格研究理论而采用其他人格因子来量化数字机器人的性格。
62.如图1a所示，计算设备130例如可以根据输入120和性格信息135来直接生成针对输入120的响应。例如，计算设备130的数字助手可以呈现数字机器人的视觉对象，并且该响应例如可以包括使得视觉对象呈现预定的视觉变化，以例如指示视觉对象的表情变化、面部动作或者肢体动作等。备选地或附加地，计算设备130例如还可以通过语音来提供针对输入120的响应，该语音例如可以是与视觉对象的动画同步的，例如，与视觉对象的表情和/或嘴部运动同步。
63.在一些实施例中，计算设备130例如可以将与输入120对应的信息发送至云设备140，并且由云设备140根据输入120和与数字机器人对应的性格信息135来生成针对输入120的响应。进一步地，云设备140可以将与响应相关联的信息发送至计算设备130，以使得计算设备130例如可以通过图形界面来呈现相应的动画，和/或提供相应的语音或文本。
64.图1b示出了本公开的多个实施例的示例环境100b的示意图。如图1b所示，与图1a示出的示例环境100a不同的是，计算设备130例如可以通过文本的方式来提供针对输入120的响应。例如，用户110例如可以通过麦克风向计算设备130上运行的数字助手应用提供语音输入120-1。或者，用户110例如还可以通过与计算设备130耦合的输入设备(例如，触摸屏或者键盘设备)来向计算设备130提供文本输入120-2。
65.与参考图1a类似地，计算设备130或者云设备140可以生成针对输入120的响应。与图1a所示出的示例不同，计算设备130例如可以通过文本来提供针对输入120的文本响应。或者，计算设备130例如还可以提供与文本响应对应的语音。
66.应当理解，尽管图1a和图1b以智能终端所装载的数字助手作为数字机器人的示例，但是本公开的过程也适用于其他任何适当的数字机器人。在一些示例中，这样的数字机器人例如可以是用户110-1通过浏览特定网址能够获得的数字机器人服务。例如，这样的数字机器人可以包括用户在网上购物过程中用于服务购物的数字机器人。在一些示例中，这样的数字机器人也可以是被集成在预定的交互设备中，例如，智能音响中所部署的聊天数字机器人等。
67.在一些示例中，这样的数字机器人可以具有如图1a所示的虚拟的视觉对象，这样的虚拟的视觉对象可能是二维或者三维的。在另一些示例中，这样的数字机器人也可能通过语音和/或文本来与用户110直接交互，而并不呈现相关的虚拟视觉形象。
68.在一些示例中，这样的数字机器人例如也可以被部署在类人的物理机器人中。这样的物理机器人例如可以具有相应的输入/输出设备，以用于与用户110执行与图1a所描述过程类似的交互。
69.下文参考图2至图8来详细描述关于结合数字机器人的性格信息来生成针对用户输入的响应的具体过程。
70.示例交互系统
71.图2示出了根据本公开的多个实施例的交互系统200的示意框图。交互系统200例如可以被部署在如图1a和/或图1b所示的计算设备130或云设备140中，以用于确定针对用户输入的响应。如图2所示交互系统200可以包括用于执行根据本公开实施例的与数字机器人交互的过程的多个模块。具体地，交互系统200可以包括情感确定模块210、行为驱动模块220、环境感知模块220和视觉呈现模块240。应当理解，交互系统200中的各模块可以被部署在单个计算设备来执行，或者可以由多个计算设备来协同地执行。此外，交互系统200中的各个模块可以利用软件程序来实施。例如，计算设备中的存储单元中存储的计算机程序代码可以被处理单元执行，以实现交互系统200中的各个模块。
72.以下将结合图3至图6来详细描述交互系统200中各模块的具体实现。
73.情感确定
74.图3示出了根据本公开的一些实施例的情感确定模块210的示例实现。如图3所示，情感确定模块210可以包括情感推理单元310，其被配置为基于输入120和性格信息135来确定指示数字机器人的预期情感状态的情感信息330。
75.在一些实施例中，系统200例如可以包括自然语言处理单元(图中未示出)，其可以用于将接收的输入120(例如，语音输入120-1或者文本输入120-2)转换为自然语言编码320。应当理解，可以根据用户110使用的语言类型，而使用任何适当的自然语言处理nlp技术来将输入120转换为适当的自然语言编码。本公开不旨在对于自然语言编码320的具体生成方式进行限定。
76.在一些实施例中，如上文参考图1a所讨论的，数字机器人例如可以被配置有相应的性格信息135。示例性地，其例如可以通过对如表1所列出的五种人格因子(即，开放性、尽责性、外向性、亲和性和情绪性)进行量化，来确定性格信息135。以上五种性格因子旨在表示数字机器人在不同人格方面的侧重。
77.在一些实施例中，情感确定模块210例如可以包括性格信息配置单元，其能够从用户输入确定性格信息135。示例性地，用户110例如可以通过计算设备130所提供的界面来自定义数字机器人的性格信息135。图4示出了根据本公开的多个实施例的配置性格信息的示例界面400。
78.如图4所示，以数字助手作为数字机器人的示例，用户110例如可以在数字助手应用中进入相关联的性格配置界面400。性格配置界面400例如可以允许用户自定义如表1所列出的五种人格因子的量化数值，例如，每种人格因子的量化数值的取值范围可以在0-10之间。
79.如图4所示，性格配置界面400例如可以允许用户110从预定义的多种性格模板中选择带应用的性格。例如，用户可以点击选择“性格1”、“性格2”和“性格3”以将其中一种预先构建的性格直接选择作为待应用于数字机器人的性格。
80.通过这样的方式，本公开的实施例能够允许用户定制数字机器人的性格特性，从而能够获得更加个性化的数字机器人。
81.回到图3，情感推理单元310例如可以将性格信息135转换为对应的性格编码。例如，情感推理单元310例如可以将性格信息135转换为一个五维的向量，其中每个维度分别表示一种人格因子的值。进一步地，情感推理单元310可以基于自然语言编码320和性格编
码来确定情感信息340。
82.在一些实施例中，情感推理单元310例如可以通过情感模型来处理自然语言编码和性格编码，以确定情感信息340。情感模型例如可以通过任何的机器学习模型来实现，其示例包括但不限于，各类深度神经网络(dnn)、卷积神经网络(cnn)、循环神经网络(rnn)、支持向量机(svm)、决策树、随机森林模型等等。
83.在一些实施例中，情感模型可以利用一组训练数据而被训练，该组训练数据例如可以根据一组情感行为而确定的。这样的一组情感行为例如可以是具有不同性格的人类在接收到不同类型的自然语言输入所呈现的情感反应。具体地，该训练数据例如可以包括基于该组情感行为所确定的训练自然语言编码、训练性格信息和训练情感信息。
84.在一些实施例中，训练自然语言编码例如可以对应于与情感行为对应的自然语言输入的编码表示，其例如可以通过与确定自然语言编码320类似的自然语言处理技术而被确定。
85.在一些实施例中，训练性格信息例如可以表示作出该情感行为的测试人类所对应的性格的量化表示。例如，可以利用如表1所示出的五种人格因子来对测试人类的性格执行量化。示例性地，性格的量化可以基于测试人类的自测评估来完成。
86.在一些实施例中，训练情感信息可以是基于测试人类的情感状态的一种量化表示。在情绪心理学中，人的情感状态通常能够通过三种维度来表达，即愉悦度(pleasure)、激活度(arousal)、优势度(dominance)。该情感状态模型被称为pad情感状态模型，每一种情感状态均可以通过这一模型量化表达。示例性地，表2进一步列出了基于pad情感状态模型所量化的八种不同的情感状态。
87.示例性地，可以利用pad情感状态模型来确定测试人类在情感行为中所呈现的情感状态的量化表示，以作为训练情感信息。
88.表2基于pad情感状态模型的情感状态表达
89.情绪状态pad喜悦2.771.211.42惊奇1.721.710.22温和1.57-0.790.38悲伤-1.60-0.80-2.00焦虑-0.950.32-0.63厌恶-1.600.800.40愤懑-2.042.361.00失望-1.200.40-1.60
90.通过利用该组训练数据训练情感模型，可以建立输入编码(即，自然语言编码与情感编码)与输出情感信息之间的拟合。这使得经训练的情感模型能够接收自然语言编码320和基于性格信息135确定的性格编码，从而例如输出由pad情感状态模型所量化表达的情感信息340，其例如也可以被称为情感编码。
91.应当理解，上文所介绍的pad情感状态模型仅仅是用于量化情感状态的一种示例方法。还可以采用本领域其他任何适当的情感量化模型来对情感状态进行量化。
92.考虑到不同的外界因素例如也可能对于情感状态产生影响，在一些实施例中，如
图3所示，情感推理单元310例如还可以获取环境信息330，并将环境信息330所对应的编码作为输入到上文所讨论的情感模型的输入编码的一部分，以确定情感信息340。在一些实施例中，环境信息330可以用于指示与输入120有关的物理环境。或者，环境信息330也可以用于指示与提供输入120的用户110有关的信息。应当理解，在考虑了环境信息的情况下，情感模型的训练数据也应当包括与环境信息所对应的部分。
93.在一些实施例中，环境信息330例如可以是由环境感知模块230所确定。在一些实施例中，环境信息330可以指示与用户110相关联的信息。例如，环境信息330例如可以指示用户110的性别或年龄等等。示例性地，在人类真实交互场景中，不同年龄或性别的人说出同样的一句话，可能使得人类具有不同的情感状态。例如，一个儿童说出一些冒犯的话，可能会导致人类的情感状态是惊奇，而一个成年人说出一些冒犯的话，可能导致人类的情感状态是厌恶。通过考虑当前交互的用户110的信息，可以使得数字机器人的交互更加人性化。
94.在一些实施例中，环境信息330还可以指示与用户110所在物理环境相关联的信息。例如，用户110提供输入120的时间信息、天气信息、光照强度信息等等各个方面。
95.关于环境信息330的生成将在下文参考图5详细描述。
96.环境感知
97.图5示出了根据本公开的一些实施例的环境感知模块230的示例实现。如图5所示，环境感知模块230可以包括感知单元520，其例如可以感知与用户110相关联的信息或者与物理环境510相关联的信息来确定环境信息330。
98.在一些实施例中，感知单元520例如可以通过用户110在计算设备130的注册信息来获取与用户110相关联的信息，以作为环境信息330的至少部分。例如，数字机器人可以在用户110注册使用时获得用户110的性别和年龄等信息。
99.在一些实施例中，感知单元520例如可以利用计算设备130中的图像传感器来获取当前交互的用户110的图像，并进一步基于该图像来确定与用户110相关联的信息，以作为环境信息330的至少部分。例如，感知单元520可以基于该图像来确定用户110的表情或姿态等信息。
100.应当理解，这样的用户信息(不论是用户注册时提供或者是通过传感器采集)的使用应当是在获得用户110的授权获取与授权使用的情况下的合法使用。
101.在一些实施例中，感知单元520还可以利用计算设备130中所部署的适当传感器来获得与物理环境510相关联的信息。例如，感知单元520可以基于计算设备130中的亮度传感器来确定当前物理环境510的亮度信息，或者通过位置传感器来确定当前的位置信息。
102.在一些实施例中，感知单元520也可以通过云端提供的服务来获取与物理环境510相关联的信息。例如，感知单元520可以通过天气服务来获取当前位置的天气信息。
103.这样的环境信息330也可以通过一组向量来表示，以例如用于上文所讨论的确定情感信息340的过程。此外，如环境将要介绍的，环境信息330例如还可以被进一步用于行为驱动模块220的处理过程。
104.行为驱动
105.图6示出了根据本公开的一些实施例的行为驱动模块220的示例实现。如图6所示，在一些实施例中，行为驱动模块220例如可以包括记忆模型620，其例如可以被配置为接收
输入编码610，并相应地生成行为信息650。具体地，输入编码610可以是基于自然语言编码320和情感信息340所确定的。附加地，输入编码610例如还可以包括与由环境感知模块230所确定的环境信息330所对应的编码部分。
106.在一些实施例中，记忆模型620可以利用适当的机器学习模型来实现，其示例包括但不限于，各类深度神经网络(dnn)、卷积神经网络(cnn)、循环神经网络(rnn)、支持向量机(svm)、决策树、随机森林模型等等。
107.在一些实施例中，为了模拟类似人类的记忆能力，记忆模型620例如可以利用具有记忆能力的模型来实现，例如，神经图灵机(neural turing machine，ntm)、神经微分计算机和循环实体网络等等。
108.图6以神经图灵机ntm作为记忆模型620的示例。具体地，记忆模型620包含记忆单元640和记忆读写单元630。以神经图灵机为例，记忆单元640可以用于存储与记忆模型620生成的历史行为信息相关联的信息，其例如可以表示为模型的记忆权重。在一些实施例中，记忆读写单元630负责接收输入编码610，并写入记忆单元640，之后读取相应的记忆输出，也即行为信息650。具体而言，记忆读写单元630的输入编码610通常表现为带有定义的写头(write head)结合了自然语言编码、基于情感信息340的情感编码和基于环境信息330的环境编码的向量。关于神经图形ntm的具体实现可以参照由alex graves等发表的“neural turing machines”，在此不在详叙。
109.在一些实施例中，行为信息650可以例如可以包括文本数据，其用于指示待作为针对输入120的文本响应。例如，当输入120包括文本“夺冠了”时，记忆模型620可以确定行为信息650包括待提供给用户110的回复文本“太赞了”。
110.在一些实施例中，如上文参考图1a所讨论的，数字机器人还可以具有与之相关联的视觉对象，这样的视觉对象例如可以是拟人的，或者是任何能够呈现表情或者做出肢体动作的其他形象。在这种情况下，行为信息650可以包括与视觉对象待执行的动画动作有关的信息，例如微笑的面部表情或者鼓掌的肢体动作等。
111.应当理解，取决于行为信息650包括的具体内容，记忆模型620可以采用对应的训练数据而被训练。作为一种示例，可以利用一组人类行为来确定训练数据，例如该组人类行为可以包括在不同情感状态下的人类在接收到自然语言输入提供的自然文本输出、面部表情和/或肢体动作等。
112.在一些实施例中，计算设备130可以利用行为信息650中所包括的文本数据来确定待呈现给用户110的文本响应，或者进一步生成与文本数据所对应的语音响应。基于这样的方式，本公开所提供的数字机器人能够具有类似于人类的性格特性，从而提高交互的趣味性。
113.动态视觉呈现
114.图7示出了根据本公开的一些实施例的视觉呈现模块240的示例实现。如图7所示，在一些实施例中，视觉呈现模块240可以网格生成单元710，其被配置为生成与数字机器人的视觉对象对应的网格模型720。
115.在一些实施例中，数字机器人的视觉对象例如可以是二维的形象。相应地，网格模型720例如可以是一种二维网格模型。在一些实施例中，数字机器人的视觉对象例如可以是三维的形象，相应地，网格模型720可以是一种三维网格模型。
116.在一些实施例中，网格生成单元710可以基于用户输入来生成网格模型720。在一些示例中，网格生成单元710例如可以利用计算设备130的摄像头来获取用户110的图像，以基于用户110的图像来生成网格模型720。或者，网格生成单元710例如也可以接收用户110上传的图像来生成网格模型720。
117.在一些实施例中，网格生成单元710还可以为用户提供虚拟视觉对象创建程序，例如以允许用户类似于创建游戏人物的过程来创建数字机器人的期望的视觉形象。
118.如图7所示，视觉呈现模块240还可以包括绘制单元730，其可以被配置为接收网格模型720和由行为驱动模块220生成的行为信息650来生成绘制生成用于提供至用户110的视觉对象740。
119.具体地，绘制单元730可以基于行为信息650来确定数字机器人视觉对象待被应用的视觉变化。在一些实施例中，视觉变化可以包括视觉对象的面部运动动画。例如，该视觉变化可以包括视觉对象需要呈现出微笑的面部表情。在一些实现中，视觉变化可以包括视觉对象的肢体运动动画，例如，视觉对象需要做出拍手的肢体动作。
120.在一些实施例中，绘制单元730可以根据行为信息650来与视觉变化相对应的网格模型待被应用的参数变化。示例性地，这些参数变化可以表示网格模型中一个或多个关键点的位置变化，以对应于相应的面部表情或者肢体动作。
121.在一些实施例中，绘制单元730还可以根据行为信息650所包括的文本数据来确定网格模型720待被应用的参数变化。具体而言，绘制单元730可以根据文本数据来确定用于呈现视觉对象说出这些文本时应当表现的面部运动，例如，嘴部运动等。
122.在一些实施例中，网格模型720待被应用的参数变化还可以基于机器学习模型而被确定，这样的机器学习模型的示例可以包括但不限于：各类深度神经网络(dnn)、卷积神经网络(cnn)、循环神经网络(rnn)、支持向量机(svm)、决策树、随机森林模型等等。在这种情况下，例如可以通过扫描采集与人类面部表情和/或肢体动作对应网格参数信息作为训练数据来训练该模型。
123.在一些实施例中，用于确定网格参数的机器学习模型还可以与上文所讨论的情感模型和记忆模型一起被协同地训练，从而构建一套端到端的通路。示例性地，可以以特定性格的人类在接收到相应自然语言输入后所呈现的面部表情和/或肢体动作作为训练数据，通过施加监督从而实现各模型的协同训练。
124.在一些实施例中，在确定网格模型720和对应的网格参数变化后，绘制单元730可以渲染得到对应的动态视觉对象750。进一步地，该动态视觉对象750例如可以通过计算设备130的显示设备而被呈现给用户110，从而为用户110提供更加拟人化的交互。
125.在一些实施例中，如参考图1a和图1b所讨论的，数字机器人例如还可以用于驱动物理机器人，其例如可以是由物理机器人本地或者远程的控制逻辑。类似地，交互系统200例如还可以基于行为信息650来驱动物理机器人发出相应的语音、呈现相应的面部表情，或者执行相应的肢体动作。
126.示例过程和设备
127.图8示出了根据本公开的实施例的与数字机器人交互的方法800的流程图。过程800例如可以由图1中的计算设备130或云设备140单独实施，或者由多个计算设备130、多个云设备140或者计算设备130与云设备140的组合来协同地实施。
128.在框810，获取针对数字机器人的输入。在框820，基于输入和与数字机器人相关联的性格信息，确定指示与数字机器人相关联的预期情感状态的情感信息，性格信息用于指示与数字机器人相关联的性格偏好。在框830，基于情感信息和输入，确定针对输入的响应。
129.在一些实施例中，输入包括文本输入或语音输入，并且确定指示数字机器人的预期情感状态的情感信息包括：获取与输入对应的自然语言编码；以及利用情感模型处理自然语言编码和性格信息，确定情感信息，情感模型是根据一组训练数据训练完成的人工智能ai模型，一组训练数据包括与一组情感行为相关联的训练自然语言编码、训练性格信息以及训练情感信息。
130.在一些实施例中，确定针对输入的响应包括：基于情感信息和输入，确定输入特征；利用记忆模型基于输入特征和历史信息确定针对输入的响应，其中历史信息包括被存储在记忆模型的记忆单元中的、与记忆模型生成的历史响应相关联的信息。
131.在一些实施例中，方法还包括：获取与输入相关联的环境信息，其中环境信息指示以下中的至少一项：与提供输入的用户相关联的信息，或与用户所在物理环境相关联的信息；以及基于情感信息、输入和环境信息，确定响应。
132.在一些实施例中，响应包括以下中的至少一项：文本响应、语音响应、或动画响应。
133.在一些实施例中，方法还包括：基于响应，确定数字机器人的视觉对象待被应用的视觉变化，视觉变化与以下中的至少一项有关：视觉对象的面部运动动画或肢体运动动画；以及绘制视觉对象，以呈现视觉变化。
134.在一些实施例中，确定数字机器人的视觉对象待被应用的视觉变化包括：获取与视觉对象相对应的网格模型；以及基于响应，确定与网格模型相关联的参数变化，参数变化用于指示视觉对象待被应用的视觉变化。
135.在一些实施例中，方法还包括：基于响应，驱动与数字机器人相关联的物理机器人执行以下动作中的至少一项：输出语音、面部运动、或肢体运动。
136.在一些实施例中，方法还包括：从用户输入确定性格信息。在一些实施例中，性格信息包括用于指示以下至少一项的值：开放性、尽责性、外向性、亲和性和情绪性。
137.图9示出了可以用来实施本公开内容的实施例的示例设备900的示意性框图。例如，根据本公开实施例的计算设备130和/或云设备140可以由设备900来实施。如图所示，设备900包括中央处理单元(cpu)901，其可以根据存储在只读存储器(rom)902中的计算机程序指令或者从存储单元908加载到随机访问存储器(ram)903中的计算机程序指令，来执行各种适当的动作和处理。在ram 903中，还可存储设备900操作所需的各种程序和数据。cpu 901、rom 902以及ram 903通过总线904彼此相连。输入/输出(i/o)接口905也连接至总线904。
138.设备900中的多个部件连接至i/o接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
139.上文所描述的各个过程和处理，例如过程800，可由处理单元901执行。例如，在一些实施例中，过程300可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由rom 902和/或通信单
元909而被载入和/或安装到设备900上。当计算机程序被加载到ram 903并由cpu 901执行时，可以执行上文描述的过程800的一个或多个动作。
140.本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本公开的各个方面的计算机可读程序指令。
141.计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
142.这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
143.用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如smalltalk、c 等，以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
144.这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
145.这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这
些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
146.也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
147.附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
148.以上已经描述了本公开的各实施方式，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施方式。在不偏离所说明的各实施方式的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施方式的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其他普通技术人员能理解本文披露的各实施方式。