机器人认知系统及方法与流程

本申请涉及人工智能与机器人伦理，具体涉及一种机器人认知系统及方法。

背景技术：

1、近年来，家用服务机器人逐步从工具型设备向具备交互能力的共居伙伴演进。然而，现有系统缺乏基于交互经历持续演化的认知机制，难以形成统一且可成长的人格特质，导致长期共居中机器人的行为表现碎片化，此外，通用大语言模型依赖软约束进行伦理控制，易被恶意指令绕过，无法提供硬编码级别的安全防护。

技术实现思路

1、有鉴于此，本申请实施例提供了一种机器人认知系统及方法。

2、第一方面，本申请一实施例提供了一种机器人认知系统，包括：学习演化模块，部署于硬件隔离安全区之外，用于维护认知参数，并根据感知信息和认知参数生成行为决策，其中，认知参数随学习演化模块的交互经历而更新；伦理约束模块，部署于硬件隔离安全区，与学习演化模块通信连接，并预置有伦理规则，用于根据伦理规则对行为决策进行验证，以便将验证通过的行为决策发送至机器人的执行机构。

3、结合第一方面，在第一方面的某些实现方式中，学习演化模块包括认知决策层，认知决策层包括：语义记忆单元，用于存储服务对象的家庭规则；程序性记忆单元，用于存储机器人学习的技能，和/或将已存储的多个技能组合为新的技能并存储；情景记忆单元，用于存储机器人的交互经历；记忆巩固单元，用于在预设时段根据交互经历更新认知参数；以及，根据交互经历生成摘要信息，将摘要信息作为家庭规则存储至语义记忆单元；其中，记忆巩固单元还用于：根据已执行的行为决策与反事实替代行为之间的结果差异，调整程序性记忆单元中存储的技能所对应的参数。

4、结合第一方面，在第一方面的某些实现方式中，记忆巩固单元还用于：根据交互经历中的情感体验、服务对象的人格特征和外部评价信号中的至少一种，更新认知参数；其中，认知参数的更新幅度不超过第一阈值；和/或，根据行为决策对应的任务效能与伦理规则之间的约束关系，更新认知参数。

5、结合第一方面，在第一方面的某些实现方式中，记忆巩固单元还用于：根据执行行为决策后获得的奖励信号，更新认知参数中与偏好相关的参数；其中，偏好表征机器人在交互方式或环境选择上的倾向；和/或，当奖励信号的变化幅度低于第二阈值时，将偏好写入语义记忆单元。

6、结合第一方面，在第一方面的某些实现方式中，学习演化模块还包括情感计算层，用于维护认知参数中的情感坐标，其中，情感坐标表征机器人的愉悦程度、活跃程度及掌控程度；其中，情感计算层还用于：在情感坐标超出预设范围时，调节行为决策对应的动作执行频率或语音输出特征；和/或，根据检测到的服务对象的面部动作单元以及与交互经历中自身过往经历的相似度，调整情感坐标。

7、结合第一方面，在第一方面的某些实现方式中，学习演化模块还包括：镜像处理层，用于通过模仿学习习得人类的行为轨迹；以及，通过逆强化学习推断行为轨迹反映的奖励函数；认知决策层，用于将奖励函数与认知参数融合，生成个性化的行为策略。

8、结合第一方面，在第一方面的某些实现方式中，伦理规则包括：第一规则，用于防止机器人实施导致服务对象受到伤害的行为决策；第二规则，用于要求机器人在不违反第一规则的前提下，服从服务对象发出的指令；第三规则，用于允许机器人在不违反第一规则和第二规则的前提下，实施自身保护行为。

9、结合第一方面，在第一方面的某些实现方式中，伦理约束模块还用于：生成与行为决策对应的解释信息；将解释信息与验证通过的行为决策一并发送至执行机构。

10、结合第一方面，在第一方面的某些实现方式中，学习演化模块包括：低秩适配网络，用于将认知参数映射为大语言模型的低秩增量矩阵，以调整大语言模型的输出特性。

11、结合第一方面，在第一方面的某些实现方式中，学习演化模块还用于：在仿真环境中模拟价值冲突场景，根据价值冲突场景中的行为决策与伦理规则之间的差异，更新认知参数；和/或，按照预设的生命周期阶段，调整认知参数的更新速率或行为策略的探索倾向，其中，不同生命周期阶段对应不同的更新速率或探索倾向。

12、第二方面，本申请一实施例提供了一种机器人认知方法，应用于机器人认知系统，该系统包括学习演化模块和伦理约束模块，其中，学习演化模块部署于硬件隔离安全区之外，伦理约束模块部署于硬件隔离安全区并预置有伦理规则，该方法包括：

13、利用学习演化模块维护认知参数，并根据感知信息和认知参数生成行为决策，其中，认知参数随学习演化模块的交互经历而更新；利用伦理约束模块根据伦理规则对行为决策进行验证，以便将验证通过的行为决策发送至机器人的执行机构。

14、第三方面，本申请一实施例提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序用于执行第二方面所述的方法。

15、第四方面，本申请一实施例提供了一种电子设备，该电子设备包括：处理器；用于存储处理器可执行指令的存储器；该处理器用于执行第二方面所述的方法。

16、第五方面，本申请一实施例提供了一种计算机程序产品，该计算机程序产品包括指令，该指令在电子设备上执行时使电子设备实现第二方面所述的方法。

17、在上述方案中，一方面，学习演化模块部署于硬件隔离安全区之外，与固化伦理规则的伦理约束模块形成物理隔离，从而使认知参数能够在不受安全区内部约束机制干预的前提下，随交互经历持续更新，在保障伦理安全的同时保留了人格演化的自由度，同时支持机器人在长期共居环境中形成具有连续性的人格特质，有效解决传统方案中人格不一致与价值观对齐困难的问题。另一方面，伦理约束模块部署于硬件隔离安全区内，通过将伦理规则固化于受硬件保护的可信执行环境中，使验证逻辑无法被上层软件篡改或绕过，从而实现对行为决策的不可绕过的验证，确保任何最终发送至执行机构的行为决策均符合预设的安全边界。该架构从根本上消除了通用大模型因依赖软约束（如提示词工程）而易被注入攻击绕过的伦理不可控风险。

1.一种机器人认知系统，其特征在于，包括：

2.根据权利要求1所述的系统，其特征在于，所述学习演化模块包括认知决策层，所述认知决策层包括：

3.根据权利要求2所述的系统，其特征在于，所述记忆巩固单元还用于：

4.根据权利要求2所述的系统，其特征在于，所述记忆巩固单元还用于：

5.根据权利要求1所述的系统，其特征在于，所述学习演化模块还包括情感计算层，用于维护所述认知参数中的情感坐标，其中，所述情感坐标表征所述机器人的愉悦程度、活跃程度及掌控程度；

6.根据权利要求1所述的系统，其特征在于，所述学习演化模块还包括：

7.根据权利要求1所述的系统，其特征在于，所述伦理规则包括：

8.根据权利要求1所述的系统，其特征在于，所述伦理约束模块还用于：

9.根据权利要求1所述的系统，其特征在于，所述学习演化模块包括：

10.根据权利要求1所述的系统，其特征在于，所述学习演化模块还用于：

11.一种机器人认知方法，应用于机器人认知系统，所述机器人认知系统包括学习演化模块和伦理约束模块，其中，所述学习演化模块部署于硬件隔离安全区之外，所述伦理约束模块部署于硬件隔离安全区并预置有伦理规则，该方法包括：