基于敏感词识别的大模型输入输出量子动态加密推理方法、系统、设备及存储介质与流程

摘要: 本发明涉及人工智能大模型安全推理,尤其涉及一种基于敏感词识别的大模型输入输出量子动态加密推理方法、系统、设备及存储介质。背景技术:1、随着大语言模型(llm)在...
基于敏感词识别的大模型输入输出量子动态加密推理方法、系统、设备及存储介质与流程

本发明涉及人工智能大模型安全推理,尤其涉及一种基于敏感词识别的大模型输入输出量子动态加密推理方法、系统、设备及存储介质。

背景技术:

1、随着大语言模型(llm)在医疗、金融、政务等敏感领域的规模化应用,大模型推理过程中的数据隐私泄露风险成为制约行业落地的核心瓶颈。现有技术主要围绕大模型输入输出数据加密与敏感信息检测两大方向展开研究:现有技术的核心痛点总结:

2、1、安全性与性能的矛盾:全量加密安全性高但性能损耗大,固定粒度加密性能适中但语义保护不足,无法兼顾安全性、高性能与语义完整性;

3、2、敏感检测的准确性与适应性不足:单一规则检测无法识别语义级敏感表达,且更新成本高,无法适配动态变化的敏感场景;

4、3、密钥管理的动态性与安全性缺失:静态密钥机制无法应对密钥泄露风险,且权限管控不足,存在越权访问隐患;

5、4、多场景合规适配性差:现有技术未针对医疗、金融、政务等场景的差异化合规要求进行定制化设计,通用性不足。

技术实现思路

1、发明目的:提出一种基于敏感词识别的大模型输入输出量子动态加密推理方法、系统、设备及存储介质,通过双阶段敏感检测、动态混合加密、向量可逆偏移、动态密钥管理四大核心技术模块的协同创新,解决现有技术的缺陷,实现大模型推理的安全、高效、合规运行。

2、为实现上述目的,本发明提出的一种基于敏感词识别的大模型输入输出量子动态加密推理方法,包括如下步骤:

3、输入阶段:将用户输入文本输入双阶段敏感词检测模块,识别所述用户输入文本中的敏感词及敏感等级;通过敏感权重计算模块根据所述敏感词的类型与位置计算敏感权重;

4、加密阶段:根据所述敏感权重,通过量子动态混合加密模块选择对应的加密方式;通过hkdf向量偏移模块生成与用户身份、场景绑定的向量偏移量,并采用量子qkd协议对所述向量偏移量进行唯一性加密;将大模型输入原始向量与加密后的所述向量偏移量进行可逆偏移变换,得到加密输入向量;

5、推理阶段:将所述加密输入向量送入大模型进行推理,得到推理输出向量;对所述推理输出向量进行逆偏移变换,得到加密输出向量;

6、输出阶段:对所述加密输出向量进行解密还原,得到原始输出向量并返回给用户;

7、密钥管理阶段:通过密钥全生命周期管理模块为每个用户生成支持cv-qkd技术的量子加密专属密钥,实现密钥的动态更新与权限管控。

8、作为一个优选方案,所述双阶段敏感词检测模块采用双阶段敏感词检测算法,包括规则匹配阶段与语义分类阶段:所述规则匹配阶段基于正则表达式进行规则化敏感词匹配,实现已知敏感词的快速检测;所述语义分类阶段基于轻量级bert分类器进行语义级敏感词识别,实现未知敏感词的语义识别;所述轻量级bert分类器通过模型蒸馏技术压缩,参数量控制在100m以内。

9、作为一个优选方案,所述规则匹配阶段的正则模式匹配效率按下式计算:

10、

11、其中,为正则模式匹配效率,取值范围为;为匹配到的敏感词数量;为输入文本中的总敏感词数量;为正则匹配耗时,单位为ms;为正则匹配的最大允许耗时,单位为ms;当时,判定为匹配失败,匹配效率为0。

12、作为一个优选方案,所述量子动态混合加密模块根据所述敏感权重动态选择加密方式,所述加密方式包括同态加密、aes-256对称加密、明文传输以及量子qkd协议加密,实现按需加密而非全量加密。

13、作为一个优选方案,所述hkdf向量偏移模块生成向量偏移量的具体步骤为:通过hkdf的提取阶段与扩展阶段生成输出密钥材料作为向量偏移量,按下式计算:

14、

15、其中,okm为派生的输出密钥材料即向量偏移量,其长度与向量维度一致;为盐值,采用用户id的哈希值;为输入密钥材料即用户专属密钥,与用户身份绑定;为上下文信息,采用场景标识;为输出密钥材料的长度,单位为字节。

16、作为一个优选方案,所述可逆偏移变换通过逐位异或运算实现,按下式计算:

17、

18、其中,为加密后的向量;为大模型输入输出的原始向量;为逐位异或运算;okm为所述派生的向量偏移量;所述异或运算具有可逆性,保证加密向量可还原为原始向量。

19、作为一个优选方案,所述采用量子qkd协议对向量偏移量进行唯一性加密,具体基于bb84协议实现,包括:量子态制备与发送步骤,由发送方随机选择基和比特值制备对应量子态并发送;量子态传输与测量步骤,由接收方随机选择基进行测量;基比对与密钥提取步骤,双方公开比较基的选择,保留基匹配的比特形成原始密钥;利用未知量子态不可克隆特性保证所述向量偏移量的唯一性加密。

20、作为一个优选方案,所述推理阶段的逆偏移变换为所述可逆偏移变换的逆运算,将推理输出向量与所述向量偏移量再次进行逐位异或运算,还原得到加密输出向量。

21、作为一个优选方案,所述输出阶段的解密还原具体为:将加密输出向量与所述向量偏移量进行异或运算,还原为原始输出向量返回给用户;输出文本经二次敏感检测确认无敏感信息后返回。

22、作为一个优选方案,所述密钥全生命周期管理模块采用基于身份的密钥分发机制,包括密钥生成、密钥分发、密钥更新、密钥销毁与密钥审计:所述密钥生成步骤中,系统根据用户身份id与量子密钥中保留基匹配的原始密钥组合生成主密钥,采用sm4算法加密存储,由所述主密钥派生用户专属密钥并与用户权限绑定;所述密钥分发采用安全多方计算技术将所述用户专属密钥分发给用户与大模型推理节点,分发过程中不传输明文密钥。

23、作为一个优选方案,所述密钥更新步骤中设置密钥有效期,医疗场景为7天,金融场景为1天,政务场景为30天,有效期届满前自动触发密钥更新,旧密钥失效;所述密钥销毁步骤中,用户注销或权限变更时立即销毁对应的用户专属密钥,并更新密钥黑名单;所述密钥审计步骤中,记录所有密钥的操作日志,包括生成时间、分发对象、更新记录、销毁时间,满足合规审计要求。

24、此外,本发明还提出一种基于敏感词识别的大模型输入输出量子动态加密推理系统,该系统包括:

25、双阶段敏感词检测模块,用于对用户输入文本进行敏感词识别,输出敏感词及敏感等级;

26、敏感权重计算模块,用于根据所述敏感词的类型与位置计算敏感权重;

27、量子动态混合加密模块,用于根据所述敏感权重动态选择加密方式;

28、hkdf向量偏移模块,用于生成与用户身份、场景绑定的向量偏移量,对大模型输入输出向量进行可逆偏移变换,并采用量子qkd协议对所述向量偏移量进行唯一性加密;

29、密钥全生命周期管理模块,用于为每个用户生成支持cv-qkd技术的量子加密专属密钥,实现密钥的生成、分发、更新、销毁与审计全流程管理。

30、此外,本发明还提出一种电子设备,该电子设备包括处理器以及存储有计算机程序指令的存储器;所述处理器执行所述计算机程序指令时实现上述的基于敏感词识别的大模型输入输出量子动态加密推理方法。

31、此外,本发明还提出一种计算机可读存储介质,该存储介质中存储有至少一个可执行指令,所述可执行指令在电子设备上运行时,使得电子设备执行上述的基于敏感词识别的大模型输入输出量子动态加密推理方法。

32、与现有技术相比,本发明产生以下可量化的技术效果和商业价值:

33、(1)敏感检测性能提升:双阶段敏感词检测算法的召回率达到99.2%,较单一规则检测提升17.2%;推理延迟≤20ms,满足实时检测需求;模型参数量压缩至100m以内,内存占用降低70%。

34、(2)加密性能损耗降低:量子动态混合加密策略的推理延迟仅为全量同态加密的18%,吞吐量提升至全量加密的4倍;向量可逆偏移技术保证语义完整性,推理准确率较固定分块加密提升12%。对绑定的向量偏移量采用量子qkd协议中未知量子态不可克隆的特性进行唯一性加密,从而完成量子动态混合加密。

35、(3)安全防护能力增强:语义相似度攻击成功率降至0.3%以下,较现有技术降低97%;基于身份的密钥管理机制实现最小权限管控,密钥泄露风险降低至0.01%以下。

36、(4)多场景合规适配:兼容hipaa、pci-dss、等保2.0等主流合规标准,降低企业合规成本30%以上。

37、(5)商业价值显著:适用于医疗问诊、金融客服、政务咨询等敏感场景,可支撑大模型在高隐私要求领域的规模化落地,预计可提升大模型服务的市场渗透率20%以上。