基于向量数据库的基因生物知识轻量化检索方法和装置与流程

本发明涉及生物信息学，尤其涉及一种基于向量数据库的基因生物知识轻量化检索方法和装置。

背景技术：

1、随着高通量测序技术的飞速发展，基因生物数据呈指数级增长，包括海量的基因序列数据、繁杂的生物医学文献以及丰富的蛋白质功能域注释数据。如何从这些多模态、大规模的数据中快速、准确地检索出用户所需的知识，已成为当前生物信息学研究的热点问题。

2、传统的基于关键词的检索方法往往无法处理语义复杂的查询，且难以挖掘基因序列与功能语义之间的深层联系。近年来，基于稠密向量的语义检索技术逐渐兴起，它能够将数据映射到低维向量空间，通过计算向量相似度来实现语义匹配。然而，基因生物数据具有高维、稀疏和多模态的特点，直接使用通用的向量检索模型存在以下问题：

3、1）计算资源消耗大：现有的预训练大模型虽然提取特征能力强，但参数量巨大，推理速度慢，难以满足实时检索需求。

4、2）存储成本高：基因生物知识库规模庞大，直接存储高维浮点型向量对内存和存储空间要求极高。

5、3）量化精度损失：现有的向量量化索引方法（如乘积量化）通常对向量各维度采用均等的比特位分配，忽略了不同维度特征对于检索重要性的差异，导致检索精度下降。

6、4）上下文信息缺失：现有的检索方法仅关注查询与候选文档的直接匹配，忽略了基因实体在生物知识图谱中的复杂关系网络，导致检索结果的相关性排序不够精准。

7、因此，亟需一种能够兼顾检索效率、存储成本与检索精度的轻量化基因生物知识检索方法。

技术实现思路

1、本发明提供了一种基于向量数据库的基因生物知识轻量化检索方法和装置。本发明解决了现有技术存在的计算资源消耗大、存储成本高、量化精度损失以及上下文信息缺失的问题。

2、第一方面，本发明实施例提供了一种基于向量数据库的基因生物知识轻量化检索方法，方法包括：

3、根据基因序列数据集、生物医学文献数据集以及蛋白质功能域注释数据集，构建包括若干结构化知识元组的基因生物多模态知识库和对应的基因生物知识图谱；

4、使用基于功能域感知的双流注意力编码模型，分别提取每一结构化知识元组中基因序列的局部语法特征与功能域的全局语义特征，融合并通过知识蒸馏生成轻量化稠密向量；

5、构建基于重要性感知的自适应乘积量化索引，计算每一轻量化稠密向量中各维度特征的信息熵，根据信息熵动态分配量化比特位进行量化处理，并将得到的量化后的轻量化稠密向量存入向量数据库；

6、接收用户的查询字符串，生成查询向量，在向量数据库中进行混合索引检索，得到初始候选集；

7、基于图谱上下文增强的重排序机制，结合候选实体在基因生物知识图谱中的邻居节点属性，对初始候选集进行重排序，得到最终检索结果。

8、本技术实施例提供的技术方案至少带来以下有益效果：

9、在双流注意力编码模型引入知识蒸馏模块，使用参数量精简的学生模型替代庞大的预训练大模型进行推理。在保留了预训练大模型强特征提取能力的同时，显著降低了模型的参数量和计算复杂度，从而大幅提高了推理速度，满足了实时检索的需求；基于重要性感知的自适应乘积量化索引，将原本高维浮点型的稠密向量转换为紧凑的索引代码进行存储，这种量化处理大幅压缩了向量的存储空间，有效降低了对内存和存储硬件资源的要求，使得系统能够低成本地应对基因生物知识库庞大的规模；根据各维度特征的信息熵动态分配量化比特位，相比传统方法对各维度采用均等比特分配，能够为包含丰富信息的高熵维度分配更多比特位，从而保留关键的区分性特征，有效减少了因量化压缩带来的精度损失，在相同存储成本下显著提升了向量检索的精度；采用图谱上下文增强的重排序机制，利用图注意力网络聚合候选实体在基因生物知识图谱中的邻居节点属性，使得检索过程不再局限于查询与候选文档的直接匹配，而是引入了生物体内的复杂关系网络作为上下文校准，有效解决了语义偏差问题，显著提高了最终检索结果的相关性和准确性。

10、在一种可选的实现方式中，根据基因序列数据集、生物医学文献数据集以及蛋白质功能域注释数据集，构建包括若干结构化知识元组的基因生物多模态知识库和对应的基因生物知识图谱，包括：

11、采集基因序列数据集、生物医学文献数据集以及蛋白质功能域注释数据集，并进行预处理，得到清洗后的基因序列集合、生物医学文献文档集合以及蛋白质功能域标签集合；

12、将清洗后的基因序列集合中的基因序列与对应的生物医学文献文档集合中的文本描述和蛋白质功能域标签集合中的功能域标签基于唯一标识符进行关联对齐，得到每一基因的结构化知识元组，并构建若干结构化知识元组的基因生物多模态知识库；

13、使用基于自然语言处理算法构建的生物医学命名实体识别模型，从生物医学文献文档集合中抽取若干命名实体和若干实体关系；

14、根据若干命名实体和若干实体关系，构建对应的基因生物知识图谱。

15、在一种可选的实现方式中，所述双流注意力编码模型包括输入编码模块、序列流transformer编码器、功能域流transformer编码器、交叉注意力融合模块、知识蒸馏模块以及归一化与输出生成模块。

16、在一种可选的实现方式中，所述知识蒸馏模块以包含完整参数的所述双流注意力编码模型作为教师模型，以结构精简的轻量化模型作为学生模型；

17、在训练阶段，使用预先收集的训练样本集合，基于联合优化损失函数，对教师模型和学生模型进行知识蒸馏训练，得到训练好的学生模型。

18、在一种可选的实现方式中，所述联合优化损失函数的公式为：

19、

20、式中，为联合优化损失值；为知识蒸馏损失值；为三元组损失值；为权重平衡系数。

21、在一种可选的实现方式中，使用基于功能域感知的双流注意力编码模型，分别提取每一结构化知识元组中基因序列的局部语法特征与功能域的全局语义特征，融合并通过知识蒸馏生成轻量化稠密向量，包括：

22、将基因生物多模态知识库中每一结构化知识元组输入至基于功能域感知的双流注意力编码模型；

23、使用输入编码模块，对结构化知识元组中的基因序列进行滑动窗口切分，得到词序列，以及对同一结构化知识元组中的功能域标签进行嵌入，得到功能域嵌入向量序列；

24、使用序列流transformer编码器，提取词序列的局部语法特征；

25、使用功能域流transformer编码器，提取功能域嵌入向量序列的全局语义特征；

26、将局部语法特征作为查询向量，将全局语义特征作为键向量和值向量，使用交叉注意力融合模块，基于交叉注意力机制，将功能域特征注入到序列特征中，并计算得到的融合特征的隐藏状态，并取[cls]令牌对应的隐藏状态作为融合特征向量；

27、在推理阶段，使用训练好的学生模型，生成融合特征向量的轻量化输出特征向量；

28、使用归一化与输出生成模块，对轻量化输出特征向量进行特征池化、维度投影以及l2归一化，将轻量化输出特征向量转换为轻量化稠密向量。

29、在一种可选的实现方式中，构建基于重要性感知的自适应乘积量化索引，计算每一轻量化稠密向量中各维度特征的信息熵，根据信息熵动态分配量化比特位进行量化处理，并将得到的量化后的轻量化稠密向量存入向量数据库，包括：

30、基于设定的全局聚类数，对所有轻量化稠密向量进行全局k-means聚类，生成全局聚类中心集合，并为每个全局聚类中心构建倒排链表，将轻量化稠密向量分配至距离最近的倒排链表中；

31、基于设定的子空间数量，将每一轻量化稠密向量沿维度方向切分为对应数量的子向量，并整合所有轻量化稠密向量的同一子向量作为子矩阵，得到子矩阵集合；

32、根据子矩阵集合中各维度特征，计算每一子空间的信息熵，并根据信息熵，动态分配用于量化每一子空间的比特位；

33、根据每一子空间的比特位，确定对应的子聚类中心数，并使用k-means 聚类算法，对对应的子矩阵进行聚类，生成对应数量的子聚类中心，得到子聚类中心集合；

34、将子聚类中心集合中每一子空间的所有子聚类中心的码字进行组合，得到每一子空间的码本；

35、根据训练好的码本，将倒排链表中的轻量化稠密向量转换为紧凑的索引代码，得到量化后的轻量化稠密向量；

36、将量化后的轻量化稠密向量、全局聚类中心集合以及倒排链表的索引信息存入预先构建的向量数据库，并构建向量数据库索引。

37、在一种可选的实现方式中，接收用户的查询字符串，生成查询向量，在向量数据库中进行混合索引检索，得到初始候选集，包括：

38、接收用户输入的查询字符串，并映射为token序列；

39、将token序列输入至所述双流注意力编码模型的训练好的学生模型，生成查询向量；

40、计算查询向量与聚类中心集合中每一聚类中心的欧氏距离，访问欧氏距离小于欧氏距离阈值的若干目标聚类中心的倒排链表，取出其中包含的所有候选向量 id，形成粗选集合；

41、将查询向量沿维度切分为若干查询子向量，对于每一子空间，计算查询子向量与对应码本中各子聚类中心的距离，生成距离查找表；

42、基于距离查找表，根据候选向量的索引代码，通过查表累加各子空间的距离，得到查询向量与粗选集合中候选向量的近似距离；

43、根据近似距离，对粗选集合进行排序，筛选出质量最高的部分结果作为初始候选集。

44、在一种可选的实现方式中，基于图谱上下文增强的重排序机制，结合候选实体在基因生物知识图谱中的邻居节点属性，对初始候选集进行重排序，得到最终检索结果，包括：

45、对于初始候选集中每一候选实体，在基因生物知识图谱中进行 1-跳或 2-跳邻居采样，得到若干邻居节点，并将候选实体和对应的若干邻居节点构成局部子图；

46、将每一候选实体和实体类型为基因的若干邻居节点对应的轻量化稠密向量作为初始节点特征，将实体类型为非基因的其他邻居节点的文本描述语义特征作为初始节点特征，得到每一子图的初始节点特征矩阵集合；

47、将每一子图的初始节点特征矩阵集合输入至图注意力网络，生成对应的富含上下文信息的候选节点增强特征向量；

48、使用余弦相似度或点积计算查询向量与每一候选节点增强特征向量的相似度，并根据相似度，对初始候选集进行重排序，并选择得到的重排序候选集前若干候选实体作为最终检索结果。

49、第二方面，本发明实施例提供了一种基于向量数据库的基因生物知识轻量化检索装置，用于实现基因生物知识轻量化检索方法，装置包括：

50、多模态知识库构建单元，用于根据基因序列数据集、生物医学文献数据集以及蛋白质功能域注释数据集，构建包括若干结构化知识元组的基因生物多模态知识库和对应的基因生物知识图谱；

51、功能域感知编码单元，用于使用基于功能域感知的双流注意力编码模型，分别提取每一结构化知识元组中基因序列的局部语法特征与功能域的全局语义特征，融合并通过知识蒸馏生成轻量化稠密向量；

52、自适应量化索引单元，用于构建基于重要性感知的自适应乘积量化索引，计算每一轻量化稠密向量中各维度特征的信息熵，根据信息熵动态分配量化比特位进行量化处理，并将得到的量化后的轻量化稠密向量存入向量数据库；

53、混合检索单元，用于接收用户的查询字符串，生成查询向量，在向量数据库中进行混合索引检索，得到初始候选集；

54、图谱增强排序单元，用于基于图谱上下文增强的重排序机制，结合候选实体在基因生物知识图谱中的邻居节点属性，对初始候选集进行重排序，得到最终检索结果。

55、本发明实施例第三方面提出一种电子设备，电子设备包括：

56、至少一个处理器；以及，与至少一个处理器通信连接的存储器；其中，

57、存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本发明实施例第一方面提出方法。

58、本发明实施例第四方面提出一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例第一方面提出方法。