一种基于三级匹配与数字对齐的边缘端智能设备工具分发方法及系统与流程
本发明涉及边缘计算、自然语言处理及工业自动化控制,具体涉及一种在离线边缘设备上通过混合匹配策略实现高可靠、低延迟的设备工具参数分发方法。
背景技术:
1、在工业中控、智能展厅、多媒体教室等场景中,常需通过语音指令控制多种设备(如切换视频源、开关大屏、调节音量)。传统方案依赖云端大模型进行意图理解和函数调用(function calling),但边缘端部署的小参数量语言模型(如qwen-2.5 1.7b/4b)直接生成json格式指令时,极易出现格式错误或输出不存在的工具名称(即“指令幻觉”),且端到端延迟可达数秒,无法满足实时控制需求。
2、同时,大量设备名称及通道编号高度相似(如“视频流1”“视频流2”“大屏1”“大屏2”),常规语义向量模型(embedding)在计算相似度时,无法区分数字编号差异,极易将“大屏1”误匹配为“大屏2”,造成严重误操作。现有技术中,虽有基于文本相似度匹配的方案,但缺乏针对数字编号的硬对齐机制,且匹配策略单一,无法兼顾召回率与精确率。
技术实现思路
1、本发明旨在解决上述痛点,提供一种不依赖大模型生成、完全在边缘端离线运行的工具分发方法,通过三级级联匹配保证高召回,通过数字安全对齐锁保证绝对精准,实现50ms内的零幻觉控制指令分发。
2、技术方案
3、为实现上述目的,本发明采用如下技术架构(如图1所示):
4、业务锚点中文数字归一化:定义业务名词锚点集合,使用正则表达式仅转换紧随锚点的中文数字,避免将“一下”“一会”等日常词汇误转为数字,保证输入文本的准确性。
5、三级级联匹配引擎:
6、第一级(正向子串匹配)——若用户输入完整包含工具关键词,直接命中,优先级最高,用于精确指令。
7、第二级(反向子串比率匹配)——针对asr丢字情况,若用户输入的有效字符在候选关键词中占比≥70%,视为匹配,提高容错性。
8、第三级(本地embedding匹配)——前两级失效时,使用onnx runtime加载bge-small-zh-v1.5模型计算语义相似度,相似度≥0.70时命中。
9、数字安全对齐锁:在执行第三级匹配前,提取用户输入和候选工具中的所有数字序列,强制比较两者是否完全一致(顺序相同)。若不一致,直接熔断,阻止误匹配;若一致,才允许通过相似度计算。
10、防冲突与分差过滤:对同一设备组的多个动作(如“开灯”“关灯”)聚类去重,只保留最高分;若最高分与次高分之差大于0.05,则忽略次高,防止级联触发。
11、有益效果
12、零幻觉:不依赖大模型生成,完全规避了json格式错误和虚假工具名问题。
13、高安全:数字对齐锁从物理层面杜绝通道编号混淆,即使语义高度相似,数字不同则绝不分发。
14、低延迟:全程离线本地计算,平均分发时延<50ms,较双轮大模型推理缩短98%。
15、高容错:反向子串匹配弥补asr丢字,embedding兜底语义泛化。
1.一种基于三级匹配与数字对齐的边缘端智能设备工具分发方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的方法,其特征在于:所述业务名词锚点集合至少包括“大屏、屏幕、视频流、设备、通道、摄像头、场景”。
3.根据权利要求1所述的方法,其特征在于:所述反向子串比率匹配中的预设阈值默认为0.7,该阈值可配置以适应不同语音识别精度。
4.根据权利要求1所述的方法,其特征在于:所述轻量化向量模型为bge-small-zh-v1.5,以onnx格式部署,通过cpu的onnx runtime执行推理。
5.根据权利要求1所述的方法,其特征在于:所述第三级匹配的安全相似度阈值默认为0.70,超过该阈值方认为语义相近。
6.根据权利要求1所述的方法,其特征在于:所述数字集合完全一致是指提取出的数字列表元素相同且顺序一致;对于无数字的情形,视为空集对齐。
7.根据权利要求1所述的方法,其特征在于:所述同组前缀冲突去重基于工具关键词的公共前缀进行聚类,同一聚类内仅执行评分最高的动作,避免硬件短路。
8.根据权利要求1所述的方法,其特征在于:所述方法完全部署于嵌入式边缘设备本地,不依赖任何云端服务,全部计算在离线状态下完成。
9.一种采用权利要求1至8任一项所述方法的边缘端智能设备工具分发系统,其特征在于,包括:
10.根据权利要求9所述的系统,其特征在于:所述系统运行于基于rk3588或同等算力的边缘控制主板上,工具配置库以json格式存储于本地存储介质中。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com