一种基于云边协同大语言模型的涉诈APP检测系统

摘要: 本发明涉及计算机恶意软件检测领域,尤其涉及一种基于云边协同大语言模型的涉诈app检测系统。背景技术:1、涉诈app是指被用于实施或辅助实施电信网络诈骗活动的移动...
一种基于云边协同大语言模型的涉诈APP检测系统

本发明涉及计算机恶意软件检测领域,尤其涉及一种基于云边协同大语言模型的涉诈app检测系统。

背景技术:

1、涉诈app是指被用于实施或辅助实施电信网络诈骗活动的移动应用程序,其通常通过伪造业务身份、构造欺骗性交互界面、诱导用户授权敏感权限或隐藏真实业务目的等方式,完成诈骗行为的实施。与以恶意代码执行、数据窃取或系统破坏为主要特征的传统恶意应用相比,涉诈app通常不会直接表现出明显的恶意行为,而是将诈骗相关逻辑隐藏于看似正常的业务功能、页面交互以及动态加载或远程配置过程中。因此,涉诈app检测不仅需要分析应用是否具备潜在风险行为能力,还需要结合应用声明信息、运行时行为和业务语义,对多维特征之间的关联关系进行涉诈意图的综合分析。

2、现有app安全检测技术通常从app中提取权限、组件、意图或api等静态信息,并结合规则匹配、机器学习或深度学习模型进行分类。静态分析能够快速覆盖大量样本,便于从代码层面获取应用的声明身份、预置功能和潜在风险能力。然而,仅依赖静态信息难以确认相关权限、api与网络逻辑是否在运行时真正触发,也难以判断应用的静态声明与实际执行行为是否一致。尤其当app存在代码混淆、反射调用、动态加载等情形时,上述局限更为突出。

3、针对静态分析难以获取应用实际运行状态的问题,现有技术进一步采用动态分析方法,通过沙箱执行、运行时插桩、api监测和网络行为采集记录应用的真实执行过程。动态特征能够揭示运行过程中的敏感api调用序列、敏感数据访问以及网络连接与数据传输行为,为检测提供更接近实际运行状态的证据。现有研究虽已尝试融合静态与动态特征,但多停留于简单拼接,仍难以刻画二者之间的逻辑关系。

4、近年来,基于机器学习和深度学习的方法被用于融合app多维特征进行风险分类,但此类方法通常依赖人工设计特征表示,对于复杂业务逻辑、欺诈话术以及多源证据之间的关联关系语义分析能力有限。同时,大语言模型被引入应用安全分析,用于将app特征转化为更接近安全专家分析过程的语义解释。大语言模型在复杂欺诈语义分析和证据链组织方面具有优势,但若对所有待检测样本均执行云端大模型深度推理,则会产生较高的网络时延、算力消耗和服务成本,难以满足应用市场筛查、举报样本核验和监管检查等大规模场景的效率要求。边缘计算能够在靠近数据源的位置完成初步筛查,但边缘侧模型受参数规模和推理能力限制,面对特征复杂或证据边界不清的样本时容易出现误报或漏报。

技术实现思路

1、本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

2、本发明的主要目的在于提供一种基于云边协同大语言模型的涉诈app检测系统,用于解决现有涉诈app检测依赖静态证据难以识别真实欺诈意图,以及大语言模型推理开销较高的问题。本发明通过静态特征、动态特征和静动冲突特征构建综合特征画像,并通过边缘侧快速风险评分与云端深度证据链分析协同工作,可以实现对涉诈app的高效、准确、可解释检测。

3、为达上述目的,本发明实施例提出了一种基于云边协同大语言模型的涉诈app检测系统,包括:

4、综合特征画像构建模块,用于分别在离线训练阶段和在线检测阶段对app进行静态特征提取、动态特征提取及静动冲突特征分析,并将提取的静态特征、动态特征及静动冲突特征组织为结构化的综合特征画像;

5、云端模型离线训练模块,用于根据app训练样本对应的综合特征画像及专家研判报告构建监督微调训练数据,并利用所述监督微调训练数据对云端大语言模型进行监督微调;

6、边缘打分与卸载判定模块,用于将待检测app对应的综合特征画像输入边缘侧轻量大语言模型,获得所述待检测app的涉诈概率,并根据所述涉诈概率与预设不确定区间之间的关系,确定在边缘侧输出判定结果或者将所述综合特征画像卸载至云端;

7、云端深度研判模块,用于接收所述边缘打分与卸载判定模块卸载的综合特征画像,将所述综合特征画像输入经监督微调的云端大语言模型进行分阶段联合语义分析,并根据联合语义分析结果生成标准研判报告。

8、可选的,所述综合特征画像构建模块,用于:

9、对app的清单文件、字节码及可解析资源进行静态分析,提取应用权限、系统api、签名证书、硬编码网络资产及用户界面文本,形成静态特征;

10、在受控沙箱中运行所述app,通过运行时插桩记录敏感api调用序列,并采集网络通信记录,形成动态特征;

11、对所述静态特征与所述动态特征进行关联分析,获得静动冲突特征;

12、将所述静态特征、动态特征及静动冲突特征按照预设数据结构进行组织,形成所述综合特征画像。

13、可选的,所述综合特征画像构建模块在获得静动冲突特征时,用于:

14、对所述app的权限声明、运行时api调用及网络通信行为进行交叉分析;

15、确定所述app的静态声明信息与运行时执行行为之间的不一致关系或可疑关联关系;

16、将所述不一致关系或可疑关联关系标记为所述静动冲突特征。

17、可选的,所述云端模型离线训练模块,用于:

18、获取多个app训练样本对应的综合特征画像;

19、为每个所述app训练样本配置对应的专家研判报告,所述专家研判报告包括判别结论、关键观测事实及安全推理依据;

20、将所述app训练样本对应的综合特征画像作为模型输入,将对应的专家研判报告作为目标输出,形成所述监督微调训练数据;

21、根据所述监督微调训练数据对所述云端大语言模型进行监督微调。

22、可选的,所述边缘打分与卸载判定模块,用于:

23、接收待检测app,并调用所述综合特征画像构建模块生成所述待检测app对应的在线综合特征画像;

24、将所述在线综合特征画像序列化为结构化输入表示;

25、将所述结构化输入表示输入所述边缘侧轻量大语言模型进行风险评分,得到所述待检测app的涉诈概率。

26、可选的,所述边缘打分与卸载判定模块,还用于:

27、将所述涉诈概率分别与所述预设不确定区间的下界及上界进行比较;

28、当所述涉诈概率低于所述下界时,输出正常判定结果;

29、当所述涉诈概率高于所述上界时,输出涉诈判定结果;

30、当所述涉诈概率位于所述下界与所述上界之间时,输出不确定判定结果,并将所述待检测app对应的在线综合特征画像卸载至所述云端深度研判模块。

31、可选的,所述云端深度研判模块,用于:

32、接收所述边缘打分与卸载判定模块卸载的综合特征画像;

33、将所述综合特征画像作为云端深度研判的输入对象;

34、将所述综合特征画像输入经所述云端模型离线训练模块监督微调后的云端大语言模型;

35、控制所述云端大语言模型按照预设三阶段推理范式,对所述综合特征画像中的静态特征、动态特征及静动冲突特征进行联合语义分析。

36、可选的,所述预设三阶段推理范式包括:

37、意图解析阶段,基于所述静态特征和所述动态特征进行语义归纳,分析所述app的声明身份、业务形态及潜在风险行为意图;

38、逻辑对齐阶段,以所述意图解析结果为锚点,结合所述静动冲突特征,对所述app的静态声明信息与运行时执行行为进行交叉校验,识别身份伪装、隐蔽调用等风险;

39、涉诈判定阶段,综合所述意图解析阶段与所述逻辑对齐阶段的分析结果,输出正常或涉诈判定结论,并生成对应的观测事实、安全推理内容及证据链。可选的,所述云端深度研判模块,还用于:

40、根据所述联合语义分析结果生成所述标准研判报告;

41、其中,所述标准研判报告包括正常或涉诈判定结论、观测事实、安全推理内容及证据链。

42、本发明围绕涉诈app检测中静态证据不足、行为意图隐蔽以及全量云端大模型分析成本高的问题,提出一种静态特征、动态特征与静动冲突特征联合建模,并结合边缘快速评分和云端深度研判的协同检测方案。与现有技术相比,本发明实施例具有以下有益效果:

43、1)本发明构建了面向涉诈app的静态、动态和静动冲突特征建模方式,将应用声明信息、实际运行行为以及静态声明与动态执行之间的逻辑关系组织为统一的综合特征画像,使检测依据由孤立特征匹配扩展为面向涉诈意图识别的多源证据链,从而提高对伪装业务、隐蔽调用和运行时触发行为的识别能力。

44、2)本发明采用边缘侧风险评分与不确定区间卸载机制,由边缘侧轻量大语言模型对待检测app进行快速评估并得到涉诈概率;对于高置信度样本在边缘侧直接输出判定结果,对于处于不确定区间的样本再卸载至云端进行深度研判,从而在保持检测性能的同时减少全量样本云端大模型推理带来的计算开销和时延。

45、3)本发明利用经监督微调的云端大语言模型对不确定样本进行深度语义研判,使其按照预设的思维链推理范式对综合特征画像进行联合分析,并生成包含判定结论、观测事实、安全推理和证据链的标准研判报告,从而提高涉诈app检测结果的可解释性和可核验性。