一种基于人工智能的移动设备屏幕内容实时审核方法与流程

摘要: 本发明涉及移动设备内容监管,具体涉及一种基于人工智能的无侵入式、隐私保护的移动设备屏幕内容实时审核方法。背景技术:1、随着移动互联网的普及,智能手机已成为信息获...
一种基于人工智能的移动设备屏幕内容实时审核方法与流程

本发明涉及移动设备内容监管,具体涉及一种基于人工智能的无侵入式、隐私保护的移动设备屏幕内容实时审核方法。

背景技术:

1、随着移动互联网的普及,智能手机已成为信息获取、学习和娱乐的核心设备。然而,移动设备的泛在化使用带来了内容监管的挑战,尤其在未成年人保护、企业设备管理和个人专注力辅助领域,如何有效识别和管控不当内容成为亟待解决的问题。

2、现有方案主要包括:基于关键词匹配的本地拦截,误判漏判严重;基于应用黑白名单管控,粒度粗,无法区分应用内不同界面;基于网络流量分析,需网络基础设施,对加密流量有限;基于应用内嵌sdk上报,需开发者配合,适用范围受限。此外,直接上传屏幕文本至云端存在隐私泄露风险,而单纯依赖云端大模型在无网络时完全失效。

3、综上所述,急需一种无需应用方配合、能进行细粒度语义理解,同时兼顾隐私保护和离线可用性的屏幕内容审核方案。

技术实现思路

1、本发明旨在解决现有技术中移动设备内容审核粒度粗、适用范围窄、隐私保护不足、离线不可用的问题,提供一种基于人工智能的移动设备屏幕内容实时审核方法。本发明通过将本地脱敏、分层智能分析与动态资源调度深度耦合,在源头保护隐私的同时,实现了高可靠、低功耗、可自愈的内容审核。

2、为实现上述目的,本发明提供以下技术方案:

3、一种基于人工智能的移动设备屏幕内容实时审核方法,包括通过移动设备的处理器执行程序指令,实现以下步骤:

4、步骤s1,通过无侵入式屏幕内容获取方式,在目标应用无感知的情况下获取移动设备前台界面的可读文本内容;所述无侵入式屏幕内容获取方式至少基于以下任一种实现:系统可访问性接口获取界面节点树、屏幕截图结合光学字符识别、系统级ui测试框架的节点查询。

5、步骤s2,基于预设策略选择至少一种模式提取文本内容:

6、模式一:基于合规记录动态计算时间间隔,根据历史合规评分动态调整采集间隔,遍历所有节点,收集节点的文本信息;其中,时间间隔的动态计算规则为:若最近预设次数的合规评分持续高于第一阈值,则延长间隔;若最近一次评分低于第二阈值,则缩短间隔并立即触发一次加密采集;

7、模式二:响应于前台切换至预设目标应用,根据所述目标应用对应的节点定位策略从界面中提取指定节点的文本内容;

8、所述方法还包括根据设备当前负载、网络状态及服务端下发的策略权重,动态调整所述模式一与模式二的资源配比和启动频率;当电池电量低于预设阈值或处于省电模式时,暂停模式一的全屏采集,仅保留模式二的事件驱动采集;当cpu使用率超过预设阈值时,降低模式一全屏采集遍历的节点数量上限。

9、步骤s3,在所述文本内容离开所述移动设备前,对提取的文本内容进行本地脱敏处理,将文本中预设类型的敏感实体替换为泛化标签,生成不包含原始敏感实体的脱敏后文本。

10、步骤s4,由所述移动设备上运行的轻量级分类器仅对所述脱敏后文本进行合规预判,将预判为合规的文本直接生成免审结果,仅将预判为可疑或不确定的脱敏后文本发送至服务端,由服务端调用大语言模型进行语义合规分析,生成多维合规审核结果;所述多维合规审核结果至少包括:语义合规度评分、风险类别标签、情感倾向值和年龄适宜度等级。

11、步骤s5,接收所述多维合规审核结果或所述免审结果,基于所述多个维度的加权综合值确定是否执行处置策略;其中,通过设备管理系统或家长控制接口获取当前使用者年龄区间,根据年龄区间自动调整所述加权综合值对应的预设阈值;当获取到的年龄区间低于预设年龄段时,上调所述预设阈值的严格程度。

12、其中,所述移动设备在无网络连接时,自动切换至设备端缓存的量化压缩版大语言模型进行本地合规审核,并缓存审核记录待网络恢复后同步至服务端复核;对于本地与云端审核结论不一致的样本,自动纳入服务端提示词迭代优化的训练集。

13、步骤s2中所述节点定位策略由服务端动态更新;当预设的节点定位策略连续失败时,自动采集当前界面的节点树结构摘要,所述摘要剔除原始文本内容、仅保留各节点的类名与层级关系,并上传至服务端;服务端通过预训练的ui理解大语言模型分析所述摘要,重新生成匹配目标节点的新定位策略后下发。

14、进一步地,步骤s4中服务端调用大语言模型时,根据应用类型选择对应的系统提示词模板构建分析请求;服务端定期收集误判案例,通过提示词微调或少量样本注入迭代优化所述提示词模板。

15、进一步地,步骤s5中所述处置策略包括:强制返回主屏幕、暂停目标应用预设时长、累计违规次数,并当累计次数达到阈值时触发远程设备锁定。

16、进一步地,所述模式一中,合规记录包含最近预设次数的历史语义合规度评分。

17、一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法。

18、一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现上述的方法。

19、一种基于人工智能的移动设备屏幕内容实时审核系统,包括移动设备和服务端,所述移动设备用于执行上述的屏幕内容实时审核方法,所述服务端包括:

20、通信模块,接收移动设备上传的脱敏后文本内容及提取模式标识;

21、ai分析服务模块,根据应用类型选择提示词模板,调用大语言模型进行语义合规分析,生成包含合规评分、风险类别、情感倾向值和年龄适宜度的多维审核结果;

22、策略处置模块,在所述基于合规记录动态计算时间间隔的全屏采集模式下,将审核结果持久化,根据历史记录计算违规趋势并触发多通道告警;

23、定位策略管理模块,接收移动设备上报的节点树结构摘要,通过预训练的ui理解大语言模型分析所述摘要,重新生成节点定位策略并下发。

24、与现有技术相比,本发明的有益效果包括:

25、1. 无需应用方配合,通过无侵入式内容获取实现即插即用的内容审核能力,适用范围广。

26、2. 引入本地脱敏处理机制,确保文本在离开设备端前已去除原始敏感实体,上传至服务端的仅为泛化标签替换后的脱敏文本,从源头保护用户隐私。

27、3. 采用设备端轻量级分类器与云端大语言模型协同的分层审核架构,轻量级分类器仅处理已脱敏文本,合规文本在本地直接通过,仅可疑脱敏文本上传云端,大幅降低网络带宽消耗和云端算力成本,同时提升了响应速度。

28、4. 事件驱动模式下的节点定位策略支持云端自学习动态更新,当目标应用界面版本更新导致定位连续失败时,系统自动采集剔除原始文本、仅含类名与层级关系的节点树结构摘要并上报,服务端通过预训练的ui理解大语言模型重新生成定位策略并下发,实现自愈式更新,确保方案长期有效。

29、5. 离线场景下自动切换至设备端缓存的量化压缩版大语言模型进行本地审核,保证无网络时审核功能仍可正常使用,网络恢复后同步至服务端复核,对于结论不一致的样本自动纳入训练集,兼顾鲁棒性与准确性。

30、6. 多维语义审核结果结合用户年龄自适应阈值,使处置决策更加精准合理。

31、7. 双模式协同运行及动态资源调度,根据设备负载、电量、网络状态优化性能,适应多场景使用需求,有效平衡审核效果与设备续航。