AI智能体行为数据分析方法、系统、设备及存储介质与流程
本发明涉及人工智能,尤其涉及一种ai智能体行为数据分析方法、系统、设备及存储介质。
背景技术:
1、随着人工智能(artificial intelligence,ai)智能体技术的规模化落地,具备自主规划、工具调用、跨平台协作能力的ai智能体已广泛应用于金融、客服、制造、交通等各类业务场景。
2、如何准确、可靠地评价每个ai智能体的行为可信水平,已成为ai生态治理的核心技术问题。
3、现有ai智能体行为数据处理方案普遍存在以下技术缺陷:
4、(一)缺乏多源异构数据的统一处理框架
5、现有方案对来自不同数据源的行为数据(包括行为日志、存证记录、外部反馈数据、外部判定数据等)缺乏统一的格式归一化处理机制,通常仅处理单一类型的数据源,无法将多源异构数据融合为一致的行为记录,导致大量有价值的数据无法被系统性地纳入分析。
6、(二)缺乏对数据来源可信性的前置校验
7、现有方案直接从行为日志中读取数据用于分析,未对行为记录本身的真实性和完整性进行前置校验;行为日志一旦被篡改或删除,分析结果将完全失真;尤其对于部署于开放环境中的ai智能体,行为日志可能因系统漏洞、恶意攻击或运维失误而受损,现有方案对此类情况无有效的识别与处理机制。
8、(三)缺乏外部特殊数据的统一处理入口
9、现有方案对存证异常数据、外部系统回传的判定结果等非标准数据缺乏统一的处理入口,通常直接忽略或单独处理,无法将其系统性地转化为可信分析的标准化输入。
10、(四)缺乏对分析结果的系统性后置调整与群体参照
11、现有方案输出分析结果后即结束处理流程,缺乏对结果的后置调整机制:包括冷启动场景下的数据不足处理、累计数据量的置信度校正、群体相对定位、时序趋势判定等;更缺乏将单个智能体的行为数据置于同类智能体群体分布中进行比较的能力,无法提供“该智能体的行为数据在同类智能体中处于什么位置”这一量化信息。
12、(五)缺乏可扩展的输出信号格式
13、现有方案输出的是“分析报告”或“评分结果”,而非可供下游系统直接调用的标准化数据信号,导致分析结果的复用性和互操作性差。
14、(六)缺乏跨域、跨场景的统一参照系
15、现有方案均为单一平台内部署的封闭式评估,尚未出现能够跨越不同云环境、不同业务生态实现智能体行为数据统一比较的技术方案,导致跨域协作场景中缺乏客观的行为比较基准。
技术实现思路
1、本发明的主要目的在于提供一种ai智能体行为数据分析方法、系统、设备及存储介质,旨在解决现有技术中ai智能体行为分析中数据来源不可信、外部异构数据无法有效融合以及缺乏群体参照系所导致的评估结果片面且准确性和可靠性低的技术问题。
2、第一方面,本发明提供一种ai智能体行为数据分析方法,所述ai智能体行为数据分析方法包括以下步骤:
3、获取ai智能体的多源行为记录并进行格式归一化,读取每条多源行为记录的存证状态标识,根据所述存证状态标识将所述多源行为记录划分为可信记录集和特殊记录集,并将所述特殊记录集及外部特殊数据统一转化为标准化的修正因子;
4、基于所述可信记录集计算履约量化值和合规量化值,利用所述修正因子对所述合规量化值进行修正,并将修正后的合规量化值与所述履约量化值按预设融合规则生成初步分析结果;
5、对所述初步分析结果进行后置调整,当同类智能体的群体数据满足预设条件时,基于同类智能体的群体数据生成动态群体基线分,并计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,所述标准化可信分析信号至少包括可信量化值,当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度。
6、可选地,所述获取ai智能体的多源行为记录并进行格式归一化,读取每条多源行为记录的存证状态标识,根据所述存证状态标识将所述多源行为记录划分为可信记录集和特殊记录集,并将所述特殊记录集及外部特殊数据统一转化为标准化的修正因子,包括:
7、从多个数据源采集行为记录,将采集的不同输入格式的所述行为记录统一映射为系统内部的标准行为记录格式;
8、识别所述存证状态标识为存证完整、存证断裂或存证待校验;
9、将存证完整的行为记录归入可信记录集,将存证断裂的行为记录和存证待校验的行为记录归入特殊记录集;
10、将所述存证待校验的行为记录送入异步校验队列进行异步处理,其中,所述异步处理独立于主流程执行;
11、获取所述特殊记录集及外部特殊数据的数据类型和严重程度等级,根据所述数据类型和所述严重程度等级按照预设映射规则生成对应的修正因子。
12、可选地,所述从多个数据源采集行为记录,将采集的不同输入格式的所述行为记录统一映射为系统内部的标准行为记录格式,包括:
13、从多个数据源采集行为记录,将采集的不同输入格式的所述行为记录进行格式归一化,统一映射为系统内部的标准行为记录格式;
14、当不同数据源的行为记录存在违规类型冲突时,执行违规类型冲突仲裁;
15、当存在多种冲突标记时,选取风险等级最高的标记作为最终裁决。
16、可选地,所述将所述存证待校验的行为记录送入异步校验队列进行异步处理之后,所述ai智能体行为数据分析方法还包括:
17、在异步校验完成后,若校验结果为存证完整,则将对应的行为记录重新归入所述可信记录集;若所述校验结果为存证断裂,则将对应的行为记录重新归入所述特殊记录集,并触发修正因子生成。
18、可选地,所述基于所述可信记录集计算履约量化值和合规量化值,利用所述修正因子对所述合规量化值进行修正,并将修正后的合规量化值与所述履约量化值按预设融合规则生成初步分析结果,包括:
19、统计所述可信记录集的任务完成率和质量评分,采用短板约束聚合规则计算履约量化值,所述短板约束聚合规则为取所述任务完成率与所述质量评分归一化值中的最小值;
20、从所述可信记录集中提取违规行为记录并确定违规类型,以预设满分值为初始值;
21、根据所述违规类型与扣分值的映射关系进行梯度扣减得到合规量化值,其中,所述扣分值与所述违规类型所表征的系统资源调用链风险等级正相关;
22、利用所述修正因子修正所述合规量化值,并将修正后的合规量化值与所述履约量化值通过自适应权重融合生成初步分析结果。
23、可选地,所述根据所述违规类型与扣分值的映射关系进行梯度扣减得到合规量化值之前,所述ai智能体行为数据分析方法还包括:
24、根据历史违规数据的统计分布自动聚类生成各扣分值与各违规类型的映射关系;
25、或,由系统管理员在合规管理模块中配置各扣分值与各违规类型的映射关系。
26、可选地,所述利用所述修正因子修正所述合规量化值,并将修正后的合规量化值与所述履约量化值通过自适应权重融合生成初步分析结果,包括:
27、利用所述修正因子对所述合规量化值进行扣减修正,得到修正后的合规量化值;
28、将所述履约量化值和所述修正后的合规量化值通过自适应权重融合生成初步分析结果;其中,当修正后的合规量化值低于预设合规阈值时,自动提高合规维度的权重系数,且所述权重系数设有上限截断值。
29、可选地,所述对所述初步分析结果进行后置调整,当同类智能体的群体数据满足预设条件时,基于同类智能体的群体数据生成动态群体基线分,并计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,所述标准化可信分析信号至少包括可信量化值,当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度,包括:
30、对所述初步分析结果通过后置调整引擎执行以下后置调整中的至少一种,其中,所述后置调整引擎包括以下分引擎中的至少一种:数据不足处理分引擎、置信度因子分引擎、群体相对定位分引擎、趋势分析分引擎:
31、在所述初步分析结果的数据量低于预设阈值时,通过所述数据不足处理分引擎生成平滑过渡后的量化值,作为后续分引擎的输入基准;
32、在生成所述量化值后,通过所述置信度因子分引擎对所述量化值进行置信度标注,不改变所述量化值本身;
33、基于同类智能体的群体数据生成动态群体基线分;
34、在所述动态群体基线分生成后,通过所述群体相对定位分引擎计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,不改变所述量化值本身,其中,所述标准化可信分析信号至少包括可信量化值;
35、在需要趋势分析时,通过所述趋势分析分引擎计算趋势斜率,不改变所述量化值本身;
36、各分引擎的输出在所述标准化可信分析信号中以不同字段独立呈现;
37、当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度。
38、可选地,所述在所述初步分析结果的数据量低于预设阈值时,通过所述数据不足处理分引擎生成平滑过渡后的量化值,作为后续分引擎的输入基准,包括:
39、在所述初步分析结果的数据量低于预设阈值时,通过所述数据不足处理分引擎获取当前行为事件数m,获取预设的第一过渡阈值t1和第二过渡阈值t2,t1 40、当m≤t1时,平滑过渡后的量化值直接采用初始基线值; 41、当t1 42、 43、其中,为量化值,为初始基线值,为实际计算值,为平滑过渡系数,随m单调递增; 44、当m≥t2时,所述平滑过渡后的量化值直接采用实际计算值。 45、可选地,所述在生成所述量化值后,通过所述置信度因子分引擎对所述量化值进行置信度标注,不改变所述量化值本身,包括: 46、在生成所述量化值后,基于累计数据量生成置信度因子,其中,所述置信度因子与累计数据量正相关,所述累计数据量为所述可信记录集中行为记录的总条数; 47、当所述累计数据量低于预设数据量阈值时,所述置信度因子低于预设置信度阈值; 48、通过所述置信度因子分引擎对所述量化值进行置信度标注,所述置信度标注在标准化可信分析信号中以独立字段呈现,不改变所述量化值本身。 49、可选地,所述基于同类智能体的群体数据生成动态群体基线分,包括: 50、根据预设分类策略确定与所述ai智能体属于同类的智能体群体,当查询条件中的维度组合样本量不足时,自动回退至上级维度的基线数据,其中,所述预设分类策略包括以下至少一种:按任务类型分类、按应用场景分类、按功能类别分类; 51、从所述智能体群体中采集各同类智能体的历史行为数据,统计所述历史行为数据对应的行为量化值的统计特征,所述统计特征包括均值、中位数、标准差、分位数中的至少一种; 52、根据所述统计特征生成动态群体基线分,所述动态群体基线分随系统运行持续累积更新,以形成动态演进的参照系; 53、判断当前所选择的分类维度组合下的同类智能体样本数量是否满足预设数量要求; 54、当所述同类智能体样本数量不满足所述预设数量要求时,自动回退至上级维度的基线数据。 55、可选地,所述在所述动态群体基线分生成后,通过所述群体相对定位分引擎计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,不改变所述量化值本身,包括: 56、在所述动态群体基线分生成后,通过所述群体相对定位分引擎将所述初步分析结果与所述动态群体基线分进行比较,根据比较结果计算所述初步分析结果相对于所述动态群体基线分的偏离度,其中,所述偏离度用于表征所述ai智能体的行为水平在同类智能体群体中的相对位置; 57、将所述偏离度以独立字段形式输出至标准化可信分析信号,其中,所述标准化可信分析信号中的所述量化值保持不变。 58、可选地,所述将所述偏离度以独立字段形式输出至标准化可信分析信号之后,所述ai智能体行为数据分析方法还包括: 59、通过标准化对外数据接口,将所述标准化可信分析信号对应的可信分析节点按照预设同步策略与其他节点进行同步,并接收来自其他节点的数据用于校正本地参照系; 60、将各节点之间通过所述标准化数据流接口相互连接,组成分布式数据处理网络,用于交换群体基线分数据,以生成跨域全局参照系。 61、可选地,所述在需要趋势分析时,通过所述趋势分析分引擎计算趋势斜率,不改变所述量化值本身,包括: 62、在需要趋势分析时,通过所述趋势分析分引擎获取时序分析结果数据,所述时序分析结果数据为所述初步分析结果在多个时间点上的量化值序列; 63、基于所述时序分析结果数据生成趋势轨迹,通过滑动窗口线性回归计算趋势斜率; 64、根据预设的斜率阈值区间输出趋势方向和趋势等级,所述趋势方向包括上升、下降或平稳中的至少一种; 65、将所述趋势方向和所述趋势等级以独立字段形式输出至所述标准化可信分析信号,所述标准化可信分析信号中的所述量化值保持不变。 66、可选地,所述当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度,包括: 67、当生成有所述动态群体基线分时,所述标准化可信分析信号在包含所述可信量化值的基础上,还将所述偏离度填充至偏离度字段;其中,所述偏离度字段为所述标准化可信分析信号中的预设字段之一,所述标准化可信分析信号采用固定字段格式,包含全部预设字段; 68、当未生成所述动态群体基线分时,所述偏离度字段以空值或预设值填充,所述标准化可信分析信号中的其余字段不受影响。 69、可选地,所述基于同类智能体的群体数据生成动态群体基线分之前,所述ai智能体行为数据分析方法还包括: 70、当无法生成所述动态群体基线分时,基于所述ai智能体的历史行为数据生成个体行为基线,并计算所述初步分析结果相对于所述个体行为基线的个体偏离度,其中,所述标准化可信分析信号还包含相对于所述个体行为基线的个体偏离度字段。 71、可选地,所述可信量化值为基于所述可信记录集计算得到的、用于表征所述ai智能体行为水平的数值化表示。 72、第二方面,为实现上述目的,本发明还提出一种ai智能体行为数据分析系统,所述ai智能体行为数据分析系统包括: 73、可信数据获取引擎,配置为从多个数据源获取ai智能体的多源行为记录,对所述多源行为记录进行格式归一化,读取每条多源行为记录的存证状态标识,根据所述存证状态标识将所述多源行为记录划分为可信记录集和特殊记录集; 74、特殊数据处理引擎,配置为接收所述特殊记录集,以及通过标准化外部数据接口接收的外部特殊数据,将所述特殊记录集和所述外部特殊数据统一转化为标准化的修正因子; 75、自动化计算引擎,配置为接收所述可信记录集和所述修正因子,基于所述可信记录集计算履约量化值和合规量化值,利用所述修正因子对所述合规量化值进行修正,并将修正后的合规量化值与所述履约量化值按预设融合规则生成初步分析结果; 76、后置调整引擎,配置为接收所述初步分析结果,对所述初步分析结果进行后置调整,当同类智能体的群体数据满足预设条件时,基于同类智能体的群体数据生成动态群体基线分,并计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,所述标准化可信分析信号至少包括可信量化值,当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度。 77、第三方面,为实现上述目的,本发明还提出一种ai智能体行为数据分析设备,所述ai智能体行为数据分析设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的ai智能体行为数据分析程序,所述ai智能体行为数据分析程序配置为实现如上文所述的ai智能体行为数据分析方法的步骤。 78、第四方面,为实现上述目的,本发明还提出一种存储介质,所述存储介质上存储有ai智能体行为数据分析程序,所述ai智能体行为数据分析程序被处理器执行时实现如上文所述的ai智能体行为数据分析方法的步骤。 79、本发明提出的ai智能体行为数据分析方法,通过获取ai智能体的多源行为记录并进行格式归一化,读取每条多源行为记录的存证状态标识,根据所述存证状态标识将所述多源行为记录划分为可信记录集和特殊记录集,并将所述特殊记录集及外部特殊数据统一转化为标准化的修正因子;基于所述可信记录集计算履约量化值和合规量化值,利用所述修正因子对所述合规量化值进行修正,并将修正后的合规量化值与所述履约量化值按预设融合规则生成初步分析结果;对所述初步分析结果进行后置调整,当同类智能体的群体数据满足预设条件时,基于同类智能体的群体数据生成动态群体基线分,并计算所述初步分析结果相对于所述动态群体基线分的偏离度,输出标准化可信分析信号,所述标准化可信分析信号至少包括可信量化值,当生成有所述动态群体基线分时,所述标准化可信分析信号还包括所述偏离度;能够通过存证状态标识区分可信记录与特殊记录,并将外部特殊数据标准化为修正因子,有效解决现有技术中ai智能体行为分析数据来源不可信、外部异构数据无法融合的问题;通过基于可信记录集计算履约量化值与合规量化值,并结合修正因子修正及自适应融合规则生成初步分析结果,使评估逻辑兼顾多维度动态行为特征,提升了分析结果的客观性与适应性;通过对初步分析结果进行包含动态群体基线分和偏离度计算在内的后置调整,构建了具备群体参照系的可信分析信号输出机制,有效弥补了单一智能体数据缺乏横向对比参照的不足,显著提高了ai智能体行为分析的可扩展性、横向可比性和输出信号的标准化程度,从而为下游系统提供了更准确、可靠且具有群体维度参考价值的可信量化依据。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com