融合演化策略的多智能体能力进化系统的制作方法
本发明涉及多智能体系统与进化计算,具体为融合演化策略的多智能体能力进化系统。
背景技术:
1、多智能体集群协同作业模式现已广泛落地于空间巡检、户外测绘、全域搜救等多类复杂工况场景,集群依靠多台设备同步感知环境、配合完成编队行进与指定任务执行,整体运行效果高度依赖协同策略的动态调整能力。实际作业过程中,集群持续面临静态障碍物阻隔、动态目标穿插、禁行区域限制、设备自身运动性能差异等多重约束条件,各类风险因素相互耦合叠加,极易在编队交互阶段引发空间冲突。现阶段主流优化思路依托演化算法迭代生成协同动作方案,通过持续更新策略种群提升集群任务完成水平,演化过程需要同步兼顾设备运行安全、编队协同效率与环境适配能力。各类感知定位设备能够实时采集设备运动状态与周边环境信息,为策略风险预判提供完整数据支撑,通信链路可实现集群内部数据互通,为全域约束统一判定提供传输基础,行业内普遍围绕感知数据利用、策略种群迭代、风险约束管控三个方向开展技术升级研究。
2、现有演化框架未建立前置化全域风险预判机制,仅在策略执行后识别碰撞、越界等安全问题,无法在策略生成阶段完成风险拦截,单台设备运动性能、感知范围存在区别却共用统一风险推演模型,难以精准量化个体动作带来的差异化违规风险,局部感知盲区会造成集群可行域划定存在偏差。现有种群筛选方法未建立综合合规量化机制,难以兼顾间距、违规代价等多元约束,仅依靠简单约束条件剔除样本,未设置多重重采样补偿机制,容易出现合规种群规模不足的问题。现有收益分配策略难以区分环境共性因素与个体独立贡献,难以精准区分单台设备的安全贡献,单一指标排序模式无法同步兼顾安全、效能与策略多样性。历史策略仅做简单存储,缺少标准化分类标签与结构化归档体系,场景切换时需要从零完成策略迭代,历史优质方案无法复用,拉长集群适配全新作业环境的调试周期。
技术实现思路
1、本发明的目的就是为了弥补现有技术的不足,提供了融合演化策略的多智能体能力进化系统,通过专属约束预测网络与无环通信拓扑生成安全可行域及个体违规代价;借助演化策略扰动生成候选种群,并利用耦合可行度算法剔除违规样本;采用差分奖励拆解全局安全贡献,实现个体信用精准量化,结合多维适配度聚合完成种群排序;依托量化行为描述子将安全策略归档为带标签的安全技能档案库;任务切换时通过槽位映射迁移高安全策略,经环境微调输出新场景最优协同策略。
2、本发明为解决上述技术问题,提供如下技术方案:融合演化策略的多智能体能力进化系统,该系统包括:
3、边界预判模块:采集多智能体集群实时运行状态与环境感知数据,为各智能体配置专属约束预测网络,依托无环连通通信拓扑共享安全边界与占用概率场信息,统一生成集群安全可行域判定基准与个体约束违规代价;
4、样本筛选模块:接收安全可行域判定基准与个体约束违规代价,依托演化策略扰动生成候选策略种群,通过耦合可行度求解算法量化策略安全合规水平,以固定阈值完成违规样本剔除与重采样操作,仅输出合规可行策略种群;
5、信用赋值模块:接收合规可行策略种群,借助差分奖励拆解全局安全贡献得到个体安全信用水平,采用多维适配度聚合算法计算策略协同演化聚合适配值并完成种群排序;
6、档案归档模块:接收排序后种群,依托量化行为描述子划分档案槽位完成安全策略归档,并为归档策略绑定安全标签形成安全技能档案库;
7、策略迁移模块:接收安全技能档案库,在任务环境切换后构建槽位映射对应关系,筛选高安全等级策略作为新任务演化初始个体,经环境交互微调输出适配新场景的最终协同策略。
8、进一步地,所述边界预判模块中,多智能体集群实时运行状态包含单设备三维空间坐标、瞬时行进速度、三轴加速度、当前待执行动作指令、机身物理外形轮廓尺寸、剩余可用能源容量、通信链路延时参数,依靠搭载的北斗定位模组、惯性测量单元、电机驱动反馈回路直接实时读取;环境感知数据包含静态障碍物坐标轮廓、禁入区域矢量边界、地面高程起伏数据、动态障碍物移动轨迹、作业空间可通行范围,通过激光雷达、视觉成像设备、毫米波探测传感器完成周边环境全域扫描采集,所有采集数据做时间戳对齐预处理后输入约束预测网络。
9、更进一步地,所述专属约束预测网络为每一台智能体独立部署的前馈拟合网络,该网络采用三层全连接结构,隐含层神经元数量为128,激活函数选用relu,输出层采用线性激活,训练优化器为adam,学习率设置为0.001,训练批量大小为64,通过历史约束触碰事件数据离线训练,在线运行时仅做输出层权重微调;网络输入端接入设备自身实时运行参数、周边感知环境数据以及待执行候选动作序列,中间层级完成多智能体交互耦合影响特征提取,输出端直接输出对应动作的个体约束违规代价;网络采用本地离线训练加在线小幅微调的更新方式,训练样本来源于历史运行过程中发生间距不足、闯入禁行区、违规动作等约束触碰事件的行为记录,不同智能体搭载的网络参数依据自身外形尺寸、运动性能、感知量程差异化配置,不采用全局统一参数,保证对单个体动作违规风险推演的针对性。
10、更进一步地,所述边界预判模块中,集群安全可行域判定基准由全部智能体共享的个体安全间距下限、禁入地理范围、动作禁止条目、动态障碍规避缓冲区叠加形成,依托无环连通通信拓扑完成所有个体边界信息交叉核验,该拓扑基于分布式生成树算法构建,采用周期性邻居发现与心跳检测机制维护连通性,链路中断时自动触发重计算,确保通信无环且连通,剔除局部感知盲区带来的偏差内容后统一划定全域可执行动作与空间范围,所述全域可执行动作与空间范围划定方式为:以场地静态禁行坐标为基础边界,叠加动态障碍物实时外扩缓冲距离划定空间边界,再对加减速幅值、转向角度、编队交互时序等动作类型逐条匹配允许执行清单,剔除清单外的危险动作类型,最终闭合形成连续可通行空间区域与合规动作集合;个体约束违规代价由单台智能体专属约束预测网络输入采集的运行状态与环境感知数据推演得出,对应量化个体拟执行动作引发集群碰撞、越界闯入禁行区、触发违规动作的风险等级,风险等级量化依照触碰边界类型进行层级划分,近距离机间重叠判定为高层级风险,驶入禁行区域判定为中层级风险,执行禁用动作判定为基础层级风险,同时结合距离边界的偏移距离做层级内细分赋值,所有个体约束违规代价汇总后反向修正集群安全可行域判定基准的边界冗余量,所述边界冗余量为在安全可行域判定基准基础上额外增设的缓冲裕度空间,其数值依据汇总后的个体约束违规代价的总体层级动态调整,采用分段线性映射:设汇总违规代价总和为c,边界冗余偏移距离,其中为最大允许冗余偏移距离,α为比例系数,β为截距,α和β均依据作业场景的约束敏感度预先标定;当c低于阈值clow时δ=0,clow为低风险违规代价阈值;当c高于chigh时δ=,chigh为高风险违规代价阈值,中间呈线性插值,汇总违规代价越高,则边界冗余量越大,即安全可行域向内收缩的程度越大,以预留更高的安全容错空间;反之则减小冗余量,以释放更多可通行作业区域,判定基准用于后续策略样本合规性统一校验,违规代价作为动作风险高低的量化依据。
11、更进一步地,所述样本筛选模块中,样本筛选模块内演化策略扰动生成候选策略种群具体执行方式为:以多智能体上一轮迭代留存的优质协同策略作为基准母体,采用全域扰动的方式对每台智能体独立动作参数、编队相对位置参数、任务执行时序参数进行偏移处理,扰动浮动区间设定为基准参数原值的包含端点的3%至12%,单次迭代批量生成数量固定的联合执行方案作为候选基础样本;扰动过程针对集群去中心化运行特征为每个个体独立分配扰动向量,全部扰动生成的整套联合动作方案共同构成完整候选策略种群,生成过程全程在边缘设备分布式并行完成,对连续型动作参数做偏移处理,对离散型动作指令做有限类别随机替换。
12、更进一步地,所述样本筛选模块中,耦合可行度求解算法的数学表达式为:,式中为多智能体联合策略集群耦合安全可行度,其取值范围为[0,1],数值越接近1表示策略贴合集群安全可行域的程度越高、合规性越强;为约束预测网络输出的单条扰动策略总约束违规代价;为预先设定的最大可容忍违规代价上限;n为集群内部智能体整体数量;为第i台智能体与相邻个体实时最小空间间隔距离;为硬性设定的最小安全间隔临界值;为编队运行允许的最大间距上限;为间距约束衰减调控系数,用于控制间距偏离对可行度影响的敏感程度,取值限定在[0.2,0.5],取值越小,单个间距异常对整体可行度的削弱越缓,用于削弱单一个体间距异常对整体可行度计算结果的过度干扰,当 ≤时取0,当 ≥时取1,样本筛选将计算所得≥0.95作为准入标准,未达标的策略直接剔除并启动最多三次二次重采样操作,所述二次重采样操作具体为:对未通过可行度阈值的候选策略,以该策略扰动前的基准母体策略为起点,在较原始扰动区间缩小的浮动范围内(收缩至基准参数原值的1%至5%)重新施加扰动并再次代入耦合可行度求解算法计算值,以逐步引导候选策略向安全合规区域收敛;若本轮重采样后仍不满足阈值,则继续收缩扰动范围进行下一轮重采样,直至达到最大重采样次数,重采样后依旧无法满足阈值的扰动策略直接永久舍弃,保障进入信用赋值的全部种群均满足集群交互硬性安全约束,规避多智能体动态运行过程中的碰撞、越界等违规行为。
13、更进一步地,所述信用赋值模块中,差分奖励依托集群整体安全收益与个体行为损耗的差值逻辑完成全局安全贡献拆解,以合规可行策略种群的整体集群安全运行收益为全局基准,结合各智能体实时空间占位状态、动作执行偏差、间距维持精度及违规约束冗余度,区分不同个体在集群协同避障、间距维持、边界合规运行中的差异化贡献权重,剥离集群协同增益中的公共基础收益部分,剔除环境共性因素带来的收益叠加干扰,精准拆分出单一个体独立安全贡献量,同时结合个体历史行为信用基线完成偏差修正,抵消集群同质化动作带来的贡献平均化问题,最终差异化输出每台智能体对应的个体安全信用水平,该个体安全信用水平为归一化取值,区间为[0,1],分值越高代表该智能体在集群协同过程中独立承担的安全贡献越大、动作合规性越强,该信用水平不仅用于信用赋值模块内部的双层排序校正,同时传递至档案归档模块作为策略绑定标签,为后续策略调取时评估个体执行风险提供量化依据,实现全局安全收益到个体贡献的精准拆解与量化分配。
14、更进一步地,所述信用赋值模块中,多维适配度聚合算法的数学表达式为:,式中为策略协同演化聚合适配值,作为种群排序、槽位替换、迁移遴选唯一判定指标;为多智能体联合策略集群耦合安全可行度;为安全约束强化指数,取值范围[1.1,1.4],对安全偏低的策略施以指数级数值压缩,筑牢安全优先的底层逻辑;为任务收益权重系数,取值[0.4,0.7],用于调节任务完成度与行为新颖度的偏重比例;为多智能体联合执行任务的全局完成收益;为归一化行为新颖度表征量,通过当前策略行为描述子与档案存量槽位描述子向量夹角余弦值换算获得,取值区间[0,1],数值越高代表协同行为模式新颖性越强,档案归档依靠数值完成槽位内新旧策略更替,策略迁移依靠完成存档策略择优调取,实现安全、效能、多样性三维目标统一管控。
15、更进一步地,所述种群排序依托个体安全信用水平与策略协同演化聚合适配值构建双层排序评价体系,以各策略对应的多维聚合适配值为核心排序权重,以个体安全信用水平作为辅助校正依据,对合规可行策略种群内所有策略样本进行全域层级排布;优先依据聚合适配值的数值高低完成首轮降序初排,同步结合单策略对应集群内各智能体的安全信用均值修正排序偏差,修正策略个体信用失衡、局部协同适配度虚高的排序误差,剔除单一维度评价带来的片面性,精准区分不同策略的协同优化能力与安全稳定等级,最终输出有序分层的策略种群序列。
16、更进一步地,所述档案归档模块中,安全策略归档依托预设结构化档案槽位体系完成精细化分类存储,对排序完成的合规策略种群进行全域特征提取,精准捕获策略对应的集群协同构型、安全约束适配参数、个体动作特征与环境适配特性,将不同特征属性的可行策略自动匹配至对应专属档案槽位,完成差异化归类收纳;归档过程同步完成策略数据结构化封装,固化策略的协同运行参数、安全可行度指标、个体信用评价数据与环境适配场景信息,保证每一组归档策略均具备完整可追溯的行为数据链路,同时完成冗余策略清洗与同类策略择优留存,剔除低效、同质化策略样本,最终完成多智能体安全协同策略的标准化、层级化归档存储,搭建可随时调用的优质策略资源储备。
17、更进一步地,所述档案归档模块中,安全技能档案库为整合多智能体各类合规协同安全策略、具备场景适配分类能力与安全等级标识的结构化策略存储数据库,由划分槽位归档的优质安全策略统一集成构建而成;其依托量化行为描述子完成策略特征归类归档后,对每一份入库策略绑定对应的安全风险等级、场景适配类型、协同适配度阈值、个体信用评分、策略迭代版本专属安全标签,通过标签实现策略安全属性、适用工况、性能优劣的精准标定,所述安全风险等级依据策略可行度数值梯度划分,分为低风险、中风险、合规最优三级,以可行度0.95、0.98为分级判定阈值;所述场景适配类型按照静态障碍环境、动态障碍环境、密集集群编队、稀疏任务编队四类作业工况精准划分;所述协同适配度阈值统一设定为不低于0.95的系统准入基准值,用于界定策略协同合规下限;所述个体信用评分为各智能体差分奖励拆解得到的归一化信用分值,取值区间为0至1,分值越高代表个体安全执行能力越强;所述策略迭代版本按照种群演化迭代次数顺序编码标注,区分初代基础策略、迭代优化策略、最优留存策略,实现策略迭代溯源;所述量化行为描述子为由策略的编队构型向量、动作参数向量、环境特征向量拼接而成的固定长度特征向量,用于策略相似度度量与槽位划分;其中,编队构型向量通过对各智能体相对位置坐标进行多维缩放降维后提取主成分得到;动作参数向量由各智能体连续动作参数的统计均值、方差及离散动作指令的独热编码组合构成;环境特征向量通过对感知范围内的障碍物分布进行栅格化计数并归一化处理后得到。三者拼接后形成统一维度的描述子向量;档案库内部涵盖不同编队模式、不同作业场景、不同规避策略的全套智能体协同执行方案及对应的安全评价数据、约束合规记录、演化迭代参数,可实现策略精准检索、调用、复用与迭代更新,为多智能体后续在线自适应进化、动态安全决策提供标准化历史策略资源支撑。
18、更进一步地,所述策略迁移模块中,最终协同策略为适配全新任务环境、满足集群安全约束、具备最优协同性能的多智能体成套联合执行策略,以安全技能档案库中筛选出的高安全等级历史优质策略为初始迭代个体,依托档案槽位与新任务环境的映射对应关系完成策略场景初步适配匹配;其中,槽位映射采用特征向量余弦相似度计算:提取新任务环境特征向量与各档案槽位特征描述子,计算夹角余弦值作为相似度得分,得分高于0.8的槽位视为可映射,选取得分最高的前3个槽位作为候选;择优规则:从候选槽位中筛选安全风险等级为“合规最优”的策略,并按聚合适配值ω降序排列,选取ω值最高的策略作为迁移初始个体;在新任务环境下通过智能体实时环境交互采集动态工况数据,对初始迁移策略的编队位置参数、动作执行时序、障碍规避尺度进行微小自适应微调,微调步长采用动态调整策略:初始步长设为基准值的5%,每轮迭代后根据安全可行度ψ的变化率自适应调整,若ψ提升则步长乘以1.1,若ψ下降则步长乘以0.9,并限制在[1%,10%]区间内;同时设置终止迭代判定指标:当连续5轮迭代中策略聚合适配值ω的提升幅度小于0.5%且安全可行度ψ达到0.98以上,或达到最大迭代次数(预设200轮)时终止;同步结合新场景安全可行域基准与约束违规代价完成策略合规性复判,剔除适配偏差参数并迭代优化协同适配度,消除历史策略与全新场景的适配断层,经多轮环境交互修正、安全校验与性能优化后,生成完全贴合新任务环境特征、兼顾运行安全性与协同高效性的最终协同策略,以此支撑多智能体在切换场景下的稳定自适应作业。
19、与现有技术相比,该融合演化策略的多智能体能力进化系统具备如下有益效果:
20、一、本发明通过安全前置校验架构搭建完整策略演化风控链路,依托全域数据感知与个体专属约束预测网络统一划定集群安全可行域,从源头量化各类动作对应的违规风险,同步借助分布式扰动生成与耦合可行度求解机制完成策略样本筛选,批量剔除存在安全隐患的策略样本并配套重采样机制稳定合规种群供给。整套链路将安全约束嵌入策略演化全流程,区分多层级风险实现代价量化,消除局部感知盲区带来的边界判定偏差,避免集群运行中碰撞、越界、违规动作等问题。同时去中心化并行生成候选策略能够充分适配多智能体集群分布式运行特性,提升策略迭代效率,统一的合规校验标准保障所有参与演化的策略均满足安全约束,强化集群动态作业过程的运行稳定性。
21、二、本发明通过个体差分信用拆解与多维适配度聚合评价体系实现策略多维度量化排序,兼顾集群全局任务收益、个体安全贡献与行为模式多样性,规避单一评价维度造成的策略筛选片面问题,依托结构化槽位归档体系构建带多维标签的标准化安全技能档案库,完成冗余同质化策略清洗并留存差异化优质协同方案。环境切换阶段依托槽位映射关系调取高安全等级历史策略作为演化初始个体,结合实时环境交互完成参数自适应微调并复判安全合规性,打通历史策略跨场景复用通道。整套机制实现安全、作业效能、行为多样性协同管控,降低新场景下策略从头演化的迭代成本,提升集群跨工况自适应调整速度,为多智能体持续自主进化与动态安全决策提供可靠历史策略支撑。
22、本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com