基于大语言模型的自动化营销获客的智能体系统的制作方法

摘要: 本发明涉及智能营销,尤其涉及基于大语言模型的自动化营销获客的智能体系统。背景技术:1、随着大语言模型的快速发展,自动化营销获客系统开始引入智能体架构,通过分析用...
基于大语言模型的自动化营销获客的智能体系统的制作方法

本发明涉及智能营销,尤其涉及基于大语言模型的自动化营销获客的智能体系统。

背景技术:

1、随着大语言模型的快速发展,自动化营销获客系统开始引入智能体架构,通过分析用户的历史行为序列、商品状态变化以及多渠道交互记录,实时预测用户转化意向,生成个性化营销策略。用户行为序列建模是此类系统的核心环节,其准确性直接影响营销触达的转化率。

2、长短期记忆网络(lstm)及其变体被广泛用于序列建模任务。mogrifier lstm作为lstm的一种改进结构,通过在当前输入与上一时刻隐藏状态之间引入交替门控交互机制,增强了上下文信息的融合能力。然而,在自动化营销获客这一特定应用场景中,现有mogrifier lstm存在以下不足:其一,传统mogrifier lstm仅沿时间正向传播信息,无法利用最终转化结果反向推断促成转化的关键前序行为,导致归因解释性差;其二,现有模型仅建模用户单侧的行为轨迹,忽略了商品库存、优惠券状态、内容热度等商品侧特征的动态演化及其与用户行为的双向耦合关系,而营销获客中用户转化概率往往由双方状态共同决定;其三,门控交互的参数固定不变,无法适应不同用户、不同序列长度下的信息交互需求。

3、因此,亟需一种能够融合逆向因果推断与用户-商品双向耦合机制的mogrifierlstm改进方案,以提升自动化营销获客系统的预测准确性与归因可解释性。

技术实现思路

1、本发明的一个目的在于提出基于大语言模型的自动化营销获客的智能体系统,本发明充分结合用户正向与逆向mogrifier lstm、商品正向与逆向mogrifier lstm、必要性门控机制、曲率耦合调制模块、联合对比损失与流形对齐损失以及反事实干预求解算法,详细描述了自动化营销获客从用户行为与商品状态数据采集、双流正向逆向时序建模、曲率耦合双向演化、必要性门反事实回溯、联合损失优化训练到归因热力图输出的全过程,具备预测精度高、归因可解释性强、用户-商品耦合建模完整和适应非平稳营销环境的优点。

2、根据本发明实施例的基于基于大语言模型的自动化营销获客的智能体系统,包括:

3、用户正向mogrifier lstm模块,用于按时间顺序接收用户行为序列,输出用户正向隐藏状态;

4、用户逆向mogrifier lstm模块,用于按逆序接收用户行为序列,输出用户逆向隐藏状态;此模块使用必要性门替代标准遗忘门,必要性门输出值为1减激活函数值;

5、商品正向mogrifier lstm模块,用于按时间顺序接收商品状态序列,输出商品正向隐藏状态;

6、商品逆向mogrifier lstm模块,用于按逆序接收商品状态序列,输出商品逆向隐藏状态;此模块使用必要性门替代标准遗忘门,必要性门输出值为1减激活函数值;

7、曲率耦合调制模块,用于在每个时间步计算用户正向与商品正向隐藏状态的正向曲率耦合系数调制两个正向单元更新,计算用户逆向与商品逆向隐藏状态的逆向曲率耦合系数调制两个逆向单元更新;

8、联合损失计算模块,用于计算用户正向与逆向隐藏状态的对比损失、商品正向与逆向隐藏状态的对比损失、用户逆向与商品逆向隐藏状态的流形对齐损失;

9、联合解码器模块,用于接收四个隐藏状态,输出转化预测概率;

10、反事实干预求解模块,用于固定转化结果标签,通过逆向隐藏状态与曲率耦合系数迭代求解最小反事实干预,输出归因热力图。

11、可选的,所述用户正向mogrifier lstm模块的输出用户正向隐藏状状态具体包括:

12、将用户行为序列按时间顺序输入正向动态轮数子模块,此正向动态轮数子模块根据序列的长度和熵值计算出门控轮数,门控轮数为正整数,取值范围从1到预设最大值; 将当前时间步的输入向量与上一时间步的隐藏状态输入用户正向mogrifier lstm单元,同时输入计算得到的门控轮数; 将上一时间步的隐藏状态作为交互对象甲,将当前输入向量作为交互对象乙; 重复执行门控交互过程,次数等于门控轮数,每次交互中先使用交互对象甲经过线性变换和激活函数后的结果与交互对象乙相乘,再将交互对象乙经过线性变换和激活函数后的结果与交互对象甲相乘,交替更新交互对象甲和交互对象乙; 将经过全部门控轮数迭代后得到的最终交互对象乙作为候选输入,与上一时间步的隐藏状态共同进入长短期记忆单元的标准更新公式,输出当前时间步的用户正向隐藏状态。

13、可选的,所述用户逆向mogrifier lstm模块的输出用户逆向隐藏状态具体包括:

14、将用户行为序列按逆序时间顺序输入逆向动态轮数子模块,逆向动态轮数子模块根据逆序序列的长度和熵值计算出门控轮数,门控轮数为正整数,取值范围从1到预设最大值; 将当前逆序时间步的输入向量与上一逆序时间步的隐藏状态输入用户逆向mogrifierlstm单元,同时输入计算得到的门控轮数; 将上一逆序时间步的隐藏状态作为交互对象甲,将当前逆序时间步的输入向量作为交互对象乙; 重复执行门控交互过程,次数等于门控轮数,每次交互中先使用交互对象甲经过线性变换和激活函数后的结果与交互对象乙相乘,再将交互对象乙经过线性变换和激活函数后的结果与交互对象甲相乘,交替更新交互对象甲和交互对象乙; 将经过全部门控轮数迭代后得到的最终交互对象乙作为候选输入,与上一逆序时间步的隐藏状态共同进入长短期记忆单元的必要性门更新公式,其中必要性门的输出值为1减去激活函数值,输出当前逆序时间步的用户逆向隐藏状态。

15、可选的,所述商品正向mogrifier lstm模块的输出商品正向隐藏状态具体是:

16、将商品状态时间序列按时间顺序输入正向动态轮数子模块,正向动态轮数子模块根据序列的长度和熵值计算出门控轮数;

17、将当前时间步的商品输入向量与上一时间步的商品隐藏状态输入商品正向mogrifier lstm单元,交替门控交互过程更新后,输出当前时间步的商品正向隐藏状态。

18、可选的,所述商品逆向mogrifier lstm模块的输出商品逆向隐藏状态与所述用户逆向mogrifier lstm模块输出用户逆向隐藏状态的过程相同,输入数据替换为商品状态序列。

19、可选的,所述商品逆向mogrifier lstm模块的使用必要性门替代标准遗忘门具体包括:

20、必要性门的输出值等于1减去激活函数的输出值,其中激活函数输入为上一时间步的隐藏状态与当前输入向量的线性组合; 这个必要性门控制上一时间步的单元状态传递到当前时间步的比例,输出值越大表示遗忘越少; 在逆向时间传播中,当最终转化标签为正时,必要性门自动学习增大输出值,;当最终转化标签为负时,必要性门自动学习减小输出值。

21、可选的,所述曲率耦合调制模块计算正向曲率耦合系数,调制两个正向单元更新的过程包括: 在每个时间步获取用户正向隐藏状态向量与商品正向隐藏状态向量; 将两个向量拼接后输入一个双线性映射层,双线性映射层输出一个标量值,作为正向曲率耦合系数; 将正向曲率耦合系数与用户正向mogrifier lstm单元的标准更新方程中的候选记忆值相乘,得到修正后的用户正向候选记忆值; 同时将正向曲率耦合系数与商品正向mogrifier lstm单元的标准更新方程中的候选记忆值相乘,得到修正后的商品正向候选记忆值; 两个正向单元分别使用各自的修正后候选记忆值完成当前时间步的状态更新。

22、可选的,所述曲率耦合调制模块计算逆向曲率耦合系数,调制两个逆向单元更新的过程与计算正向曲率耦合系数,调制两个正向单元更新的过程相同,将用户正向与商品正向替换为用户逆向与商品逆向,将标准更新方程替换为必要性门更新方程。

23、可选的,所述联合损失计算模块的计算用户正向与逆向隐藏状态的对比损失、商品正向与逆向隐藏状态的对比损失、用户逆向与商品逆向隐藏状态的流形对齐损失具体包括:

24、对比损失计算单元,接收用户正向隐藏状态与用户逆向隐藏状态,以用户正向隐藏状态为锚点、用户逆向隐藏状态为正例、同一批次内其他隐藏状态为负例,输出用户对比损失值; 对比损失计算单元,接收商品正向隐藏状态与商品逆向隐藏状态,以商品正向隐藏状态为锚点、商品逆向隐藏状态为正例、同一批次内其他隐藏状态为负例,输出商品对比损失值; 流形对齐损失计算单元,接收用户逆向隐藏状态与商品逆向隐藏状态,将两者分别投影到单位超球面,计算投影后两个向量点积的负对数,输出流形对齐损失值; 总损失生成单元,将用户对比损失值、商品对比损失值、流形对齐损失值相加,作为反向传播的优化目标。

25、可选的,所述联合解码器模块的接收四个隐藏状态,输出转化预测概率具体包括:

26、将用户正向隐藏状态、用户逆向隐藏状态、商品正向隐藏状态、商品逆向隐藏状态在特征维度上首尾连接,形成一个组合特征向量; 使用两层全连接网络进行降维,第一层将组合特征向量的维度压缩为原始维度的一半,第二层将压缩后的向量映射为标量值; 对标量值应用sigmoid激活函数,输出介于0到1之间的转化预测概率。

27、本发明的有益效果是:

28、第一,通过设置用户逆向mogrifier lstm模块和商品逆向mogrifier lstm模块,采用必要性门替代标准遗忘门,实现了反事实回溯推理能力。当给定最终转化结果标签后,模型能够逆向推断出促成转化的必要前序用户行为与必要商品状态变化,解决了传统序列模型只能正向预测而无法逆向归因的问题。

29、第二,通过引入曲率耦合调制模块,在用户流形与商品流形之间建立双向耦合机制。每个时间步的正向曲率耦合系数和逆向曲率耦合系数分别调制两个流形的状态更新,使模型能够同时捕捉用户行为与商品动态的相互影响关系,例如库存下降对用户转化意愿的激发效应,提升了转化预测的准确性。

30、第三,通过联合损失计算模块中的对比损失与流形对齐损失,约束用户正向与逆向状态的一致性、商品正向与逆向状态的一致性以及用户逆向与商品逆向状态在流形空间的对齐,增强了模型在多时间尺度上的表征鲁棒性。

31、第四,通过反事实干预求解模块输出归因热力图,将最小反事实干预对应的时间轴、用户行为维度和商品属性维度上的关键事件以可视化形式呈现,为营销策略优化提供了直观、可操作的决策依据。