一种基于随机矩阵理论与双路径Transformer表征融合的智能电表异常用电检测方法

本发明涉及一种基于随机矩阵理论与双路径transformer表征融合的智能电表异常用电检测方法，属于智能电网、异常用电检测、智能电表数据分析与机器学习领域。

背景技术：

1、随着高级量测体系和智能电表的大规模部署，电力公司能够持续采集用户日用电量、小时用电量以及更高频率的用电数据。智能电表数据能够反映用户长期用电习惯、短期负荷波动、季节性变化、节假日用电差异以及异常负荷变化情况，是开展窃电识别、计量异常排查、设备故障发现和异常负荷接入监测的重要数据基础。异常用电行为不仅会造成电力企业经济损失，还会影响台区线损分析准确性，增加营销稽查和运维排查成本，严重时可能影响配电网运行安全。因此，如何从大规模、高噪声、长周期的智能电表时间序列中准确识别异常用户，是智能电网数据分析、电力营销稽查和配电网精细化管理中的重要技术问题。

2、现有异常用电检测技术主要包括人工特征驱动的机器学习方法、无监督异常检测方法、深度学习时序建模方法以及多模型融合方法。

3、人工特征驱动的机器学习方法通常基于用户历史用电数据构造均值、方差、峰谷差、负荷率、零值比例、缺失比例、前后周期差异、趋势下降幅度、季节性统计量和跨用户排名等特征，再利用 logistic regression、support vector machine、random forest、xgboost、lightgbm 或 catboost 等分类器进行异常用户识别。该类方法实现简单、训练效率较高，对表格型用电行为特征具有较好适应性，部分特征还具有较强业务可解释性。然而，该类方法的检测效果高度依赖人工特征设计，难以自动学习长周期用电序列中的深层时序表征。对于渐进式异常、间歇式异常、后期缓慢下降、季节性波动掩盖异常以及不同用户用电规模差异显著的情况，仅依靠统计特征往往难以充分表达异常行为。同时，该类方法通常将每个用户视为独立样本，主要关注个体用电行为变化，对用户群体用电矩阵中隐含的结构性偏离信息利用不足。

4、在异常标签稀缺或人工标注成本较高的场景下，无监督异常检测方法也被用于异常用电筛查。该类方法通常基于孤立程度、局部密度、距离偏离、聚类结果或重构误差判断用户是否异常。例如，部分方法将用电行为指标进行权重分配后，引入 isolation forest模型，根据样本在特征空间中的孤立程度识别异常用户；也有方法利用鲁棒聚类思想，对用户用电曲线或用电行为特征进行相似性划分，并根据用户偏离所属群体的程度判断异常。上述方法能够在缺少异常标签的条件下完成初步筛查，具有一定工程应用价值。然而，无监督方法通常依赖预先构造的统计指标、距离度量、密度估计、孤立假设或聚类结构，检测结果容易受到特征尺度、用户用电规模差异、异常比例和阈值设定的影响。对于隐蔽窃电、渐进式异常、后期缓慢下降以及与正常用户行为相近的异常用电模式，仅依靠孤立程度或聚类偏离程度难以稳定区分正常行为差异与真实异常行为，容易产生误报或漏报。

5、随着深度学习技术的发展，现有技术中已有方法尝试利用深度神经网络对高维能耗数据或电力大数据中的异常用电行为进行识别。该类方法通常将用户用电序列、用电统计特征或多维能耗特征作为输入，通过神经网络学习用电数据与异常状态之间的非线性映射关系，从而提高模型对复杂用电模式的表达能力。与传统机器学习方法相比，深度学习方法能够在一定程度上减少对人工特征组合的依赖，并能够从原始序列或聚合序列中提取较高层次的用电行为表征。例如，卷积神经网络能够提取局部用电波动特征，循环神经网络、长短期记忆网络和门控循环单元能够建模时间依赖关系，transformer 类模型能够通过自注意力机制刻画长周期序列中的全局关联。

6、然而，现有深度学习异常用电检测方法仍存在不足。一方面，部分方法主要基于单用户用电序列或固定维度特征向量进行建模，关注用户自身用电曲线变化，对跨用户相对排名、群体行为差异和用户整体用电矩阵中的结构性偏离利用不足。另一方面，不同深度时序模型各有局限：卷积类模型偏重局部模式提取，对跨周期长期依赖刻画不足；循环类模型在长周期序列中训练效率较低，且容易受到长期依赖建模能力限制；单一路径transformer 虽然具备全局建模能力，但缺少针对邻近周期内连续下降、短期突变和间歇置零等局部异常模式的显式约束。此外，智能电表数据中普遍存在缺失值、零值、季节性波动、用户用电规模差异和异常样本比例较低等问题，若仅依赖单一深度模型，容易受到数据噪声、样本分布变化和类别不平衡影响，导致检测结果稳定性不足。

7、多模型融合方法通过组合多个分类器或多个特征来源提高异常用电检测性能。现有融合方法通常将传统机器学习模型、深度学习模型或无监督检测器的输出结果进行加权平均、投票融合、排序融合或堆叠融合，以降低单一模型对样本划分、特征扰动和参数选择的敏感性。该类方法能够在一定程度上提升检测稳定性，但若各模型使用的输入特征来源相似，或仅在分类结果层面进行简单融合，则难以充分发挥不同特征视角之间的互补作用。特别是对于同时包含个体用电变化、群体结构偏离、局部连续异常和长期趋势变化的复杂异常用电场景，简单结果融合仍难以全面刻画异常行为。

8、综上，现有异常用电检测技术虽然能够在一定程度上实现异常用户筛查，但仍存在以下技术缺陷：第一，传统机器学习方法依赖人工特征工程，难以自动学习长周期用电序列中的深层时序表征；第二，无监督检测和聚类方法主要依赖距离度量、孤立假设、聚类结构或异常阈值，对用户用电模式差异和隐蔽异常行为较为敏感；第三，现有深度学习方法多从单用户角度建模，缺少对用户群体结构偏离信息的有效利用；第四，现有单一路径时序模型难以同时捕获邻近周期内的局部连续异常和跨周期长期依赖；第五，现有融合方法多停留在模型结果层面，对人工特征、群体谱结构特征和深度时序表征之间的互补关系利用不足；第六，真实智能电表数据中缺失值、零值、季节性波动和类别不平衡问题突出，单一模型难以在复杂实际场景下保持稳定检测性能。

技术实现思路

1、本发明目的在于针对现有智能电表异常用电检测技术中存在的人工特征表达不充分、缺失值和零值异常利用不足、用户群体结构偏离刻画不足、局部异常与长期依赖难以兼顾、单一模型泛化稳定性不足以及类别不平衡场景下异常用户识别能力受限等问题，提出一种基于随机矩阵理论与双路径transformer表征融合的智能电表异常用电检测方法。该方法通过多源用电行为特征构建，刻画用户个体统计特征、缺失零值模式、趋势偏离、跨用户排名、季节性变化和多尺度变点；通过随机矩阵理论对用户群体月度用电矩阵进行谱分解，提取群体结构偏离特征；通过局部窗口注意力分支和全局自注意力分支组成的双路径 transformer，同时捕获邻近周期内的连续异常波动和跨周期长期依赖；最后将人工特征、随机矩阵理论增强特征和深度时序表征融合，并利用 catboost、xgboost 和 lightgbm加权集成完成异常判别。由此提高模型对隐蔽异常、渐进式异常、缺失零值异常和群体结构偏离异常的识别能力。

2、本发明解决其技术问题所采用的技术方案是：一种基于随机矩阵理论与双路径transformer表征融合的智能电表异常用电检测方法，该方法包括以下步骤：

3、步骤1：数据获取与预处理；

4、获取多个电力用户在连续时间周期内的智能电表用电量序列及其异常用电标签，构建用户-时间二维用电矩阵；对所述用户-时间二维用电矩阵中的缺失值、零值和异常采样位置进行识别、标记、统计和填充处理，得到标准化用户用电时间序列；

5、步骤2：多源用电行为特征提取；

6、以所述标准化用户用电时间序列为处理对象，提取用户统计特征、缺失模式特征、零值行为特征、月度聚合特征、趋势偏离特征、跨用户相对排名特征、日历特征、季节性特征以及多尺度变点特征，形成基础用电行为特征矩阵；

7、步骤3：随机矩阵理论信号增强；

8、以所述月度聚合特征对应的用户月度用电序列为处理对象，构造随机矩阵；对所述随机矩阵进行鲁棒标准化、协方差矩阵构建和特征值分解，依据 marchenko-pastur 谱边界划分信号子空间和噪声子空间，并基于子空间投影结果提取随机矩阵理论增强特征；

9、步骤4：双路径 transformer 深度表征提取；

10、以月度多通道用电序列为输入，构建包括局部窗口注意力分支和全局自注意力分支的双路径 transformer 模型；通过所述局部窗口注意力分支提取邻近周期内的短期异常波动特征，通过所述全局自注意力分支提取跨周期长期依赖特征，并融合两个分支输出得到用户深度时序表征；

11、步骤5：深度表征压缩与融合；

12、对所述用户深度时序表征进行降维压缩，得到低维深度时序表征；将所述低维深度时序表征、基础用电行为特征矩阵和随机矩阵理论增强特征进行拼接，得到最终融合特征矩阵；

13、步骤6：集成分类与异常判别：以所述最终融合特征矩阵为输入训练多个梯度提升分类器；根据各分类器的验证性能确定融合权重，对多个分类器输出的异常概率或异常排序结果进行加权融合，得到用户异常用电检测结果。

14、进一步地，本发明所述数据获取与预处理步骤具体包括：对所述用户日用电量序列构造缺失掩码和零值掩码；基于所述缺失掩码和零值掩码统计用户在全周期、前半周期和后半周期中的缺失及零值分布；采用沿时间方向的插值方式对可插值缺失点进行填充，并对剩余缺失点采用同一时间周期内的群体统计值进行补全，得到完整用户用电序列。

15、进一步地，本发明所述缺失模式特征由所述缺失掩码和零值掩码统计得到，至少包括用户全周期缺失比例、最长连续缺失比例、前半周期缺失比例、后半周期缺失比例、前后缺失差异、缺失片段数量、零值比例、最长连续零值比例以及无信号比例。

16、进一步地，本发明所述月度聚合特征通过以下方式获得：以预设天数作为聚合窗口，将所述标准化用户用电时间序列转换为月度用电序列；在每一聚合窗口内提取月均值、月标准差、月最大值、月零值比例、月缺失比例，以及月内极差、变异系数、滚动均值或滚动标准差中的至少一种月度波动统计量。

17、进一步地，本发明所述趋势偏离特征包括相对基准偏离特征和累计偏离特征；其中，所述相对基准偏离特征通过以用户前若干周期的用电统计值作为个体基准，并计算当前周期用电量相对于所述个体基准的偏离程度得到；所述累计偏离特征通过对多个周期的相对基准偏离量进行累积得到，用于表征用户用电行为的持续下降或持续偏移趋势。

18、进一步地，本发明所述跨用户相对排名特征包括跨用户排名特征、排名偏差特征和排名下降特征；其中，所述跨用户排名特征通过对同一时间周期内所有用户的用电量进行排序得到；所述排名偏差特征通过计算用户当前排名与其历史平均排名之间的差异得到；所述排名下降特征通过比较用户前周期排名和后周期排名得到。

19、进一步地，本发明所述随机矩阵理论信号增强步骤具体包括：对用户月度用电矩阵进行鲁棒标准化和中心化处理，构建群体协方差矩阵；对所述群体协方差矩阵进行特征值分解，得到特征值及其对应特征向量；依据 marchenko-pastur 谱边界将所述特征向量划分为显著信号子空间和噪声子空间；将用户月度用电序列分别投影至所述显著信号子空间和噪声子空间，并基于投影结果提取信号能量、噪声能量和全局信噪比特征。

20、进一步地，本发明所述随机矩阵理论增强特征还包括后期信号能量占比特征；所述后期信号能量占比特征通过以下方式获得：按用户平均用电水平或历史用电规模对用户进行分层，在每一分层内构建显著信号子空间；将用户后期月度用电序列投影至对应分层的显著信号子空间，并计算后期投影能量相对于全周期投影能量的比例。

21、进一步地，本发明所述双路径 transformer 模型包括输入投影层、位置编码层、局部窗口注意力模块、全局 transformer 编码模块、类别标记向量和分类输出层；其中，所述输入投影层将月度多通道序列映射至统一隐藏维度，所述位置编码层向映射后的序列注入月份顺序信息，所述局部窗口注意力模块基于局部注意力掩码提取邻近月份依赖特征，所述全局 transformer 编码模块通过类别标记向量和多头自注意力机制汇聚全周期用电行为信息，使第 i 个月份仅与预设窗口范围内的月份进行注意力计算，得到局部窗口注意力特征，从而增强模型对连续短期异常波动的感知能力，所述全局 transformer 编码模块在月度用电行为序列前加入可学习类别标记向量，通过多头自注意力机制对加入类别标记后的全周期月度用电行为序列进行编码，并将类别标记向量对应的输出作为全局时序表征。

22、进一步地，本发明所述双路径 transformer 深度表征通过以下方式得到：对局部窗口注意力分支输出的序列特征进行池化处理，得到局部时序表征；获取全局自注意力分支中类别标记向量对应的输出特征，得到全局时序表征；将所述局部时序表征和全局时序表征进行拼接，得到所述用户深度时序表征，所述双路径 transformer 的训练采用自适应focal loss；其中，根据正常用电样本和异常用电样本的数量确定类别权重，并将所述类别权重引入 focal loss 的交叉熵项中，以得到用于训练所述双路径 transformer 模型的损失函数，对双路径 transformer 输出的高维深度时序表征进行主成分分析降维，得到低维深度时序表征；将所述低维深度时序表征、基础用电行为特征矩阵和随机矩阵理论增强特征在特征维度上拼接，形成最终融合特征矩阵，所述集成分类与异常判别步骤具体包括：采用分层交叉验证训练 catboost、xgboost 和 lightgbm 分类器，获得各分类器的折外预测结果和折外 auc 指标；基于各分类器折外 auc 的平方归一化结果确定融合权重；利用所述融合权重对各分类器输出的异常概率排序值进行加权求和，得到最终用户异常风险分数。

23、有益效果

24、1、本发明同时刻画个体行为与群体偏离，提高隐蔽异常识别能力，引入随机矩阵理论，增强群体异常信号提取能力。

25、2、本发明通过双路径 transformer 兼顾局部异常和长期依赖，将 transformer表征与 gbdt 集成互补，提高整体检测性能。

26、3、本发明适应类别不平衡场景，提升少数异常用户识别能力，在 sgcc 主数据集和 london 对比数据集上均表现出较好的有效性与鲁棒性。