北极星智能电网在线讯:编者按
暂态稳定性作为电力系统运行安全性的重要指标,指的是系统在遭受外界扰动后能够在一定时间内恢复到新的稳定工作状态的能力。预测和评估系统在遭受各种故障或负荷变化时的稳定性,能够为系统调度和运行提供参考依据,对于减少停电事故的发生、保障电力系统的安全运行具有重要意义。
《中国电力》2025年第1期刊发了赵晨浩等撰写的《基于主动迁移学习的电力系统暂态稳定自适应评估》一文。文章搭建了一个结合主动学习和迁移学习的框架用于面对复杂多变的电力系统运行场景时更新模型。首先基于时间卷积(temporal convolutional network,TCN)和门控循环单元(gated recurrent units,GRU)构建并训练了基础模型。当运行场景变化需要启动更新机制时,采用长时间尺度仿真和短时仿真相结合的方法,分别生成小批量的标注数据和大批量的未标注数据,基于变分对抗的主动学习模型用于挑选信息价值更高的样本寻求标注。通过迁移基础模型参数并结合主动学习所挑选样本进行微调,最终在保证迁移精度的情况下节省更新时间,IEEE 39节点验证了所提方法能够实现高效的迁移。
摘要
构建了一个基于主动迁移学习的框架,基于原始场景数据搭建并训练源域暂态稳定评估(transient stability assessment,TSA)模型。当运行场景变化导致模型性能下降时启动更新机制,通过短时时域仿真生成大量无稳定性标签的样本以及完整仿真生成小批量带标签样本,采用基于变分对抗的主动学习方法学习数据潜在的特征表示空间,根据置信度选择信息量最大的无标签样本并进行标注。迁移基础模型参数并结合有标签样本进行微调,在保证迁移精度的情况下节省更新时间,通过IEEE 39节点验证了所提方法的有效性。
01
数据驱动的TSA模型
本文提出一种TCN和GRU相结合的网络来提高模型评估的性能模型具体结构如图1所示。
图1 TCN-GRU模型结构
Fig.1 The structure of TCN-GRU model
TCN和GRU的组合、实现了对输入多元暂态时间序列的特征提取,经由全连接层组成的分类器,最终通过Softmax函数输出系统的稳定性标签。
02
基于变分对抗主动学习的样本标注
2.1 TSA中的主动学习流程
深度学习模型在TSA中的成功应用离不开大量标注样本的支持,但是如果用TDS逐个获取样本的标签将消耗大量的算力和时间。虽然模型的训练是离线进行的,仍需要尽可能多的覆盖各种故障场景,同时在实际应用中面对不断变化的环境条件以及突发事件,暂态样本的知识库需要不断更新,模型也需要结合增量学习、迁移学习等技术进行参数调整。为了提高数据生成的效率,减少计算负担,同时增强基于深度学习的TSA应用的实用性,有必要引入主动学习算法。
主动学习的过程可以帮助深度模型更快地学习到关键特征,从而以更少的样本学习达到更高的准确性,其主要流程如图2所示。在初始化阶段,通常会用一部分已标注的数据训练一个基础的深度学习分类器模型,初始化以后进入迭代计算过程。
图2 主动学习流程
Fig.2 The process of active learning
1)选择最有价值的样本。根据采样策略选择样本。例如当使用不确定性采样策略时,首先使用基础模型对未标注的样本进行预测,然后选择其中预测概率最不确定的一些样本寻求标注。
2)标注样本。对选中的寻求标注的样本通过时域仿真进行标注,标注后的数据添加到已标注的数据集中。
3)重新训练模型。使用合并新增的已标注样本后的样本重新训练模型以更新模型的参数和权重。
4)评估模型性能。使用新模型对测试集进行预测,并计算分类准确率等指标以评估模型的性能。
迭代上述过程,直到达到预定的停止条件,即训练模型预定的性能指标(例如以准确率为指标)达到或者已经标注了所有的样本。
2.2 变分对抗主动学习
变分对抗性主动学习使用变分自编码器(variational autoencoder,VAE)和对抗网络来学习数据的潜在空间分布,以区分未标注和标注的数据,其架构如图3所示。
图3 变分对抗主动学习
Fig.3 The architecture of variational adversarial active learning
变分对抗主动学习的核心思想是利用VAE对已标注的数据和未标注的数据进行编码。因此,对于一个未标注的数据,如果其编码向量与潜在空间中向量的差异足够大,那么就可以认为该无标注样本是有价值的。VAE中的编码器使用高斯先验学习底层分布的低维空间,解码器用于重构输入的数据。
对于样本的选择是通过对抗网络来实现的,判别器的作用是区分一个样本是已标注还是未标注的。因此VAE在训练时还要编码输入数据,让判别器难以在隐藏层空间中区分该数据是否已经标注。当VAE以相似的概率分布将已标注数据和未标注数据映射到同一潜在空间中时,它欺骗判别器将所有输入数据分类为已标注数据;同时判别器试图估计数据来自未标注数据的概率。VAE的作为对抗网络中的角色,其目标函数表示为二元交叉熵损失。
训练VAE完整的目标函数为
式中:λ1和λ2分别为超参数;分别为重构损失和对抗损失。
最终选择标注样本的依据是判别器的输出,即
式中:L为鉴别器的损失函数;qϕ为ϕ参数化的编码器;x、x分别为标注和未标注样本;z、z分别为标注和未标注样本映射到隐藏层低维空间的值;D为判别器函数。
如果判别器输出置信度很高,则说明此时判别器很确信该无标注样已经可以很好地被现有的标注样本表示,无需选择该样本寻求标注。
03
基于主动迁移学习的TSA框架
基于主动迁移学习的TSA框架如图4所示,分为离线训练和在线应用阶段,当场景变化模型性能下降时通过主动迁移进行更新。
图4 基于主动迁移学习的TSA框架
Fig.4 The TSA framework based on active transfer learning
1)离线训练阶段。考虑各种故障条件,通过时域仿真生成大量样本,经过数据处理(异常数据剔除、数据归一化等操作),然后随机划分为训练集和测试集,基于训练集数据训练TSA模型。
2)主动迁移更新。当系统运行工况改变或拓扑结构发生变化时,需要启动更新机制。首先在目标域通过时域仿真生成小批量标注数据和大批量无标注数据,然后根据变分对抗学习算法训练并从无标注数据集中挑选样本寻求标注,结合已标注样本微调源域TSA模型,循环此过程直至微调后的模型性能满足要求。
3)在线应用阶段。训练好的模型应用于在线评估,当发生故障时PMU量测数据经过处理后输入到TSA模型中对暂态稳定性评估并给出结果,如果稳定则不需要任何动作,继续对系统进行监测即可;如果发生失稳则考虑施加相应的稳控措施。
04
算例分析
为了验证所提方案的有效性,在IEEE-39节点系统测试,其拓扑结构如图5所示。样本通过PSD-BPA时域仿真产生,模型基于python语言Pytorch开发。
图5 IEEE-39节点电力系统
Fig.5 The IEEE 39-bus power system
4.1 仿真场景和数据集
对于基本运行条件下的系统,主要从以下几个方面考虑模拟的场景:首先是故障类型,施加最严重的三相短路故障在34条交流线路上;其次考虑故障发生位置的影响,故障发生点在每条线路首端至尾端以10%为间距改变;此外考虑不同的保护方案,故障切除时间设置为0.1 s~0.3 s以0.05 s步长变化。最后考虑负荷水平对电力系统暂态响应特性的影响,设置 75%~120%以5%为间隔的多种系统负荷水平进行仿真。
根据以上设定,10 s的TDS共生成个样本,其中个样本为稳定,个样本为失稳,按照8∶2的比例对所有数据划分为训练集和测试集。对于目标域系统,设置并仿真以下场景并获得样本。
目标系统1:在80%~120%负荷水平下,线路6-11停运,在其余交流线路上施加三相短路故障,故障持续时间分别为0.1 s和0.2 s,共生成样本个,其中失稳样本个数为920,稳定样本个数为;
目标系统2:在80%~120%负荷水平下,线路4-14和10-11停运,在其余交流线路上施加三相短路故障,故障持续时间分别为0.1 s和0.2 s,共生成样本个,其中失稳样本个数为,稳定样本个数为;
目标系统3:调整负荷水平为70%、75%、125%、130%,同时调整发电机出力,在34条交流线路上施加三相短路故障,共生成样本个,其中失稳样本个数为847,稳定样本个数为。
4.2 源域模型性能对比和测试
TCN-GRU模型采用Adam优化方法以学习率1e-4进行训练,然后在测试集上对其进行评估,除了准确率A(accuracy)以外,基于表1的混淆矩阵,通过召回率R(recall)、精准率P(precision)和分数F1(F1-score)共4个指标对模型性能全面评估。
表1 混淆矩阵
Table 1 Confusion matrix
为了验证模型性能的优越性,本文采用机器学习算法包括逻辑回归(logistic regression,LR)、支持向量机(support vector machine,SVM)、极限梯度提升(extreme gradient boosting,Xgboost)、深度神经网络(deep neural network,DNN)以及深度学习算法包括卷积神经网络(convolutional neural network,CNN)、门控循环单元(gated recurrent unit,GRU)、时序卷积网络(temporal convolutional network,TCN)构建了对比模型。对于机器学习算法上述输入要求为一维向量,本文将二维数据展开成一维形式。SVM采用径向基核函数,惩罚因子C取值为10。Xgboost模型中树的数量选取为100,最大深度为10。5层DNN的神经元数量分别为[,256,64,8,2],CNN采用的网络结构为输入+卷积+池化+卷积+池化+2层全连接+Sofmax输出层,卷积核大小为3,池化层大小为1。GRU模型和TCN模型与本文所搭建的复合模型结构相同分为特征提取和分类器两部分,特征提取模块为单一的GRU和TCN。上述深度模型均采用Adam优化器进行训练,各个模型的预测性能指标对比如表2所示。可以看出,TCN-GRU模型各项指标均为最优,能够很好地提取暂态时序特征并用于稳定性分类。
表2 不同模型的评估结果对比
Table 2 Comparison of evaluation results of different models
当场景变化时,源域模型在目标系统上测试结果如表3所示。可以看出,在各新的场景下模型性能均有所下降,需要启动更新机制,结合主动迁移更新模型。
表3 源域模型在新场景下的测试结果
Table 3 The test results of the source domain model in the new scenario
4.3 目标域主动迁移学习效果
变分对抗主动学习各模块参数设置如表4所示,其中判别器为5层的多层感知机(multilayer perceptron,MLP),学习率设置为5e-4;编码器和解码器分别为3层的一维卷积和转置卷积,学习率设置为5e-3;VAE参数中β设置为1,潜在空间z维数为100。在开始阶段选择一种与分类器本身无关的样本选择方法—多样性采样方法,选择100个样本作为标注样本集,各模块均采用Adam优化器按照表1算法训练。判别器每次挑选100个置信度最低的样本寻求TDS标注并合并至标注样本集,记录每次迭代训练后的分类器精度。
表4 VAE结构
Table 4 The architecture of VAE
为了对比所提主动迁移方法中挑选样本策略的优越性,采用以下几种选择样本标注的方法:1)随机采样,随机从未标注样本集中挑选,每个样本被选中的概率是相等的;2)基于多样性采样,使用度量学习的方法计算未标注样本之间的相似度,并选择相似度较低的样本来增加多样性;3)基于熵采样,熵是一种衡量随机变量不确定性的指标,也可以用来衡量样本的信息量。利用分类器预测未标注样本的类别概率并计算熵值,选择熵值最高的未标注样本进行标注。上述采样方法用于挑选样本进行标注并对源域TSA模型更新,在目标系统1得到对比结果如图6所示。
图6 主动迁移学习迭代更新曲线
Fig.6 Active transfer learning iterative curve
可以看出,相比其它挑选未标注样本的方法,变分对抗主动学习所选样本训练TSA模型精度稳步提升,标记样本个数相同时效果最好。继续增加标注样本的数量并更新模型以达到性能要求,在3个目标系统上对模型进行主动迁移学习迭代更新并记录准确率变化如图7所示。可以看出,在不同的目标系统上启动主动迁移更新机制,随着标注样本个数增加,目标域TSA模型准确率不断提高,TSA模型恢复至可用水平。
图7 目标域主动迁移学习准确率变化
Fig.7 The accuracy change of active transfer learning in target domain
结合主动学习对TSA模型迁移的优势是在实现模型性能提升的同时减少样本的生成时间。在目标系统1的场景下设计如下3种方案对模型更新测试。
方案1为主动学习挑选个样本标注并微调模型;方案2为随机挑选个样本标注并微调模型;方案3为将全部个标注样本微调模型;方案4为基于全部个标注样本重新训练模型。
所得测试结果如表5所示,相对于重新训练模型,微调可以实现模型的快速更新且在结合主动学习算法之后能够在选择标注样本个数较少的同时实现较高的准确率。尽管相对于随机选择样本过程变分对抗主动学习的训练耗时较长,但相对于时域仿真的时长代价较小,有助于高效的迁移学习。
表5 各方案下的测试结果
Table 5 The test results under each scheme
05
结论
本文提出了一种基于变分对抗主动迁移学习的自适应TSA框架,在IEEE 39节点系统测试了多个变化运行场景的数据并得出以下结论。
1)VAE可以学习数据的潜在表示从而区分已标注样本和未标注样本;采用长期仿真对所挑选样本进行标注,显著减少了仿真样本的生成时间。
2)相比其他样本选择算法,采用变分对抗主动学习所选样本训练TSA模型精度稳步提升,效果最好。
3)当运行场景变化TSA模型需要迁移时可以结合主动学习挑选未标注样本中信息量最丰富的样本微调模型,使迁移过程更加高效。
本文所提基于变分对抗主动迁移学习的自适应TSA框架中变分对抗主动学习独立于TSA模型训练任务。后续研究如何利用主动学习任务的结构并融合TSA模型训练,进一步发挥主动学习的优势同时提升TSA的精度和效率。
注:本文内容呈现略有调整,如需要请查看原文。