近年来，随着风力发电需求的不断增长，准确预测风力发电功率变得越来越重要。风能的间歇性和随机性特点，使得风力发电功率的预测面临很大挑战，且已经引起风力发电企业的高度关注^[1]。准确的风力发电功率预测对风力发电企业制定合理的发电交易计划以获得更多盈利，以及与电网调度部门制定运行计划、调整调度计划等方面都具有重要意义^[2]。

目前，风电功率的短期预测方法主要分为统计模型、机器学习模型以及组合模型^[3]，统计模型和机器学习模型是常用的风电功率短期预测模型。统计模型包括自回归模型、滑动平均模型、自回归滑动平均模型、自回归差分滑动平均模型等^[4]。机器学习模型包括支持向量机、随机森林、贝叶斯加性回归树、极限学习机等^[5]。王永生等^[6]在时间序列数据中加入时间窗口和金融因子，再将该数据输入极端梯度提升(XGBOOST)模型进行预测输出，结果显示，XGBOOST模型虽然具有较快的收敛速度，但是在面对波动较强的历史数据时预测效果不佳。Gu等^[7]使用模糊C均值对风力特征进行聚类，并利用鲸鱼优化算法提高模型的收敛精度。但是这些方法在处理多元时间序列数据时存在局限性，在面对高维度、时空相关性、动态性和非线性等特征数据时，传统的统计模型和机器学习模型难以捕捉这些数据的内在特征和适应动态变化的环境，模型预测准确率不高。

近年来基于深度学习的模型被广泛应用于风力发电功率预测中。深度学习方法主要包括反向传播网络、循环神经网络(Recurrent Neural Network，RNN)、卷积神经网络(Convolutional Neural Networks，CNN)等。陈峰等^[8]提出基于经验模态分解的特征构建方法，利用绳索算法进行特征选择，输入基于贝叶斯优化的长短期记忆神经网络的预测模型进行风电功率预测，但是该模型在面对波动较强的历史数据时预测效果不佳。吴坚等^[9]介绍了一种基于奇异谱分析、CNN、门控循环单元(Gated Recurrent Unit，GRU)和支持向量回归(Support Vector Regression，SVR)的组合预测模型，基于奇异谱分析的预测模型能够获取时间序列中的时序演变特征和波动趋势，有效提升了不同步长下的预测精度。Huai等^[10]利用CNN对原始输入数据进行特征提取和降维，GRU负责对处理后的时间序列进行预测，结果表明，所提出的CNN_GRU模型在预测表现中具有最佳效果。Liu等^[11]利用奇异谱分析将原始风速序列分解为一个主要趋势分量和一些细节分量，随后采用CNN-GRU网络预测趋势分量，最后采用SVR对细节分量进行预测，实验结果表明, 所提出的模型在预测性能上获得了良好的结果。以上方法均需要大量的计算资源和训练数据，对复杂数据的处理能力有限，且对不同环境的风电数据存在泛化能力不足的问题。

组合模型是一种将多个子模型进行组合或者将各个子模型的结果加权输出的方法。其中，最小二乘支持向量机和径向基函数神经网络加权组合的预测方法是一种常用方法^[12]。该方法通过训练多个子模型，如支持向量机(Support Vector Machine，SVM)、长短期记忆网络(Long Short-Term Memory，LSTM)、差分自回归移动平均模型(Autoregressive Integrated Moving Average Model，ARIMA)等，对原始数据进行预测，然后将每个子模型的预测结果进行加权平均，得到最终的预测结果。由于不同的子模型在处理不同类型的数据时可能存在效果不统一、难以平均优化的问题^[13]，因此，在实际应用中需要根据具体情况人工选择合适的子模型，并进行大量的加权调整和优化，才能提高预测精度和稳定性。

针对以上问题和不足，本研究提出一种新颖的风电功率预测模型VMD-GRAU，该模型融合了变分模态分解(Variational Mode Decomposition, VMD)、门控循环注意力(Gated Recurrent Attention Unit，GRAU)模型，设计注意门来增强GRU对重要序列特征的捕捉能力和稳健性, 设计误差修正模块来降低风电功率预测的随机性和波动性影响，在损失函数中添加稀疏正则化项来防止模型过拟合，最后在真实数据集上验证算法的准确性与有效性。

1 方法与理论 1.1 VMD-GRAU模型

本研究提出了一种基于信号分解和深度学习的风电功率预测模型VMD-GRAU，如图 1所示。通过使用VMD对信号进行分解，提取不同时间尺度的特征，避免了模态混合和假峰值问题。同时提出GRAU模型，设计了注意门来增强GRU长期记忆的能力，并帮助记忆单元快速丢弃不重要的内容，记住对时序预测重要的部分，从而增强模型对数据特征的捕捉能力和稳健性；设计误差修正模块来降低风电预测的随机性和波动性影响，最后在传统的损失函数中添加稀疏正则化项来防止模型过拟合并增强模型的泛化性。

1.2 变分模态分解

VMD是一种信号分解技术，它可以将原始信号分解成若干个本征模态函数(Intrinsic Mode Functions, IMF)^[14]，这些IMF可以用于分析信号的频率特征和时域特征。VMD也是一种降噪算法，可用于从高维数据集中分离出低维信号，这些信号代表了数据集的多个模态特征。因此，VMD是一种自适应的分解方法，可以自动适应信号的局部特性。在风力发电机功率预测中，VMD可以有效地分离出风力发电机功率数据集的多个模态，这些模态代表了影响风力发电机功率的因素，如风速、天气条件、风力涡轮机的状态等。此外，VMD可以避免模态混合和假峰值等问题，比传统的降噪算法(如主成分分析法和独立成分分析法)更有效。对于给定的信号x(t)，将其分解为K个本征模态函数的叠加。

$ x(t)=\sum\nolimits_{k=1}^K u_k(t)+r_k(t), $

(1)

式中，u_k(t) 为第k个本征模态函数在t时刻的值，r_k(t) 为余项，t为时间步。

本征模态函数满足在时域上是单调振荡的，其Hilbert变换的辐角是常数。本质上，本征模态函数是信号的局部振动模式。通过将信号分解成多个本征模态函数可以对信号的不同特征进行分析。

VMD分解通过解决如下的凸优化问题来计算本征模态函数和余项。

$ \begin{aligned} & \mathrm {min}_{u_k, f_k} \frac{1}{2} \sum\nolimits_{i=1}^N \sum\nolimits_{k=1}^K\left[u_k(t)-f_k(t)\right]^2+ \lambda \sum\nolimits_{k=1}^K\left|\sum\nolimits_{i=1}^N \gamma_k(t) u_k(t)\right|, \end{aligned} $

(2)

式中，f_k(t) 为第k个本征模态函数的重构信号，γ_k(t)为权重系数，λ为正则化参数，N为信号长度。

为了求解上述问题需要使用迭代方法。首先，随机初始化本征模态函数u_k(t)和权重系数γ_k(t)，然后通过交替最小化2个步骤来进行更新。

① 给定权重系数γ_k(t)，通过最小化下列二次代价函数来更新本征模态函数。

$ \begin{aligned} & \mathrm {min}_{u_k} \frac{1}{2} \sum\nolimits_{i=1}^N\left[u_k(t)-f_k(t)\right]^2+ \lambda\left|\sum\nolimits_{i=1}^N \gamma_k(t) u_k(t)\right|。\end{aligned} $

(3)

通过Proximal operator方法求解。首先计算一个N信号长度的矩阵P_k。

$ \boldsymbol{P}_k(i, j)=\frac{1}{2} \exp \left(-\frac{(i-j)^2}{2 \sigma_k^2}\right), $

(4)

式中，i和j分别代表时间序列中两个不同时刻的索引用于计算协方差矩阵，σ_k是与第k个本征模态函数相关的宽度参数。更新本征模态函数表示如下：

$ u_k=\frac{\sum\nolimits_{i=1}^N \boldsymbol{P}_k(i, j) f_k(i)}{\sum\nolimits_{i=1}^N \boldsymbol{P}_k(i, j) \gamma_k(i)}, $

(5)

式中，f_k(i)表示第i个本征模态函数的重构信号，γ_k(i)表示权重系数。

② 给定本征模态函数u_k(t)，通过最小化下列二次代价函数J(w)来更新权重系数。

$ \begin{gathered} J(w)=\frac{1}{2} \sum\nolimits_{k=1}^K\left[u_k(t)-\sum\nolimits_{j=1}^M w_{k j} y_j(t)\right]^2+ \frac{v}{o} \sum\nolimits_{i=1}^M\left[y_j(t)-y_j(t-1)\right]^2, \end{gathered} $

(6)

式中，K为本征模态数量(设置为3)，M是权重系数的数量，w_kj为第k个本征模态函数与第j个输入信号之间的权重系数，y_j(t)代表模型在时间t对第j个输入信号进行的预测值，v为平滑系数，y_j(t-1)代表模型在时间t-1对第j个输入信号进行的预测值。目标是最小化代价函数J(w)，其中第一项表示拟合误差，表示本征模态函数与输入信号之间的差异，第二项表示平滑性约束，表示输入信号的变化应该尽可能平滑。通过最小化代价函数，可以得到最优的权重系数w，从而实现对输入信号的重构和预测。

1.3 GRU模型

GRU是RNN的变种。与传统的RNN相比，GRU引入了门控机制，可以更好地捕捉时间序列数据中的长期依赖关系，避免了梯度消失和梯度爆炸的问题。

如图 2所示，一个典型的GRU的结构可以分为更新门$\boldsymbol{z}_t$、重置门r_t和候选隐藏状态$\tilde{\boldsymbol{h}}_t$。其中，更新门和重置门的作用是控制信息流的开关，而候选隐藏状态则是一个经过门控调节后的隐藏状态，用于更新RNN中的当前隐藏状态。

首先，对于一个输入序列x_t，一个上一时间步的隐藏状态h_t-1以及GRU单元的权重矩阵W和偏置向量b计算更新门。

$ \boldsymbol{z}_t=\sigma\left(\boldsymbol{W}_z \boldsymbol{x}_t+\boldsymbol{U}_z \boldsymbol{h}_{t-1}+\boldsymbol{b}_z\right) \text { 。} $

(7)

计算重置门：

$ \boldsymbol{r}_t=\sigma\left(\boldsymbol{W}_r \boldsymbol{x}_t+\boldsymbol{U}_r \boldsymbol{h}_{t-1}+\boldsymbol{b}_r\right), $

(8)

式(7)和式(8)中σ为sigmoid函数，U为权重矩阵。

计算候选隐藏状态$\tilde{\boldsymbol{h}}_t$

$ \widetilde{\boldsymbol{h}}_t=\tanh \left(\boldsymbol{W} \boldsymbol{x}_t+\boldsymbol{U}\left(\boldsymbol{r}_t \times \boldsymbol{h}_{t-1}\right)+\boldsymbol{b}\right) 。$

(9)

最后，GRU通过更新门来计算当前隐藏状态h_t。

$ \boldsymbol{h}_t=\left(1-\boldsymbol{z}_t\right) \times \boldsymbol{h}_{t-1}+\boldsymbol{z}_t \times \widetilde{\boldsymbol{h}}_t $

(10)

通过对输入数据进行门控操作，GRU可以有效地捕捉时间序列数据中的长期依赖关系，提高序列数据的建模能力。

1.4 GRAU模型

在风电功率预测中，由于风速环境是不断变化的，捕捉风速环境的动态变化对于风电功率预测至关重要，传统GRU时间序列预测模型在捕获序列之间的依赖方面有所欠缺。注意力(Attention)机制是一种可以根据输入数据的不同部分自适应地赋予不同的权重，从而使模型更加关注对预测结果有贡献的输入部分的机制。注意力机制可以赋予每个时间步的GRU输出不同的权重，权重取决于当前的风速环境和历史的风速环境，模型的预测结果可以更好地反映当前的风速环境，从而提高动态变化的预测效果。本研究将注意力机制思想无缝集成到GRU算法内部，提出GRAU模型。设计注意门来增强GRU长期记忆的能力，并帮助记忆单元快速丢弃不重要的内容，记住对时序预测重要的部分。GRAU模型能够通过自适应地选择区域或位置序列，从序列数据中提取信息，并在学习过程中更加关注所选区域。

在GRAU模型中，注意力接收序列信息x₁, x₂, …, x_t和最后时刻的隐藏状态h_t-1，以学习可以表达这些信息重要性的权重矩阵 A_t，表示如下：

$ \begin{aligned} & \quad \boldsymbol{a}_t=f_M\left(\boldsymbol{h}_{t-1}, \boldsymbol{x}_t\right) \boldsymbol{A}_t=\frac{\exp \left(\boldsymbol{a}_t\right)}{\sum\nolimits_{t=1}^{\mathrm{T}} \exp \left(\boldsymbol{a}_t\right)} \hat{\boldsymbol{h}}_t= \tanh \left(\boldsymbol{A}_t\left[\boldsymbol{x}_t, \boldsymbol{h}_{t-1}\right]\right), \end{aligned} $

(11)

式中，a_t为概率向量；f_M为注意力学习函数，是仅由h_t-1和x_t决定的学习函数，使用速度快的前馈神经网络实现。采用多头注意力机制，输入向量的维度变为原来的1/M, 输入到M个前馈神经网络，所有输出向量取平均值得到a_t。每个注意力头都可以学习不同的注意力模式，因此多头注意力机制可以捕捉到输入序列中不同部分之间的复杂关系，从而提高模型的表示能力，经实验最后确定本研究的注意力头个数为4，在模型速度和准确率之间达到平衡。最后归一化后得到的A_t，表示第t时间步对模型预测的重要性。

图 3是一个完整的GRAU结构，其中隐藏状态h_t-1和输入x_t中的向量被送到学习函数f_M中产生一个概率向量a_t，可以理解为学习到的历史经验和此刻的风电状态进行融合得到向量$\widehat{\boldsymbol{h}}_t$。在GRU结构中保留了更新门和重置门，并添加了注意门得到向量$\widehat{\boldsymbol{h}}_t$。因此，输出的隐藏层状态的值为

$ \boldsymbol{h}_t=\left(1-\boldsymbol{z}_t\right) \boldsymbol{h}_{t-1}+\boldsymbol{z}_t \tilde{\boldsymbol{h}}_t+\boldsymbol{z}_t \widehat{\boldsymbol{h}}_t / \varepsilon, $

(12)

式中，ε为注意力门的占比，实验中经过超参数寻优后一般设置为2。

1.5 误差修正模块

误差是指预测值与观测值之间的偏差。观测实验中的预测差，可以得知在某些时期的预测误差较大。由于前期的预测模型是基于历史风电特征数据，其预测虽然可以有效地反映风电的趋势但是无法获得风电的随机和波动因素。因此，本研究提出一种修正误差的方法来提高预测精度。首先，定义预测模型的预测误差e_n为

$ e_n=P_n-\hat{P}_n, $

(13)

式中，P_n和$\widehat{P}_n$分别是风力发电功率的实际观测值和预测值。本研究分析了预测误差的主要因素。预测误差可能包含与风电相关的随机值和波动，需要对相关波动进行校正以提高预测精度。应用Pearson相关系数分析预测误差与风电数据的关系。相关系数表示为

$ \rho_{X, Y}=\frac{E\left[\left(X-\mu_X\right)\left(Y-\mu_Y\right)\right]}{\zeta_X \zeta_Y}, $

(14)

式中，ρ_{X, Y}是X和Y的相关系数，E为计算平均值，μ和ζ分别代表变量的平均值和均方差。如果两个变量X和Y相关，则ρ_{X, Y}的值接近1，在不同环境的数据集下计算得到模型预测误差与风速特征的相关系数最高，这与直觉相符，说明可以利用风速特征对预测误差进行优化调整。

本研究使用简单的两个全连接层实现误差修正模块，具有参数量少、计算速度快的优点。具体实现：第一个全连接层的输出神经元数量为10，激活函数选择ReLU。神经元数量通过超参数寻优确定。这一层的作用是对模型的输出进行进一步的非线性变换。第二个全连接层的输出神经元数量为1，没有设置激活函数。这一层的作用是将前一层的输出映射到单个数值，作为最终的修正输出。这两个全连接层的参数会在训练过程中自动学习，以便最小化模型预测结果与真实结果之间的误差。在训练期间，优化器会根据损失函数(均方误差)的梯度调整全连接层的权重和偏置，以逐步改进模型的性能。最终，通过将修正模型的输出与原始模型的输出相加，从而获得更精确的预测结果。

1.6 使用稀疏正则化的损失函数

在模型训练过程中，如果只尝试拟合输入的训练数据，将极大概率导致模型过拟合并降低模型的泛化性。林东方等^[15]指出均方误差(Mean Squared Error，MSE)作为损失函数会降低模型的泛化性能，稀疏正则化有助于模型泛化性的提升。本研究为避免过拟合，在训练阶段改进了损失函数Loss，添加正则化项和稀疏项。

$ \text { Loss }=\frac{1}{m} \sum\nolimits_{i=1}^m\left(P_i-\widehat{P}_i\right)^2+\alpha \times \mathit{Ω}_w+\beta \times \mathit{Ω}_S, $

(15)

式中，P_i表示风力发电功率的实际观测值，$\widehat{P}_i$为发电功率的预测值，第一项是MSE，α和β分别为正则化项和稀疏项的系数，Ω_w是L2权重正则化项，在数学上表示为

$ \mathit{Ω}_w=\frac{1}{2} \sum\nolimits_l^L \sum\nolimits_i^m \sum\nolimits_j^n\left(W_{i j}^l\right)^2, $

(16)

式中，L和m分别表示隐藏层和样本总数，n表示样本数据使用的变量数目，$W_{i j}^l$表示隐藏层l的第i个神经元与第j个输入变量之间的连接权重，Ω_S是稀疏正则化项，在数学上表示为

$ \begin{aligned} & \mathit{Ω}_S=\sum\nolimits_{i=1}^s K L_D\left(\frac{p}{p_i}\right)=\sum\nolimits _{i=1}^s p \log \left(\frac{p}{p_i}\right)+(1-p) \log \left(\frac{1-p}{1-p_i}\right) \end{aligned} $

(17)

式中，p是神经元的期望激活值，p_i是神经元i的平均激活值，KL_D表示Kullback-Leibler (KL)散度。当神经元的实际激活值和期望激活值相同时，稀疏正则化项将为0。随着期望激活值和平均激活值之间差异的增加，Ω_S项将增加。损失函数中的L2权重正则化项和稀疏正则化项有助于提升GRAU模型的泛化性能。

2 结果与分析

实验在Linux操作系统下的Pycharm平台进行，CPU为Intel(R) Xeon(R) Gold 6154，内存128 G，GPU为NVIDIA TITAN V，显存24 G。

为验证所提方法的有效性，采用龙源电力集团股份有限公司独有的空间动态风力发电预测数据集。数据采样周期为10 min，共记录了245 d的风电功率数据，数据集记录了风机的风速、风向等9个特征和风电功率。

本研究提出的VMD-GRAU模型超参数如表 1所示。

2.1 模型评价指标

首先将数据集的80%作为训练集，20%作为测试集，训练集的数据用作模型的训练输入，测试集检测模型的预测效果。为了检测模型的预测效果，选择平均绝对误差(MAE)、均方根误差(RMSE)和拟合优度(R²)来评价预测结果，其表达式分别为

$ \mathrm{MAE}=\frac{1}{n} \sum\nolimits_{i=1}^n\left|\hat{y}_i-y_i\right|, $

(18)

$ \text { RMSE }=\sqrt{\frac{1}{n} \sum\nolimits_{i=1}^n\left(\hat{y}_i-y_i\right)^2}\;\;\;\;, $

(19)

$ R^2=1-\frac{\sum\limits_{i=1}^n\left(y_i-\hat{y}_i\right)^2}{\sum\limits_{i=1}^n\left(y_i-\bar{y}_i\right)^2}, $

(20)

式中，n为预测样本数，y_i和$\hat{y_i}$分别为实际值和预测值，R²分子部分表示真实值与预测值的平方差之和，类似于均方误差MSE，分母部分表示真实值与均值的平方差之和，类似于方差Var。

2.2 风速序列VMD分解

VMD分解风速信号时，需要事先确定分解模态数K，每个分量模态根据中心频率的不同来区分。在进行VMD分解时，VMD分解的分解个数对模型预测至关重要^[16]。

经过多次对比试验，将K设置为3时，各个模态的差异较大，且模态3模态中心频率值在0.05-0.35波动，保留的特征更多(图 4)。因此，本研究对历史风速进行VMD分解时的模态数设置为3。原始风速数据和经VMD分解后的结果如图 5所示。其中IMF1-IMF3为分解出的从低频到高频的风速分量。

为了说明添加VMD分解后的特征序列相比原始风速特征序列对风电功率预测模型有提升效果，对两种情况做了仿真分析。其中，基础预测模型选择CNN-GRU预测算法, VMD-CNN-GRU为添加了VMD分解特征的算法。模型预测误差的输出结果如图 6所示，可以看出，经VMD分解后的风速分量作为训练输入比原始风速更能反映风电功率的变化。与传统的使用基于PCA的PCA-CNN-GRU方法相比，经VMD分解后风速分量的预测误差几乎都在[-50, 200]，而PCA-CNN-GRU的预测误差几乎都在[-190, 210]。

原始风速预测功率的误差绝对值在200 kW以上的很多，有的预测点误差超过300 kW。证明添加VMD方法的有效性。

为了充分测试本研究提出的VMD-GRAU模型的预测能力，添加4组常用单一预测模型与3组组合预测模型进行对比。其中：单一预测模型分别为GRU^[17]、CNN、CNN-GRU^[18]、CNN-Transformer；组合预测模型分别为VMD-CNN^[19]、VMD-CNN-GRU^[20]、VMD-GRU^[21]。选取1 000 min的风电数据进行预测，对比结果如图 7所示。

从图 7的预测结果的对比中可以看出，本研究提出的VMD-GRAU模型的预测精度要高于其他模型。对于风速功率剧烈抖动或者波动较大的地方，本研究提出的模型相比其他模型依然具有较好的拟合效果，这说明了本研究提出的模型能够有效提取风速序列的细节信息，取得更高的预测精度，且误差模块能够较好地抵御风电的随机和波动因素。不同预测模型在完整的测试集上的各个评价结果如表 2所示。

由表 2可以看到本研究提出的VMD-GARU模型取得了最好的预测效果，预测的MAE相较于GRU模型提升了26%，相较于Transformer模型提升了31%。由此可以得出，在风电功率预测上，本研究提出的VMD-GARU模型预测精度最高，预测效果最好。

使用训练好的模型在不同地区、不同风机上的数据集进行泛化性测试，选择R²作为评价指标，每个地区选择3个风机测试，平均运行5次，不同方法的平均预测结果如表 3所示。

从表 3可以明显看出，本研究提出的VMD-GRAU模型在不同环境下依然具有较好的泛化性，相比基线模型GRU提高了15%-30%。而其他模型(如Transformer、VMD Transformer、VMD-GRU)虽然在某些地区能够取得较好的测试性能，但是并不具备在所有地区均稳定的泛化性。

3 结论

针对风电功率随机性较强，现有风电功率短期预测模型难以捕捉风电时序关联特征的问题，本研究首先采用变分模态分解得到影响风电预测的模态特征；然后提出GRAU模型，设计注意门来增强模型对数据特征的捕捉能力和稳健性，设计误差修正模块来降低风电预测的随机性和波动性影响；最后在传统的损失函数中添加稀疏正则化项来防止模型过拟合。实验结果表明，本研究提出的模型相比传统模型GRU和Transformer，其预测的MAE提升了26%-31%；在不同环境下依然具有较好的泛化性，相比基线模型GRU提高了15%-30%。