控制与决策  2019, Vol. 34 Issue (8): 1589-1600  
0

引用本文 [复制中英文]

龙小强, 李捷, 陈彦如. 基于深度学习的城市轨道交通短时客流量预测[J]. 控制与决策, 2019, 34(8): 1589-1600.
[复制中文]
LONG Xiao-qiang, LI Jie, CHEN Yan-ru. Metro short-term traffic flow prediction with deep learning[J]. Control and Decision, 2019, 34(8): 1589-1600. DOI: 10.13195/j.kzyjc.2018.1393.
[复制英文]

基金项目

国家自然科学基金项目(51578465, 71771190)

作者简介

龙小强(1976-), 男, 高级工程师, 博士生, 从事交通规划与管理的研究, E-mail: 171450427@qq.com;
李捷(1991-), 男, 工程师, 硕士生, 从事机器学习的研究, E-mail: 373039420@qq.com;
陈彦如(1974-), 女, 副教授, 博士生导师, 从事物流与交通规划管理等研究, E-mail: chenyanru@swjtu.cn

通讯作者

陈彦如(1974-), E-mail: chenyanru@swjtu.cn

文章历史

收稿日期:2018-10-13
修回日期:2019-01-07
基于深度学习的城市轨道交通短时客流量预测
龙小强 1, 李捷 2, 陈彦如 3     
1. 广州市交通运输研究所与广州市公共交通研究中心,广州 510627;
2. 北京东方科技集团股份有限公司 CIO组织数字化应用中心,北京 100016;
3. 西南交通大学 经济管理学院,成都 610031
摘要:我国城市轨道交通已进入快速发展期, 准确预测城轨交通短时客流量, 对于城轨运营安全、运营效率及运营成本具有重要意义.城轨交通短时客流量由于具有强随机性、周期性、相关性及非线性的特征, 浅层模型的预测精度并不理想.对此, 基于深度信念网络(DBN)和支持向量回归机(SVM), 提出城轨交通短时客流深层预测模型(DBN-P/GSVM), 同时基于遗传算法(GA)和粒子群算法(PSO)实现SVM的参数寻优.最后, 对成都地铁火车北站客流量预测进行实例分析.结果表明, DBN-P/GSVM深度预测模型在均方误差、均方根误差、绝对误差均值及绝对百分比误差均值等方面均优于浅层模型——GA-SVM模型、PSO-SVM模型和BP神经网络模型, 以及深层模型长短期记忆网络(LSTM)与LSTM-Softmax.
关键词城轨交通短时客流量    深度信念网络    支持向量机    遗传算法    粒子群算法    长短期记忆网络    
Metro short-term traffic flow prediction with deep learning
LONG Xiao-qiang 1, LI Jie 2, CHEN Yan-ru 3     
1. Guangzhou Transport Research Institute & Guangzhou Public Transport Research Center, Guangzhou 510627, China;
2. CIO-Digital Application Center, BOE Technology Group Co., Ltd, Beijing 100016, China;
3. School of Economics and Management, Southwest Jiaotong University, Chengdu~610031, China
Abstract: At present, China's urban rail transit is developing rapidly. Short-term traffic flow prediction plays an important role on the metro safety, efficiency and cost. Many existing approaches with shallow architecture failed to provide favorable results, because short-term traffic flow are highly random, cyclical, correlative and non-linear. Therefore, we propose a prediction model with deep architecture --- DBN-P/GSVM based on the deep believe network (DBN) and support vector machine (SVM). The parameters of the SVM are obtained based on the genetic algorithm (GA) and the particle swarm optimization (PSO). Abundant experiments are conducted on the Chengdu Metro North Railway Station. The results show that the proposed DBN-P/GSVM model performs better than such shallow architecture models as the GA-SVM, PSO-SVM and back propagation neural network (BPNN) and such deep architecture models as the long short-term memory (LSTM) and LSTM-Softmax in terms of mean squared error, root mean square error, mean absolute error and mean absolute percentage error.
Keywords: metro short-term traffic flow    deep belief network    support vector machine    genetic algorithm    particle swarm optimization    long short-term memory    
0 引言

近年来, 我国的城市轨道交通发展十分迅猛.截至2017年末, 我国内地共计34个城市开通城市轨道交通并投入运营, 开通线路165条, 运营线路长度达到5 033 km[1].然而, 随着城市轨道交通网络的日益完善及客流量的不断增加, 客流过度饱和现象经常发生, 尤其是工作日的早晚高峰时段, 由此带来了巨大的安全隐患.因此, 如何准确预测城轨交通短时客流量, 并据此制定科学的客运计划和组织方案, 对于维护轨道交通的运营安全、提高运营效率、降低运营成本都具有重要价值.

现阶段城轨交通客流预测方法主要分为以下几种: 1)线性预测模型, 如时间序列预测模型[2]、卡尔曼(Kalman)滤波模型[3-4]等; 2)非线性预测模型, 如小波预测模型[5]、混沌预测模型[6-7]及非参数预测模型[8-10]等; 3)仿真预测模型, 如元胞自动机预测法[11]和交通模拟预测法[12]等; 4)浅层机器学习预测模型, 如支持向量机[13-15]、神经网络[16-20]等; 5)组合预测模型[21-22].以上研究成果对于城轨交通短时客流预测具有重要的意义, 但也存在局限性, 如:线性预测模型在处理具有强随机性和非线性特征的城市轨道交通短时客流时, 无法完全获取短时客流的内在特征; 线性映射很难充分体现短时客流数据的发展趋势; 非线性预测模型能够描述城轨交通短时客流量数据的非线性特征, 但面对海量的小粒度短时客流数据, 其预测精度有待进一步提高; 仿真预测模型通常建模成本较高, 且模型计算效率很难满足时效性要求; 浅层的机器学习预测模型在处理大数据时容易出现过学或者欠学问题; 组合模型中组合方式及组合内容对最终模型的预测效果影响较大, 预测精度不稳定.

由于深层学习模型可以较为准确地描述输入层与输出层的复杂关联[23-24], 人们尝试使用深度学习预测模型解决交通流预测问题[23-26].在深度学习模型中, 深度信任网络(DBN)被认为最为有效[23].因此, 本文尝试将DBN应用到城市轨道交通短时客流预测中.由于DBN是一种无监督学习模型, 而对于城轨交通短时客流预测, 需要有监督学习来实现模型的预知能力, 以进行客流量预测.作为一种有监督学习的模型——支持向量机(SVM), 能够较为精确地预测具有非线性、非静态的时间序列[14].因此, 本文基于DBN和SVM, 提出城轨交通短时客流预测深层模型DBN-P / GSVM.该模型结合DBN的无监督式学习和SVM的有监督式学习来对样本数据进行训练, 通过底层DBN对数据进行重构与特征提取, 为顶层SVM提供有效的数据表达; 而顶层的SVM对底层DBN的权值进行微调, 使得整体模型更加契合数据变化规律, 从而提高城轨交通短时客流量预测精度.

1 DBN-P/GSVM模型的构建

本文所构建的城市轨道短时客流量预测模型DBN-P/GSVM由底层和顶层两部分构成:底层为DBN模型, 将根据城市轨道短时客流量数据, 在无监督式学习模式下逐层进行权值训练, 保证每一层的重构误差最小; 顶层为SVM, 其将DBN顶层输出数据作为输入, 对城市轨道短时客流数据进行预测, 并将预测值与真实值的误差回传到DBN的各个层级之间, 通过各个层级的权值调整, 使得预测值与真实值的差距最小, 从而实现有监督学习.其框架如图 1所示.

图 1 DBN-P/GSVM模型结构
1.1 底层DBN模型

DBN模型是2006年由Hinton等[27]提出的一种深度学习模型.它通过在输入观测数据与数据标签之间形成一个联合分布, 对数据标签与观测值之间进行双向评估. DBN由若干限制玻尔兹曼机(RBM)堆叠形成.第1个RBM的可见层即为DBN模型的输入层.通过计算获取第1个RBM隐层的特征表达, 并将其转换为第2个RBM的可见层.以此类推, 完成DBN模型的整个训练过程.该过程能够对原始输入数据不断地进行特征提取, 每一层的输出数据都是输入数据的另一种特征表达.

1.1.1 底层DBN模型输入数据集构造

DBN的输入数据为城轨交通短时客流量.通常客流量统计时间间隔采用5 min、10 min、15 min或30 min.为了更精确地预测短时客流量, 本文采用的城轨交通客流量统计时间间隔为5 min.影响客流量的因素主要包括纵向随机性的影响和横向周期性的影响, 即某时段客流量会受到同一天内该时段前面若干时段客流的影响以及若干天前该时段客流的影响.假设需要预测的城轨交通客流量为xij, i表示天数, j表示时段. (xi-n, j, ..., xi-2, j, xi-1, j)表示第i天的前n天第j时段的城轨交通客流量, 体现城轨交通客流量数据受到的周期性影响; (xi, j-m, ..., xi, j-2, xi, j-1)表示第i天内第j时段的前m个时段的城轨交通客流量, 体现城轨交通客流量数据受到的随机性影响.则DBN-G/PSVM模型预测使用的数据集X可以表示如下:

其中:最后一列为待预测数据, 其余列作为输入数据传至DBN模型的输入层.

1.1.2 底层DBN模型的权值训练

DBN模型的权值训练分为两个阶段:第1阶段为无监督学习模式下的逐层权值训练; 第2阶段为有监督学习模式下的整体权值微调.

1) 第1阶段权值训练.

在此阶段, 将整个DBN模型的底层网络结构进行分解, 得到多个单一的RBM模型.在无监督学习模式下逐层产生权值, 并且保证每层的权值对该层特征向量的映射最优.

在单个RBM中, 可见层设为v=(v1, v2, ..., vi), 隐层设为h=(h1, h2, ..., hj).比较常见的RMB为Bernoulli-Bernoulli RBM.因本文中城轨交通短时客流量为实数, 故选取Gaussian-Bernoulli RBM[23].于是, 单个RBM的能量函数以及显层和隐层节点对应的条件概率为

(1)
(2)
(3)

其中: θ={ωij, ai, bj}, ωij为显层节点vi与隐层节点hj之间的关联权值, ai为显层节点偏移量, bj为隐层节点偏移量, I为显层结构的节点数, J为隐层结构的节点数, σivi的标准差, sigm(x)是sigmoid函数, N(μ, σ2)是均值为μ、方差为σ2的高斯分布.

由式(1)可得, 可见层节点与隐层节点的联合概率分布为

(4)
(5)

其中Z(θ)为归一化因子.根据式(4)可得训练数据{v}的概率分布Pθ(v)(即Pθ(v, h)的边缘概率分布)为

(6)

通过对式(6)构造对数似然函数, 使得输入样本在所求分布下概率最大, 从而求得最优参数θ.

2) 第2阶段权值训练.

第1阶段的权值训练目标是每层的权值对该层特征向量的映射最优.第2阶段的权值训练目标是整个模型最终预测结果与真实值之间的误差最小.第1阶段权值训练突出单层最优, 第2阶段权值训练突出整体最优.

将城轨交通短时客流量数据X传至DBN的可见层v, 通过第1阶段训练好的DBN得到输出向量v*, 将v*作为顶层SVM的输入层, 预测出城轨交通短时客流量v**, 对比v**与实际客流量, 将两者差值回传到DBN底层网络结构中, 微调整个DBN的权值.

在DBN-P/GSVM模型中体现了有监督和无监督两种学习方式, 使得底层DBN可以有效提取出城轨交通短时客流量的内在特征, 为顶层SVM预测提供了更加优质的数据准备; 而顶层的SVM则微调底层DBN的权值, 实现整体模型误差最小.

1.2 DBN-P/GSVM模型顶层支持向量回归机设计 1.2.1 支持向量机回归机原理

假设训练样本集T={(xi, yi), i=1, 2, ..., N}, xiRn, yiR, 其中N为训练的样本容量. SVM通过获取一个非线性映射, 将输入数据映射到高维特征空间中, 并在该空间构建回归方程f(x). f(x)可以定义为

(7)

其中: w为权向量, b为偏置量.引入松弛变量ξiξi*, 则优化问题为

(8)
(9)
(10)

其中: C为惩罚参数, ξiξi*为非负松弛变量.通过引入拉格朗日乘子, 将式(8)变为其对偶形式

(11)
(12)

因为二次规划原问题与对偶问题的解相同, 所以最优解为a*={a1*, a1*, ..., aN*}T, 从而计算w*b*, 最终获得回归方程

(13)

为了避免维数灾难, 通常采用核函数K(xi, xj)替代式(13)中的φ(xi)φ(xj).比较常见的核函数为高斯径向基核函数(RBF), 其函数形式为

(14)

其中σ为带宽, 是高斯核函数的参数.

采用SVM进行回归预测时, 需要提前确定惩罚参数C与所选核函数的参数μ (若选择RBF核函数, 则参数μ即为σ).传统的SVM参数通过交叉验证法获取, 容易陷入局部收敛.本文尝试使用遗传算法(GA)和粒子群算法(PSO)对SVM的参数进行优化.

1.2.2 GA-SVM的设计

遗传算法是一种基于遗传学理论的启发式算法, 通过优胜劣汰的竞争机制在解空间内迭代寻优, 并通过遗传操作保证解空间的多样性, 使求解过程不易陷入局部最优. GA-SVM的设计主要包含3个方面:编码方式设计、适应度函数设计和遗传算子设计.

1) 编码方式.

由于只需要(C, μ)进行优化, 优化参数较少, 本文采取二进制编码方式, 即将参数组合(C, μ)表示成一条由随机二进制数组成的染色体, 其中每一位二进制数表示一个基因位, 多个染色体形成种群.根据各参数的取值范围确定染色体的长度, 即

(15)
(16)

其中: Clength表示参数C的二进制编码长度, μlength表示参数μ的二进制编码长度, CmaxCminμmaxμmin分别为参数Cμ的最大值与最小值.染色体具体结构如表 1所示, 其中各二进制数随机产生.

表 1 参数的二进制编码

2) 适应度函数.

适应度函数通过评价每一组参数(C, μ)的适应度来引导迭代过程向适应度高(解质量好)的方向进行.本文借助K折交叉验证的方法, 并采用样本均方误差(MSE)来评估解的质量. MSE的计算公式如下:

(17)

其中: N为训练样本数量, f(xi)为城轨交通短时客流量预测值, yi*为城轨交通短时客流量实际值.相应的适应度函数设计如下:

(18)

其中Fitbest表示GA当前找到最优的参数组合(C, μ)的适应度值.当MSE值较小时, 表示SVM采用该组参数预测出的城轨交通短时客流量与实际值差距较小, 则这组(C, μ)的适应度较高.

3) 遗传算子.

GA通过选择、交叉和变异3个遗传操作使算法向最优解不断逼近, 通过保持种群多样性来丰富解空间, 从而防止算法陷入局部最优的困境.在选择方面, 本文通过轮盘赌法来选取用于交叉变异的父代; 在交叉方面, 任意选择两个基因位, 将两个父代在这两个基因位之间的基因段进行互换, 从而生成两个子代; 在变异方面, 采用单点变异的方式, 即随机选取一位变异位, 对其进行0→1或者1→0的操作.

运用GA算法优化SVM参数组合(C, μ)的具体实现步骤如下:

Step 1:确定GA及SVM运行参数(交叉率、变异率、最大迭代次数、不敏感损失参数和种群规模等);

Step 2:确定待优化参数(C, μ)的取值范围[Cmin, Cmax]和[μmin, μmax];

Step 3:建立种群N×(Clength+μlength)矩阵, 并随机初始化种群;

Step 4:计算每一组参数(C, μ)的适应度;

Step 5:进行选择、交叉、变异操作, 并以此更新种群;

Step 6:判断算法是否达到终止要求, 如果是, 则进入Step 7, 否则重复Step 4和Step 5;

Step 7:将最优参数组合(C, μ)作为SVM运行参数进行预测.

1.2.3 PSO-SVM模型的设计与实现

粒子群算法(PSO)是一种利用粒子来模拟生物行为的启发式算法.在PSO算法中, 搜索空间中的每个粒子都是待优化问题的一个解, 通过粒子的速度及位置的变化在解空间中寻找最优解.相较于GA, PSO的操作更加简单, 它的设计包含两个方面:粒子速度及位置更新函数的设计和适应度函数的设计.

1) 粒子速度及位置更新函数.

由于待优化参数为两个——Cμ, 本文设计二维粒子, 即粒子在二维的空间进行搜索.粒子速度及位置更新函数如下:

(19)
(20)

其中: xidt为粒子id维搜索空间第t代的位置, vidt为粒子id维搜索空间第t代的速度, pidt为粒子id维搜索空间中前t代去过的最优位置, gdt为所有粒子第d维搜索空间中前t代去过的最优位置, c1c2为局部学习率和全局学习率, r1r2为随机影响因子, ω为惯性权重, t为迭代次数.

通过全局最优位置与当前粒子位置的差距来引导粒子向最优位置飞行, 同时加入扰动随机影响因子以减小算法陷入局部最优的可能.

2) 适应度函数设计.

PSO中适应度函数的作用与GA中适应度函数的作用相同.为了保证两种算法的可比性, PSO算法的适应度函数设计仍然沿用式(17)和(18)的形式.

3) PSO-SVM模型的实现过程.

Step 1:PSO算法运行参数设置, 其中包括种群规模、学习因子、惯性权重和最大迭代次数等;

Step2:根据(C, μ)的取值范围确定两个维度的搜索范围[xdmin, xdmax]和[vdmin, vdmax];

Step 3:初始化各粒子的位置和速度;

Step 4:根据式(17)和(18)计算粒子的适应度, 并将各粒子的初始位置设为该粒子的最优位置, 寻找所有粒子的最优位置, 将其设置成粒子群最优位置;

Step 5:根据式(19)和(20)更新各粒子的速度及位置, 计算更新后粒子的适应度及pidtgdt;

Step 6:判断是否满足终止条件, 若满足则算法终止并输出参数(C, μ), 否则重复Step 5;

Step 7:将输出的(C, μ)输入到SVM模型中进行预测.

2 实例分析

在成都地铁运营网络中, 成都火车北站地铁站是非常重要的交通枢纽, 它集火车站、二环高架BRT站和地铁站3种交通方式于一体, 客流庞大, 并且客流的到达分布由于受到其他交通方式的影响, 随机特征十分明显.因此, 本文以成都火车北站地铁站为实验对象, 收集了2016年3月间成都地铁所有站点的运营数据, 运用所构建的DBN-P/GSVM模型进行短时客流预测.将成都火车北站地铁站2016年3月份的运营数据进行分析后, 选择其中数据最为完善的两周作为实验时段.为了验证工作日与非工作日乘客出行行为是否存在较大差异, 本文随机选择一周对工作日进站客流量与非工作日进站客流量进行统计.同时, 为了体现轨道交通客流的变化特征, 对客流量统计时间间隔分别采用5 min、10 min、15 min和30 min对客流量进行统计, 统计结果如图 2图 3所示.

图 2 工作日进站客流量
图 3 非工作日进站客流量

图 2图 3可知, 不同统计时间间隔的工作日数据与非工作日数据都呈现了非线性的变化趋势.就工作日而言, 地铁进站客流存在明显的早高峰现象: 8点~ 9点的进站客流量是一天当中的峰值; 19点之后地铁客流量逐渐减少, 且无明显的晚高峰情况.

此外, 周一至周五的客流变化规律存在一定的相似性, 表明地铁客流量工作日数据存在一定的周期性.同时, 非工作日的地铁进站客流量数据也表现出一定的周期性, 但周日地铁客流量高峰集中在12点~ 17点之间, 没有明显的峰值.

对于两类数据集, 随着统计时间间隔的增加, 进站客流量的变化曲线变得逐渐平滑, 说明在短时间间隔的情况下, 地铁客流量数据存在较强的随机性.此外, 本文对工作日与非工作日的数据集进行了相关分析, 结果如表 2表 3所示.

表 2 工作日数据的相关分析
表 3 非工作日数据的相关分析

表 2表 3可知, 工作日数据之间与非工作日数据之间的相关性通过显著性检验, 体现了其关联性.

此外由上述图表可知, 非工作日与工作日乘客出行行为及客流量的变化趋势存在较大差异, 因此, 本实验将数据分为工作日数据集和非工作日数据集两个部分, 分别对以5 min为间隔的短时客流进行预测.

2.1 数据输入

综合考虑数据规模及预测效率, 后续实验中采用n=3, m=2的输入数据集, 即某时段客流量受到前3天该时段客流以及同一天该时段的前两个时段客流的影响.于是, DBN-P / GSVM模型预测使用的样本数据集为(xi-3, j, xi-2, j, xi-1, j, xi, j-2, xi, j-1, xi, j), 其中最后一个为待预测数据, 前5个为输入数据, 将传输至底层DBN的可见层v.

2.2 支持向量回归机核函数选择

在支持向量机中, 核函数将样本数据从低维非线性特征空间映射到高维线性特征空间.不同的核函数将样本映射到不同的空间, 从而导致支持向量机的预测结果存在差异.为了测试样本数据适合的核函数类型, 本实验分别选择最常用的4种核函数——线性核、多项式核、RBF核和Sigmoid核, 对其映射性能进行对比.其中, 支持向量机的不敏感损失参数为0.01.运用4种核函数的模型预测相对误差如表 4所示.

表 4 核函数的预测相对误差

表 4可知, 对于工作日数据集而言, 运用RBF核函数的模型预测性能最好, 其平均预测误差为18.94 %.而运用Sigmoid核函数的模型预测效果最差, 其平均误差高达96.23 %.因此, 在后续实验中工作日数据将采用RBF核函数.

对于非工作日, 运用多项式核函数的模型预测效果最好, 其预测误差为27.37 %; 而运用线性核函数的模型预测效果最差, 其预测误差为34.24 %.因此, 在后续实验中非工作日数据将采用多项式核函数.

2.3 优化算法选择

SVM参数寻优的过程中, 不同的优化算法所获得的参数也是不同的, 而参数直接影响SVM的预测性能, 进而影响整体预测模型的精度.本实验分别采用GA、PSO对SVM的参数进行寻优, 并对工作日与非工作日的预测结果进行对比.算法参数:最大迭代次数为100, 种群规模均为20, 交叉率为0.4, 变异率为0.01, 两个待优化参数的寻优区间均为[0.01, 1 000];局部学习率和全局学习率均为1.5.实验结果如表 5所示.

表 5 优化算法性能对比

表 5可知:对于工作日, PSO略优于GA; 对于非工作日, GA略优于PSO.因此, 在后续实验中, 工作日将采用PSO进行SVM参数寻优, 而非工作日将采用GA进行SVM参数寻优.

2.4 DBN模型深度选择

DBN模型的深度指隐层层数.深度不同, 模型的预测性能会有所差异.研究表明, DBN深度的增加并不意味着其识别性能的增加, 反而还会导致训练时间增加[28].因此, 为了选择合适的模型深度, 本文综合考虑样本规模以及类似研究的模型深度, 分别选择深度为2、3、4、5进行测试.模型的结构参数设置为:各层节点数为10, 激活函数为Sigmoid函数, 学习速率为1, 动量为0.5.不同深度的模型实验结果如表 6所示.

表 6 DBN模型深度选择对比

表 6可知, 对于大多数据, 模型的预测误差没有随着深度的增加而减少.如周二的数据, 随着模型深度的增加, 模型预测的相对误差反而在增加.同时对于不同的数据集, 不同深度的模型预测误差有所不同.对于工作日的数据而言, 平均预测误差在19.28 % ~ 24.35 %之间.其中深度为4的模型平均预测误差最小, 表明对于城轨交通短时客流量工作日数据, 4个隐层的DBN模型的数据特征提取能力更好.因此在后续实例中, 工作日数据集将采用4个隐层的网络结构.对于非工作日的数据而言, 整体预测误差在17.02 % ~ 24.87 %之间, 其中深度为5层的DBN模型预测误差最小.因此在后续实例中, 非工作日数据将采用5层隐层的网络结构.

2.5 DBN模型隐层节点个数选择

隐层节点个数对DBN模型预测精度会产生影响.考虑到输入数据维度较低, 本实验将节点数分别设计为5、10、20、30、40, 对不同节点数的网络结构预测性能进行对比.工作日数据集中采用4层隐层的网络结构, 非工作日数据集采用5层隐层的网络结构.实验结果如表 7所示.

表 7 DBN模型隐层节点数选择

表 7可知, 隐层网络节点个数会严重影响模型的预测精度.无论是工作日数据还是非工作日数据, 节点数太多或太少都无法得到理想的结果.工作日数据的平均误差在19 % ~ 46 %之间, 非工作日数据的平均误差在17 % ~ 44 %之间.两组数据中隐层节点数为10时误差最低.当隐层节数为40时, 无论是工作日数据, 还是非工作日数据, 模型的预测精度都最低.原因可能是过多的节点导致更加复杂的数据映射, 从而模型对训练样本拟合程度过高, 出现过学现象.

2.6 DBN-P/GSVM模型算法性能研究

根据前面实验结果, 对于工作日数据, 由4层10节点的DBN及RBF核函数的PSO-SVM组成的深度模型预测效果最佳; 对于非工作日数据, 由5层10节点的DBN及多项式核函数GA-SVM组成的深度模型预测效果最佳.

为验证所提出的DBN-P/GSVM模型的有效性, 本文同时采用浅层预测模型GA-SVM(用GA进行参数寻优的SVM)、PSO-SVM(用PSO进行参数寻优的SVM)和浅层神经网络模型(BPNN)分别对同一数据集进行预测.

以5 min间隔的统计数据集为例, 对于工作日, 一天从早上6:00至晚上24:00, 总计18个小时, 每小时统计12组数据, 共216组数据, 剔除一天当中城轨交通客流量比较稀疏的数据, 留存190组数据.其中每组数据包含5个输入数据和1个输出数据, 输入数据为前3天的同一时段的客流量以及同一天当前时段的前两个时段的客流量, 输出数据为当前时段客流量, 由此形成了输入数据与输出数据的一一对应关系.为了提高模型的鲁棒性, 降低模型过学的可能性, 本文对各输入输出数据对的顺序进行随机排列.将前170组数据作为训练样本, 后20组数据作为测试样本.因为在非工作日数据集中存在数据缺失, 所以在非工作日的数据集实验中提取有效样本120组, 并对各数据对的顺序进行随机排列, 以前100组作为训练样本, 后20组作为测试样本.预测结果与原始数据对比如图 4所示.

图 4 预测结果与原始数据对比

此外, 本文采用以下4种指标更为精确地评价不同算法的预测性能: 1)均方误差(MSE); 2)均方根误差(RMSE); 3)绝对误差均值(MAE); 4)绝对百分比误差均值(MAPE).评价结果如表 8 ~ 表 11所示.

表 8 DBN-P/GSVM的预测误差
表 9 PSO-SVM的预测误差
表 10 GA-SVM的预测误差
表 11 BPNN的预测误差

表 8 ~ 表 11可知, 在城轨交通短时客流预测中, DBN-P / GSVM模型的4个评价指标——MSE、RMSE、MAE和MAPE均优于其他3种算法.与DBN-P/GSVM模型相比, PSO-SVM、GA-SVM和BPNN模型都属于浅层机器学习模型.这类模型由于数据特征提取不如深层模型充分, 数据中的噪声通常会掩盖数据的内在规律, 尤其在处理大量数据时更为明显, 从而影响算法预测性能. GA-SVM模型与PSO-SVM预测原理相同, 只是选择的优化参数不同, 所以在预测精度和算法性能上差别较小. 4种模型中, BPNN模型的算法性能最差.原因在于BPNN模型在处理大量数据时, 数据维度越高, 算法越难以收敛.此外, BPNN模型在使用BP算法时, 可能出现梯度减小甚至消失, 从而导致远离输出层的隐层无法调整权值和偏置量, 最终难以获取最优的模型参数组合.而本文构建的深度学习模型DBN-P/GSVM能够在无监督式学习模式下不断重构输入数据, 充分提取数据特征, 展示数据的内在规律, 获得更为有效的数据表达.同时通过有监督式学习进行微调, 从整体上使模型更加契合数据变化规律.两种学习方式的配合使得模型在处理城轨交通短时客流数据时其鲁棒性大大提升, 降低了模型出现过学习或欠学习的可能, 提升了预测精度.

此外, 由于在深度网络中, 循环神经网络LSTM常被用于时间序列信号分析, 而轨道交通短时客流量本质上为时间序列数据, 因此, 本文基于python语言构建LSTM模型, 对轨道交通短时客流量进行预测, 并与所构建的DBN-P/GSVM模型的预测效果进行对比.同时考虑到Softmax在深度网络中应用广泛, 并尝试在LSTM模型中间层使用Softmax函数作为激活函数, 设计LSTM-Softmax模型, 用于预测轨道交通短时客流量, 并与DBN-P/GSVM模型的预测效果进行对比.对比结果如图 5所示.

图 5 LSTM与LSTM-Softmax的预测结果

LSTM与LSTM-Softmax两个模型的预测误差如表 12表 13所示.

表 12 LSTM的预测误差
表 13 LSTM-Softmax的预测误差

表 12表 13可知, 本文构建的DBN-P/GSVM模型的预测效果优于LSTM和LSTM-Softmax模型.

3 结论

本文针对城轨交通短时客流量设计了DBN-P/GSVM深层预测模型.该模型由底层的DBN和顶层的SVM构成.考虑到城轨交通短时客流量的特点, 底层DBN由多个Gaussian-Bernoulli RBM堆叠而成.本文同时设计了GA和PSO两种算法实现对顶层SVM的参数优化.研究表明:对于工作日城轨交通短时客流数据, 由底层为4层10节点的DBN及顶层为RBF核函数的PSO-SVM组成的深度模型预测效果最佳; 对于非工作日城轨交通短时客流数据, 由底层为5层10节点的DBN及顶层为多项式核函数GA-SVM组成的深度模型预测效果最佳.

为了验证所建DBN-P/GSVM模型用于城轨交通短时客流量的预测效果, 本文同时设计了PSO-SVM、GA-SVM和BPNN三种浅层模型以及LSTM和LSTM-Softmax两个深层模型.研究结果表明, 所设计的DBN-P / GSVM模型在MSE、RMSE、MAE和MAPE四个方面均优于其他3种浅层模型和两个深层模型, 同时验证了DBN-P/GSVM深度预测模型在处理城市轨道交通短时客流时的有效性.

对于未来研究, 可进一步扩大样本容量, 对实验中数据集的划分及模型的过学问题进行深入研究.

参考文献
[1]
中国城市轨道交通协会. 城市轨道交通2017年度统计和分析报告[N]. 中国城市轨道交通协会信息, 2018-04-08.
(China Association of Metros. 2017 Annual statistics and analysis report of metros[N]. China Association of Metros Information, 2018-04-08.)
[2]
韩超, 宋苏, 王成红. 基于ARIMA模型的短时交通流实时自适应预测[J]. 系统仿真学报, 2004, 16(7): 1530-1532.
(Han C, Song S, Wang C H. A real-time short-term traffic flow adaptive forecasting method based on ARIMA model[J]. J of System Simulation, 2004, 16(7): 1530-1532. DOI:10.3969/j.issn.1004-731X.2004.07.042)
[3]
Guo J, Huang W, Williams B M. Adaptive Kalman filter approach for atochastic short-term traffic flow rate prediction and uncertainty quantification[J]. Transportation Research, Part C: Emerging Technologies, 2014, 43(1): 50-64.
[4]
熊杰, 关伟, 孙宇星. 基于Kalman滤波的地铁换乘客流预测[J]. 北京交通大学学报, 2013, 37(3): 112-116.
(Xiong J, Guan W, Sun Y X. Metro transfer passenger forecasting based on Kalman filter[J]. J of Beijing Jiaotong University, 2013, 37(3): 112-116. DOI:10.3969/j.issn.1673-0291.2013.03.021)
[5]
Zhao S Z, Ni T H, Wang Y, et al. A new qpproach to the prediction of passenger flow in a transit system[J]. Computers & Mathematics with Applications, 2011, 61(8): 1968-1974.
[6]
郭敏, 蓝金辉, 肖翔, 等. 基于混沌理论对北京二环路进行短时交通流量预测的研究[J]. 交通运输系统工程与信息, 2010, 10(2): 106-111.
(Guo M, Lan J H, Xiao X, et al. Forecasting short-time traffic flow for Beijing 2nd ring road using chaos theory[J]. J of Transportation Systems Engineering and Information Technology, 2010, 10(2): 106-111. DOI:10.3969/j.issn.1009-6744.2010.02.017)
[7]
张玉梅, 曲仕茹, 温凯歌. 基于混沌和RBF神经网络的短时交通流量预测[J]. 系统工程, 2007, 25(11): 26-30.
(Zhang Y M, Qu S R, Wen K G. A short-term traffic flow forecasting method based on chaos and RBF neural network[J]. Systems Engineering, 2007, 25(11): 26-30.)
[8]
Clark S. Traffic prediction using multivariate nonparametric regression[J]. J of Transportation Engineering, 2003, 129(2): 161-168. DOI:10.1061/(ASCE)0733-947X(2003)129:2(161)
[9]
Davis G A, Nihan N L. Nonparametric regression and short-term freeway traffic forecasting[J]. J of Transportation Engineering, 1991, 117(2): 178-188. DOI:10.1061/(ASCE)0733-947X(1991)117:2(178)
[10]
Smith B L, Williams B M, Oswald R K. Comparison of parametric and nonparametric models for traffic flow forecasting[J]. Transportation Research, Part C: Emerging Technologies, 2002, 10(4): 303-321. DOI:10.1016/S0968-090X(02)00009-8
[11]
Chrobok R, Wahle J, Schreckenberg M. Traffic forecast using simulations of large scale networks[C]. Proc of the 2001 IEEE Intelligent Transportation Systerms. Oakland: IEEE, 2001: 434-439. https://ieeexplore.ieee.org/document/948696
[12]
马云龙, 王坚, 任子晖. 基于微观仿真的快速路短时交通流预测研究[J]. 系统仿真学报, 2009, 21(14): 4501-4503.
(Ma Y L, Wang J, Ren Z H. Research on short-term traffic flow prediction based on microcosmic simulation[J]. J of System Simulation, 2009, 21(14): 4501-4503.)
[13]
Castro-Neto M, Jeong Y S, Jeong M K, et al. Online-SVR for short-term traffic flow prediction under typical and atypical traffic conditions[J]. Int J of Expert Systems with Applications, 2009, 36(3): 6164-6173. DOI:10.1016/j.eswa.2008.07.069
[14]
Sun Y, Leng B, Guan W. A novel wavelet-SVM short-time passenger flow prediction in beijing subway system[J]. Neurocomputing, 2015, 166(C): 109-121.
[15]
Castro-Neto M, Jeong Y, Jeong M K, et al. AADT prediction using support vector regression with data-dependent parameters[J]. Expert Systems with Applications, 2009, 36(2): 2979-2986. DOI:10.1016/j.eswa.2008.01.073
[16]
Jiang X, Adeli H. Dynamic wavelet neural network Model for traffic flow forecasting[J]. J of Transportation Engineering, 2005, 131(10): 771-779. DOI:10.1061/(ASCE)0733-947X(2005)131:10(771)
[17]
Wei Y, Chen M C. Forecasting the short-term metro passenger flow with empirical mode decomposition and neural networks[J]. Transportation Research, Part C: Emerging Technologies, 2012, 21(1): 148-162. DOI:10.1016/j.trc.2011.06.009
[18]
Dia H. An object-oriented neural network approach to short-term traffic forecasting[J]. European J of Operational Research, 2001, 131(2): 253-261. DOI:10.1016/S0377-2217(00)00125-9
[19]
Tsai T H, Lee C K, Wei C H. Neural network based temporal feature models for short-term railway passenger demand forecasting[J]. Expert Systems with Applications, 2009, 36(2): 3728-3736. DOI:10.1016/j.eswa.2008.02.071
[20]
李松, 刘力军, 翟曼. 改进粒子群算法优化BP神经网络的短时交通流预测[J]. 系统工程理论与实践, 2012, 32(9): 2045-2049.
(Li S, Liu L J, Zhai M. Prediction for short-term traffic flow based on modified PSO optimized BP neural network[J]. Systems Engineering——Theory & Practice, 2012, 32(9): 2045-2049. DOI:10.3969/j.issn.1000-6788.2012.09.024)
[21]
Zhang Y, Zhang Y, Haghani A. A hybrid short-term traffic flow forecasting method based on spectral analysis and statistical volatility model[J]. Transportation Research, Part C: Emerging Technologies, 2014, 43(1): 65-78.
[22]
Wang J, Deng W, Guo Y. New Bayesian combination method for short-term traffic flow forecasting[J]. Transportation Research, Part C: Emerging Technologies, 2014, 43(1): 79-94.
[23]
Huang W, Song G, Hong H, et al. Deep architecture for traffic flow prediction: Deep belief networks with multitask learning[J]. IEEE Trans on Intelligent Transportation Systems, 2014, 15(5): 2191-2201. DOI:10.1109/TITS.2014.2311123
[24]
李捷. 基于深度学习的地铁短时客流量预测研究[D]. 成都: 西南交通大学经济管理学院, 2018.
(Li J. Study on metro short-term passenger flow forecasting based on deep learning[D]. Chengdu: School of Economics and Management, Southwest Jiaotong University, 2018.) http://cdmd.cnki.com.cn/Article/CDMD-10613-1018825888.htm
[25]
Nicholas G Polson, Vadim O Sokolov. Deep learning for short-term traffic flow prediction[J]. Transportation Research, Part C: Emerging Technologies, 2017, 79: 1-17. DOI:10.1016/j.trc.2017.02.024
[26]
Lv Y, Duan Y, Kang W, et al. Traffic flow prediction with big data: A deep learning approach[J]. IEEE Trans on Intelligent Transportation Systems, 2015, 16(2): 865-873.
[27]
Hinton G E, Osindero S, Teh Y W. A fast learning algorithm for deep belief Nets[J]. Neural Computation, 2006, 18(7): 1527-1554. DOI:10.1162/neco.2006.18.7.1527
[28]
Hinton G E, Salakhutdinov R R. Reducing the dimensionality of data with neural networks[J]. Science, 2006, 313(5786): 504-507. DOI:10.1126/science.1127647