73Adaboost算法改进BP神经网络预测研究

发布时间：2016-11-15 23:10

本文关键词：Adaboost算法改进BP神经网络预测研究，由笔耕文化传播整理发布。

ＣＮ４３—１２５８／ＴＰＩＳＳＮ１００７—１３０；计算机工程与科学；ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅ；第３５卷第８期２０１３年８月；Ｖ０１．３５，Ｎｏ．８，Ａｕｇ．２０１３；文章编号：１００７一１３０Ｘ（２０１３）０８—０；Ａｄａｂｏｏｓｔ算法改进ＢＰ神经网络预测研究；李翔，朱全银；（淮阴工学院计算机工程学院，江苏淮安２２３００３；摘要：针对

ＣＮ４３—１２５８／ＴＰＩＳＳＮ１００７—１３０Ｘ

计算机工程与科学

ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ

第３５卷第８期２０１３年８月

Ｖ０１．３５，Ｎｏ．８，Ａｕｇ．２０１３

文章编号：１００７一１３０Ｘ（２０１３）０８—００９６—０７

Ａｄａｂｏｏｓｔ算法改进ＢＰ神经网络预测研究。

李翔，朱全银

（淮阴工学院计算机工程学院，江苏淮安２２３００３）

摘要：针对传统ＢＰ神经网络容易陷入局部极小、预测精度低的问题，提出使用Ａｄａｂｏｏｓｔ算法和

ＢＰ神经网络相结合的方法，提高网络预测精度和泛化能力。该方法首先对样本数据进行预处理并初始化测试数据分布权值；然后通过选取不同的隐含层节点数、节点传递函数、训练函数、网络学习函数构造出不同类型的ＢＰ弱预测器并对样本数据进行反复训练；最后使用Ａｄａｂｏｏｓｔ算法将得到的多个ＢＰ神经网络弱预测器组成新的强预测器。对ＵＣＩ数据库中数据集进行仿真实验，结果表明本方法比传统ＢＰ网络预测平均误差绝对值减少近５０％，提高了网络预测精度，为神经网络预测提供借鉴。

关键词：神经网络；强预测器；迭代算法；ａｄａｂｏｏｓｔ算法中图分类号：ＴＰｌ８３

ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００７—１３０Ｘ．２０１３．０８．０１５

文献标志码：Ａ

ＰｒｅｄｉｃｔｉｏｎｏｆｉｍｐｒｏｖｅｄＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

ｂｙＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ

ＬＩＸｉａｎｇ，ＺＨＵＱｕａｎ—ｙｉｎ

（Ｆａｃｕｌｔｙｏｆ

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ，ＨｕａｉｙｉｎＩｎｓｔｉｔｕｔｅｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｕａｉ’ａｎ２２３００３，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：ＴｈｅｔｒａｄｉｔｉｏｎａｌＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）ｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｅａｓｙ

ａｎｄｈａｓｌｏｗｅｒａｃｃｕｒａｃｙ．ＡｃｃｏｒｄｉｎｇＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｐｒｏｐｏｓｅｄ

ｔｏ

ｆａｌｌｉｎｔｏｌｏｃａｌｍｉｎｉｍｕｍ

ｔｈｉｓｐｒｏｂｌｅｍ，ａｍｅｔｈｏｄｔｈａｔｃｏｍｂｉｎｅｓｔｈｅＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍａｎｄ

ｉｍｐｒｏｖｅｔｈｅｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙａｎｄｇｅｎｅｒａｌｉｚａｔｉｏｎａｂｉｌｉｔｙｏｆｔｈｅｎｅｕｒａｌ

ｎｅｔｗｏｒｋ．Ｆｉｒｓｔｌｙ，ｔｈｅｍｅｔｈｏｄｐｒｅｐｒｏｃｅｓｓｅｓｔｈｅｈｉｓｔｏｒｉｃａｌｄａｔａａｎｄｉｎｉｔｉａｌｉｚｅｓｔｈｅｄｉｓｔｒｉｂｕｔｉｏｎｗｅｉｇｈｔｓｏｆ

ｔｅｓｔ

ｄａｔａ．Ｓｅｃｏｎｄｌｙ，ｉｔｓｅｌｅｃｔｓｄｉｆｆｅｒｅｎｔｈｉｄｄｅｎｌａｙｅｒｎｏｄｅｓ，ｎｏｄｅｔｒａｎｓｆｅｒｆｕｎｃｔｉｏｎｓ，ｔｒａｉｎｉｎｇｆｕｎｃｔｉｏｎｓ，

ｔｏｃｏｎｓｔｒｕｃｔ

ａｎｄｎｅｔｗｏｒｋｌｅａｒｎｉｎｇｆｕｎｃｔｉｏｎｓｗｅａｋｐｒｅｄｉｃｔｏｒｓｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋａｎｄｔｒａｉｎｓｔｈｅｓａｍｐｌｅ

ｔｏ

ｄａｔａｒｅｐｅａｔｅｄｌｙ．Ｆｉｎａｌｌｙ，ｉｔｍａｄｅｍｏｒｅｗｅａｋｐｒｅｄｉｃｔｏｒｓｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

ｆｏｒｍ

ａ

ｎｅｗｓｔｒｏｎｇｐｒｅ—

ｄｉｃｔｏｒｂｙＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ．ＴｈｅｄａｔａｂａｓｅｏｆＵＣＩ（ＵｎｉｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒｎｉａＩｒｖｉｎｅ）ｉｓｕｓｅｄｉｎｅｘｐｅｒｉ－ｍｅｎｔｓ．Ｔｈｅｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｉｓｍｅｔｈｏｄｐａｒｅｄ

ｔｏ

ｃａｎ

ｒｅｄｕｃｅｎｅａｒｌｙ５０％ｆｏｒｔｈｅｍｅａｎ

ｅｒｒｏｒ

ａｂｓｏｌｕｔｅｖａｌｕｅｃｏｒｎ—

ｔｈｅｔｒａｄｉｔｉｏｎａｌＢＰｎｅｔｗｏｒｋ，ａｎｄｉｍｐｒｏｖｅｔｈｅｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙｏｆｎｅｔｗｏｒｋ．Ｓｏｔｈｉｓｍｅｔｈｏｄ

ｐｒｏｖｉｄｅｓｒｅｆｅｒｅｎｃｅｓｆｏｒｔｈｅｎｅｕｒａｌｎｅｔｗｏｒｋｐｒｅｄｉｃｔｉｏｎ．

Ｋｅｙｗｏｒｄｓ：ｎｅｕｒａｌｎｅｔｗｏｒｋ；ｓｔｒｏｎｇｐｒｅｄｉｃｔｏｒ；ｉｔｅｒａｔｉｖｅａｌｇｏｒｉｔｈｍ；ａｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ

络具有较高的预测精度、较好的通用性、较强的非

引言

反向传播ＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一［１］。ＢＰ神经网

线性映射能力等优点。但是，ＢＰ神经网络也存在一些缺陷，主要表现为容易陷入局部极小值、算法收敛速度较慢、隐含单元的数目选择尚无一般性指导原则、新加入的学习样本对已学完样本的学习结果影响较大等问题。

收稿日期：２０１２—０６—１８｝修回日期：２０１２—１０—２２

基金项目：国家星火计划资助项且（２０１１ＧＡ６９０１９０）；江苏省属高校自然科学重大基础研究资助项目（１１ＫＪＡ４６０００１）通讯地址：２２３００３江苏省淮安市大学城淮阴工学院计算机工程学院

Ａｄｄｒｅｓｓ：ＦａｃｕｌｔｙｏｆＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ，ＨｕａｉｙｉｎＩｎｓｔｉｔｕｔｅｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｕａｉ’ａｎ

２２３００３，Ｊｉａｎｇｓｕ，Ｐ，Ｒ．Ｃｈｉｎａ

李翔等：Ａｄａｈｏｏｓｔ算法改进ＢＰ神经网络预测研究针对以上问题，提出了很多ＢＰ网络改进方

法。文献［２，３］提出通过采用附加动量法和变学习

率改进ＢＰ网络。附加动量法有助于使网络从误差曲面的局部极小值中跳出，但对于绝大多数实际应用问题，该方法训练速度仍然较慢。变学习率方法根据误差变化自适应调整，使权系数调整向误差

减少的方向变化，但该方法仍然存在权值修正量较

小的问题，导致学习率降低。文献［４，５］提出使用粒子群算法优化ＢＰ网络，使网络训练收敛到全局的最优，已解决了ＢＰ算法易陷入局部极小值的问题，但该算法只能有限提高原有ＢＰ神经网络的预测精度，并不能把预测误差较大的ＢＰ神经网络优化为能够准确预测的ＢＰ网络，且对样本数量少、样本分布不均匀而造成预测误差大的问题，优化后

的网络预测能力一般得不到明显提高。文献［６１提

出将Ａｄａｂｏｏｓｔ算法应用到ＢＰ网络，但选用的数据记录仅有１１条，预测结果可信度不足。

本文针对上述问题，提出ＢＰ神经网络结合Ａｄａｂｏｏｓｔ算法组成的强预测器的方法，并用ＵＣＩ

数据库中的数据集进行仿真实验，证明本文所提方

法的有效性。

２

ＢＰ神经网络与Ａｄａｂｏｏｓｔ算法

２．１

ＢＰ神经网络原理

ＢＰ神经网络是一种有监督学习多层前馈神经

网络，其主要特点是信号前向传递、误差反向传播［７］。在信号前向传递过程中，输入信号从输入层

进入，经过隐含层处理，到达输出层。每一层的神经元状态只影响下一层的神经元状态。判断输出层的结果是否为期望输出，如果不是，则转入反向传播，然后根据预测误差调整网络权值和阈值，从而使ＢＰ神经网络预测输出不断逼近期望输出［８］，ＢＰ神经网络的拓扑结构如图１所示。

输人层

患舍层

输出层

Ｆｉｇｕｒｅ１

Ｔｏｐｏｌｏｇｉｃａｌ

ｓｔｒｕｃｔｕｒｅ

ｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

图１ＢＰ神经网络拓扑结构图

９７

图１中，ｚｌ，ｚ：，…，ｚ。是ＢＰ神经网络的输入值，姐。…，Ｙ。是ＢＰ神经网络的预测值，∞ａ和∞业为ＢＰ神经网络权值。

２．２

Ａｄａｂｏｏｓｔ算法原理

Ａｄａｂｏｏｓｔ是一种迭代算法，通过对弱学习算

法的加强而得到强学习算法，即通过一个包含关键特征的弱分类器集合，构建出具有理想分类能力的强分类器口］。Ａｄａｂｏｏｓｔ算法的优点在于它使用加权后选取的训练数据代替随机选取的训练样本，将弱分类器联合起来，使用加权的投票机制代替平均投票机制［１

０。。

２．３基于Ａｄａｂｏｏｓｔ算法的ＢＰ神经网络预测模型

本文通过对ＢＰ神经网络选取不同参数来构造多类ＢＰ弱预测器，然后使用Ａｄａｂｏｏｓｔ算法将得到的多个弱预测器组成新的强预测器。

ＢＰ神经网络在Ｍａｔｌａｂ中的构造函数为：

ｎｅｔ

ｎｅｗｆｆ（Ｐ，Ｔ，Ｓ，ＴＦ，ＢＴＦ，ＢＬＦ，ＰＦ，ＩＰＦ，

ＯＰＦ，ＤＤＦ），其中，Ｐ为输人数据矩阵，Ｔ为输出

数据矩阵，Ｓ为隐含层节点数，”为节点传递函

数，ＢＴＦ为训练函数，ＢＬＦ为网络学习函数，ＰＦ为性能分析函数，ＩＰＦ为输人处理函数，ｏＰＦ为输

出处理函数，ＤＤＦ为验证数据划分函数。一般通

过设置Ｓ、”、ＢＴＦ、ＢＬＦ几个参数来改变ＢＰ神

经网络性能，可选择值如表１所示。

Ｔａｂｌｅ１

Ｆｕｃｔｉｏｎ

ｐａｒａｍｅｔｅ隋ｏｆＢＰ

ｎｅ删ｎｅｔｗｏｒｋ

裹１

ＢＰ神经圈络函数参敛

参数含义

可选参散及Ｍａｆｌａｂ实瑷函数

ｓ＜ｎ一１（＾为输人层节点数）

。融舍层ｓ＜／石再■万＋ｎ（ｎ为输入层节点数，ｍ为输出

。

节点数层节点数．ｎ为ｏ～ｌｏ的常数）

Ｓ—Ｉｂｎ（ｎ为输入层节点数）

仃薹言蠖黧兰№

硬限幅传递函数ｈａｒｄｌｉｍ

对数Ｓ型传递函数Ｉｏｇｓｉｇ

梯度下降ＢＰ算法弼练函数ｔｒａｉｎｇｄ

动量反传的梯度下降ＢＰ算法训练函数ｔｒａｉｎｇｄｍ

…

。，。训练动态自适应学习率的ＢＰ算法训练函数ｔｒａｉｎｇｄａ函数

动量反传和动态自适应学习率的梯度下降ＢＰ算法调练函数ｔｒａｉａｇｄｘ

Ｌｅｖｅｎｂｅｒｇ＿Ｍａｒｑｕａｒｄｔ的ＢＰ算法训练函数ｔｒａｉｎｌｍ

…网络学ＢＰ学习规则函数ｌｅａｒｎｇｄ

～‘习函数带动量项的ＢＰ学习规则函数ｌｅａｒｎｇｄｒｒｌ

通过ｎｅｗｆｆ函数及Ｓ、ＴＦ、ＢＴＦ、ＢＬＦ等参数

的调整，可以构造出不同类型的ＢＰ弱预测器。

本文提出的基于Ａｄａｂｏｏｓｔ算法的ＢＰ神经网

９８

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ计算机工程与科学２０１３，３５（８）

络预测算法流程如图２所示。

［捧磁据选择）ＨＢ嘲预测器供型１）卜

叫ＢＰ弱预测器供型２）卜Ａｄａｂｏｏｓ！

ｉ

‰㈤＝半×｛宇，妒ｌ副

踟㈤一室峰塑型

圣（ｂｇ击）

实验与结果分析７、。一。一，。’一…

３?１实验数据

ｌ样本数据预处理卜＿叫船弱预测器供型３）卜．

Ｌ叫ＢＰ弱预测器供型帕卜

Ｆｉｇｕｒｅ２

算法迭

代运算

图

２Ａｄａｂｏｏｓｔ算法的ＢＰ神经网络预测算法流程图３基于甜ＢＰ基于算法详细步骤如下：

步骤１样本数据选择及网络初始化。令迭

ｎｅｕ銎法ｎｅ的ｔｗｏｒｋ神ｗｉ经ｔｈ黼二法流程图

Ｌ

，‘Ｊ

Ｐｒｅｄｉｃｔｉｏｎａｌｇｏｒｉｔｈｍｆｌｏｗｃｈａｒｔ

代次数ｔ一１时，权值分布ｌｎ（ｉ）＝÷ｌ，ｉ＝１，２，

…，咒，其中九为训练集样本的数量，令初始误差率￡。一ｏ。根据样本输入输出维数设计网络结构，并对ＢＰ网络权值和阈值咖（ｏ＜≯＜１）进行初始化设置。

步骤２样本数据预处理。步骤３

ＢＰ弱预测器预测。通过选取不同

ＵＣＩ数据库是美国加州大学欧文分校（Ｕｎｉ—

ｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒｎｉａ

Ｉｒｖｉｎｅ）提供的用于机器学习

的著名数据库，该库目前共有２２０个数据集，并且其数目还在不断增加。本实验选择ＵＣＩ数据库中

的Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ、Ｃｏｎｃｒｅｔｅ

Ｃｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ两个数据集进行回归预测，数据集下载地址为ｈｔｔｐ：／／ａｒｃｈｉｖｅ．ｉｃｓ．ｕｃｉ．ｅｄｕ／ｍｌ／ｄａｔａｓｅｔｓ／。

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ数据集包含２０９条计算

ＢＰ神经网络函数构造不同类别ＢＰ弱预测器。对

机ＣＵＰ性能数据，该数据集共有１０个属性，分别为ＶｅｎｄｏｒＮａｍｅ（Ｐ１）、ＭｏｄｅｌＮａｍｅ（Ｐ２）、ＭＹＣＴ（Ｐ３）、ＭＭＩＮ（Ｐ。）、ＭＭＡＸ（Ｐ５）、ＣＡＣＨ（Ｐ６）、

ＣＨＭＩＮ（Ｐ７）、ＣＨＭＡＸ（Ｐ。）、ＰＲＰ（Ｚ０）、ＥＲＰ

于￡＝１，…，丁进行迭代，在训练第ｔ个弱预测器

时，使用ＢＰ神经网络对训练数据进行训练，建立回归模型ｇ。（ｚ）一ｙ。

计算ｇ。（ｚ）的误差率ｅ。：

（Ｚ，。），其中ＰＲＰ为硬件厂商公布的性能，ＥＲＰ为预测性能。从中随机选取１６９组数据作为训练数据，４０组数据作为测试数据，选取Ｐ３～Ｐ。作为训练属性，选取磊作为实际输出，Ｚ。。供参考。

Ｃｏｍｐｕｔｅｒ

ｅ。一＞：Ｄ。（ｉ）

其中ｉ满足Ｉ垒鱼生二苎Ｉ＞≯。

Ｙｉ

步骤４测试数据权重调整。令Ｂ＝ｅ；，更新

权重如下，式中Ｂｆ为标准化因子：

Ｔａｂｌｅ２

Ｈａｒｄｗａｒｅ数据集原始数据如表２所

示。

ＣｏｍｐｕｔｅｒｈａｒｄｗａｒｅｄａｔａｓｅｔＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ数据集

Ｐｔ

Ｐ７

Ｐｓ

ｚ９

表２

释号ＰＬ

１

ａｄｖｉｓｅｒ

Ｐ２

Ｐ３

Ｐ‘Ｐｓ

３２／６０４７０ｖ／７４７０ｖ／７ａ４７０ｖ／７ｂ４７０ｖ／７ｃ

ｉ

ｖｓ－１００

１２５２５６６０００２５６１６１２８１９８

２ａｍｄａｈｌ２９８０００３２０００３２８３２２６９

３ａｍｄａｈｌ２９８０００３２０００３２８３２２２０

４

ａｍｄａｈｌ２９８０００３２０００３２８化驼；

５

ａｍｄａｈｌ２９

８０００

１６０００

３２８

１

２０８

；ｉ

４８０

ｉ

５１２

；

８０００

；

３２

ｉ

０

ｗａｎｇ

盯帖

２０９

ｗａｎｇ

ｖｓ－９０４８０１０００４０００００

李翔等：Ａｄａｂｏｏｓｔ算法改进ＢＰ神经网络预测研究

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ数据集包含１

０３０条混凝土抗压强度数据，该数据集共有９个属性Ｃｅｍｅｎｔ（Ｐ１）、Ｂｌａｓｔ

ＦｕｒｎａｃｅＳｌａｇ（Ｐ２）、ＦｌｙＡｓｈ

（Ｐ３）、Ｗａｔｅｒ（Ｐ４）、Ｓｕｐｅｒｐｌａｓｔｉｃｉｚｅｒ（Ｐ５）、Ｃｏａｒｓｅ

Ａｇｇｒｅｇａｔｅ（Ｐ６）、ＦｉｎｅＡｇｇｒｅｇａｔｅ（Ｐ７）、Ａｇｅ（Ｐ８）、

４５００５０４００厂—Ｐ

ｆ｝

９９

Ｉ匕＝型望型１

１

０

３５０

掣３００

２５０噻２００

１５０

Ｃｏｎｃｒｅｔｅ（Ｚ９），其中，Ｃｏｎｃｒｅｔｅ（Ｚ９）为输出的混凝土抗压强度。从中随机选取１０００组数据作为训练数据，３０组数据作为测试数据。Ｃｏｎｃｒｅｔｅ

ｐｒｅｓｓｉｖｅ

Ｃｏｍ—

１００５０

Ｓｔｒｅｎｇｔｈ数据集原始数据如表３所示。

５

１０

１５２０２５３０３５４０

３．２实验及结果分析

使用１０个ＢＰ神经网络构成弱预测器序列，

Ｆｉｇｕｒｅ３

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ预测样本

ｅｒｒｏｒ

Ａｂｓｏｌｕｔｅｖａｌｕｅｏｆｃｏｍｐｕｔｅｒｈａｒｄｗａｒｐｒｅｄｉｃｔｉｏｎ

Ｃｏｍｐｕｔｅｒ

这ｌｏ个ＢＰ神经网络的Ｓ、玎、ＢＴＦ、ＢＬＦ参数选

择如表４所示。

Ｔａｂｌｅ

图３

帖∞

弘

Ｈａｒｄｗａｒｅ预测误差绝对值图

４

ＰａｒａｍｅｔｅｒｓｅｌｅｃｔｉｏｎｏｆＢＰｗｅａｋｐｒｅｄｉｃｔｏｒ

表４ＢＰ弱预测器参数选择

遥

七’

》（

如巧加

博ｍ，００

鼎

渊媸

５１５１０

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅ

２０

２５

３０

Ｓｔｒｅｎｇｔｈ预测样本

Ｆｉｇｕｒｅ４

Ａｂｓｏｌｕｔｅｖａｌｕｅｏｆ

ｅｒｒｏｒ

Ｃｏｎｃｒｅｔｅｃｏｍｐｒｅｓｓｉｖｅｓｔｒｅｎｇｔｈｐｒｅｄｉｃｔｉｏｎ

图４ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ预测误差绝对值图

Ｃｏｍｐｕｔｅｒ

ｓｉｖｅ

ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

ｓｉｖｅ

Ｈａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

Ｓｔｒｅｎｇｔｈ数据集的网络训练过程中误差均方

下降曲线分别如图５和图６所示。

Ｃｏｍｐｕｔｅｒｓｉｖｅ

Ｓｔｒｅｎｇｔｈ数据集的强预测器预测误差绝对值Ｈａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

和弱预测器预测平均误差绝对值图分别如图３和图４所示。

Ｔａｂｌｅ３

ＣｏｎｃｒｅｔｅＣｏｎｃｒｅｔｅ

Ｓｔｒｅｎｇｔｈ数据集的网络训练回归状态图分别

如图７和图８所示。

ｃｏｍｐｒｅｓｓｉｖｅｓｔｒｅｎｇｔｈｄａｔａｓｅｔ

表３

序号

１

Ｐｌ

Ｐ２

Ｐ３

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ数据集

Ｐ５

Ｐ６

Ｐ７

Ｐ８

Ｐ４Ｚ９

７９．９９

５４０００

１６２２．５１０４０６７６２８

２５４０

Ｏ

Ｏ１６２２．５１０５５６７６２８６１．８９

３

３３２．５

１４２．５Ｏ

２２８０９３２５９４２７０４０．２７

４３３２．５１４２．５Ｏ２２８０９３２５９４３６５４１．０５

５１９８．６１３２．４Ｏ１９２０９７８．４８２５．５３６０４４．３０

：

●

：

●

：

●

１０２９１５９．１１８６．７Ｏ１７５．６

１１．３９８９．６７８８．９２８３２．７７

１０３０

２６０．９

１００．５

７８．３２００．６８．６８６４．５７６１．５２８３２．４０

１００

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ计算机工程与科学２０１３，，３５（８）

Ｔｒａｉｎｉｎｇ：Ｒ－－Ｏ

０．５

９３２５１

Ｖａｌｉｄａｔｉｏｎ：Ｒ＝Ｏ９２１４１

ｏ。

ｇ

篙

ｑ

宁

一４－

暨０

宁±‰

昌冬

０南

吨Ｃ

帮一０．５圭

导

土

星

兰Ｃ

言一１

ＴａｒｇｅｔＴｅｓｔ：Ｒ＝０．９６９０７

Ａｌｌ：Ｒ＝０９２８８４

兰ｏ

０２４

６

ｌＯＥｐｏｅｈｓ

０

Ｆｉｇｕｒｅ５

Ｄｅｃｌｉｎｅ

ｃｕｒｖｅ

ｏｆＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ

图５

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ误差均方下降曲线

Ｆｉｇｕｒｅ８

Ｒｅｇｒｅｓｓｉｏｎ

Ｃｏｎｃｒｅｔｅ

ｓｔａｔｅ

ｏｆＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ

图８

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ回归状态图Ｃｏｎｔｒａｓｔｂｅｔｗｅｅｎｍｅａｎ

ｐｒｅｄｉｃｔｉｏｎｒｅｓｕｌｔｓ

Ｔａｂｌｅ７

ｅｒｒｏｒ

ａｂｓｏｌｕｔｅｖａｌｕｅｏｆ

表７预测结果平均误差绝对值对比

预测模型ｃｏ平ｍ均ｐｕ误ｔｅｒ差Ｈ绝ａｒ对ｄｗ值ａｒｅ

ｃ帆；｛ｉ！；蕊８ｉｗ

２．２９４．７８

２０Ｅｐｏｃｈｓ

ＡｄａｂｏｏｓｔＢＰ３３．８９

Ｆｉｇｕｒｅ６

Ｄｅｃｌｉｎｅ

ｃｕｒｖｅ

ｏｆＣｏｎｃｒｅｔｅ

ＢＰ６８．３６

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈＭＳＥ

图６

卜

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ误差均方下降曲线

Ｔｒａｉｎｉｎｇ：Ｒ－－０．９８４２４

使用相关系数Ｒ来表示拟合的好坏，Ｒ的取值范围为［ｏ１］，Ｒ越接近１，表明方程的变量对Ｙ的解释能力越强，这个模型对数据拟合得也较好。

从图３可以看出，ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ数据集预测误差值中，强预测器预测误差明显小于弱预测器预测误差，强预测器整体预测误差较小，预测结果较好。从图５可以看出，ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ数据集训练的误差均方下降曲线收敛速度较快，在第

ｇ宁

老

毒

冬

詈一０

１

圣

毒一

罨。

±鲒

Ｔｅｓｔ：Ｒ：ｏ９１４１２

ｌ

Ａｌｌ：Ｒ＝０．９６９０７

四步时达到最好的验证集效果为０．００５５，误差曲线开始趋于平缓，误差值基本不再发生变化，效果较好。从图７可以看出，强预测器预测的训练集

０５

喜｝ｇ

０

有一０

土

０５

Ｒ一０．９８４Ｒ一０．９１４

２，验证集Ｒ一０．９８６３，测试集１，总体Ｒ一０．９６９０，回归预测结果很好。

Ｃｏｍｐｒｅｓｓｉｖｅ

己

芎ｅ‘

－０．５Ｔａｒｇｅｔ

０

一

●

从图４可以看出，Ｃｏｎｃｒｅｔｅ

Ｓｔｒｅｎｇｔｈ数据集预测误差值中，强预测器预测误差

ｓｔａｔｅ

Ｆｉｇｕｒｅ７

Ｒｅｇｒｅｓｓｉｏｎ

ｏｆＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ明显小于弱预测器预测误差，强预测器整体预测误差较小，预测结果较好。从图６可以看出，Ｃｏｎ－

ｃｒｅｔｅ

图７ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ回归状态图

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ数据集测预误差如表５

Ｃｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ数据集训练的误差均

所示，Ｃｏｎｃｒｅｔｅ表７所示。

Ｓｔｒｅｎｇｔｈ数据集预测

方下降曲线在第１５步时达到最好的验证集效果为

０．００２

误差如表６所示，预测结果平均误差绝对值对比如

１，误差曲线开始趋于平缓，误差值基本不再

发生变化，效果较好。从图８可以看出，强预测器

下载地址：73Adaboost算法改进BP神经网络预测研究_图文.Doc

　　【】