神经网络算法范文

神经网络算法范文第1篇

关键词：计算机网络模型；神经网络算法

计算机网络在人们日常生活越来越重要，被广泛应用到各个行业。随着社会不断发展，人们需求不断加高，使计算机得到良好改善，目前，计算机网络运用集线式服务器来实现网络互连，促进网络发展。但是也有很大弊端，过多的联想信息虽然满足人们需求，但是对技术的要求也更加苛刻，现有的技术满足不了计算机网络运行，使人们日常操作不方便。为了解决这一问题，研究人员需要全面优化计算机网络，提高运行能力和性能，运用神经网络算法，使计算机更加适合现代社会发展，储存更多信息。

1神经网络算法概论分析

1.1神经网络算法整体概论神经网络算法是按照人体大脑的思维方式进行模拟，根据逻辑思维进行推理，将信息概念化形成人们认知的符号，呈现在显示屏前。根据逻辑符号按照一定模式进行指令构造，使计算机执行。目前，神经网络被广泛使用，使直观性的思维方式分布式存储信息，建立理论模型。优化网络的神经网络主要是Hop?eld神经网络，是1982年由美国物理学家提出的，它能够模拟神经网络的记忆机理，是全连接的神经网络。Hop?eld神经网络中的每个神经元都能够信号输出，还能够将信号通过其他神经元为自己反馈，那么其也称之为反馈性神经网络。

1.2优化神经网络基本基础Hop?eld神经网络是通过能量函数分析系统，结合储存系统和二元系统的神经网络，Hop?eld神经网络能收敛到稳定的平衡状态，并以其认为样本信息，具备联想记忆能力，使某种残缺信息进行回想还原，回忆成完整信息。但是Hop?eld神经网络记忆储存量有限，而且大多数信息是不稳定的，合理优化计算机联想问题，使Hop?eld神经网络能够建设模型。

1.3神经网络算法优化步骤简述人工神经网络是模拟思维，大多是根据逻辑思维进行简化，创造指令使计算机执行。神经网络算法是按照人体思维进行建设，通过反应问题的方法来表述神经思维的解；利用有效条件和能量参数来构造网络系统，使神经网络算法更加可靠；大多数动态信息需要神经网络来根据动态方程计算，得出数据参数来进行储存。

2神经网络算法的特点与应用

2.1神经网络主要特点神经网络是根据不同组件来模拟生物体思维的功能，而神经网络算法是其中一种程序，将信息概念化，按照一定人们认知的符号来编程指令，使计算机执行，应用于不同研究和工程领域。神经网络在结构上是由处理单元组成，模拟人体大脑神经单元，虽然每个单元处理问题比较简单，但是单元进行组合可以对复杂问题进行预知和处理的能力，还可以进行计算，解决问题能力突出，能够运用在计算机上，可以提高计算机运算准确度，从而保障计算机运行能力。而且一般神经网络有较强容错性，不同单元的微小损伤并不阻碍整体网络运行，如果有部分单元受到损伤，只会制约运算速度，并不妨碍准确度，神经网络在整体性能上能够正常工作。同时，神经网络主干部分受到损伤，部分单元会进行独立计算，依然能够正常工作。

2.2神经网络信息记忆能力神经网络信息存储能力非常强，整体单元组合进行分布式存储。目前，神经网络算法是单元互相连接，形成非线性动态系统，每个单元存储信息较少，大量单元互相结合存储信息大量增加。神经网络具备学习能力，通过学习可以得到神经网络连接结构，在进行日常图像识别时，神经网络会根据输入的识别功能进行自主学习，过后在输入相同图像，神经网络会自动识别。自主学习能力给神经网络带来重要意义，能够使神经网络不断成长，对人们未来日常工作能够很好预测，满足人们的需求。

2.3神经网络的突出优点近年来，人工神经网络得到越来越多人重视，使神经网络得到足够资源进行良好创新。人工神经网络是由大量基本元件构成，对人脑功能的部分特性进行模仿和简化，人工神经网络具备复杂线性关系，与一般计算机相比，在构成原理和功能特点更加先进，人工神经网络并不是按照程序来进行层次运算，而是能够适应环境，根据人们提供的数据进行模拟和分析，完成某种运算。人工神经系统具备优良容错性，由于大量信息存储在神经单元中，进行分布式存储，当信息受到损害时，人工神经系统也可以正常运行。人工神经网络必须要有学习准则制约来能够自主学习，然后进行工作。目前，人工神经网络已经逐步具备自适应和自组织能力，在学习或训练过程中改变突触权重值，以适应周围环境的要求。通过一定学习方式和某些规则，人工神经网络可以自动发现环境特征和规律性，更贴近人脑某些特征。采用并行分布处理方法，使得快速进行大量运算成为可能。神经网络的一个很大的优点是很容易在并行计算机上实现，可以把神经的节点分配到不同的CPU上并行计算。钱艺等提出了一种神经网络并行处理器的体系结构，能以较高的并行度实现典型的前馈网络如BP网络和典型的反馈网络(如Hop?eld网络)的算法。该算法以SIMD(SingleInstructionMultipleData)为主要计算结构，结合这两种网络算法的特点设计了一维脉动阵列和全连通的互连网络，能够方便灵活地实现处理单元之间的数据共享。结合粒子群优化算法和个体网络的并行学习机制，提出了一种基于粒子群优化的并行学习神经网络集成构造方法。

3结束语

全球化的发展，信息交流不断加快，促使各个行业相互融合。神经网络算法具备简单、稳定等不同优势，神经网络研究内容相当广泛，神经网络算法能够与其它算法相互结合，在一定程度提高计算机网络模型运算能力。但是计算机网络模型中神经网络算法学习能力比较低下，梯度下降法不准确，所以需要有关人员进行深度研究，探索神经网络算法，使其更加完善，从而保证计算机整体性能的提高。

参考文献：

[1]陈竺.计算机网络连接增强优化中的神经网络算法[J].电子技术与软件工程,2014(19).

[2]史望聪.神经网络在计算机网络安全评价中的应用分析[J].自动化与仪器仪表,2016(06).

神经网络算法范文第2篇

[关键词] 前馈神经网络 Levenberg-Marquardt算法 BP算法

前馈神经网络BP学习算法在理论上具有逼近任意非线性连续映射的能力,在非线性系统的建模及控制领域里有着广泛的应用。然而BP 算法存在一些不足, 主要是收敛速度很慢; 往往收敛于局部极小点; 数值稳定性差, 学习率、动量项系数和初始权值等参数难以调整，非线性神经网络学习算法Levenberg-Marquardt可以有效地克服BP算法所存在的这些缺陷。

一、前馈神经网络

前馈神经网络由输入层、隐层和输出层组成。令u=[u1,u2,Λ，um]T,y=[y1,y2,Λ,yn]T络的输入、输出向量, 令X=[x1,x2,Λ,xN]T为网络的权及阈值的全体所组成的向量。给定P组输入输出训练样本定义网络的误差指标函数为:

(1)

(2)

然后就可以按照各种学习算法开始对X进行训练, 得到最优Xopt, 使得

二、Levenberg-Marquardt神经网络算法

1.给定初始点X(0), 精度，σ，k=0。

2.对i=1,2,…,M求fi(X(k)),得向量

对i=1,2,…,M求得Jacobi矩阵

3.解线性方程组求出搜索梯度方向h(k)。

4.直线搜索,其中λk满足

5.若则得到解Xopt，转向7（停止计算）; 否则转向6。

6.F（X(k+1)）＜F(X(k)),则令,k=k+1, 转向2; 否则=*ξ,转向3。

7.停止计算

在实际操作中，是一个试探性的参数，对于给定的，如果求得的h(k)能使误差函数Ep(X)降低，则被因子ξ除；若误差函数Ep(X)增加，则乘以因子ξ。在仿真中，选取初始值=0.01，ξ=10。在采用Levenberg-Marquardt算法时，为使收敛速度更快，需要增加学习率因子α，取α为0.4。Levenberg-Marquardt算法的计算复杂度为为网络权值数目，如果网络中权值的数目很大。则计算量和存储量都非常大。因此，当每次迭代效率显著提高时，其整体性能可以大为改善，特别是在精度要求高的时候。

三、结论

前馈神经网络中，BP 算法存在收敛速度很慢，收敛于局部极小点等缺陷，而Gauss-Newton的改进算法Levenberg-Marquardt算法能有效克服BP 算法的缺陷。

参考文献：

[1]徐嗣鑫 戴友元:前向神经网络的一种快速学习算法及其应用.控制与决策, 1993, 8(4): 284～ 288

[2]王耀南 童调生 蔡自兴:基于神经元网络的智能PID控制及应用。信息与控制, 1994, 23(3): 185～189

神经网络算法范文第3篇

针对传统的航迹关联算法在运动目标交叉、分岔时，常出现错漏相关航迹且计算量随着传感器和目标数量增加而飞速增长的缺陷，提出一种改进的Kohonen神经网络航迹关联算法。该算法由聚类关联、目标状态估计、神经元优化和状态融合估计等模块组成。通过给每个竞争层神经元加上一个合适的阈值，有效避免了常规的Kohonen神经网络因初始权值选择不合适而容易造成坏死神经元的问题。进一步设计了自组织竞争神经网络学习规则，将多传感器在同一时刻的测量数据进行自组织聚类，从而实现测量数据的有效关联。最后，利用连续时间下的关联数据，实现运动目标航迹关联。仿真研究验证了该算法的可行性和有效性。

关键词：

自组织竞争；神经元优化；阈值；坏死神经元；聚类；航迹关联

0引言

航迹关联是多传感器多目标数据融合系统的关键技术之一。在分布式多传感器的环境下，各传感器独立观测目标，收集了大量的目标航迹信息，需要通过有效的航迹关联来确定传感器量测信息与目标源的对应关系。因此，航迹关联要解决多传感器空间覆盖区域中的重复跟踪问题，同时也包含了将不同目标区分开来的任务，是解决目标综合识别中多传感器信息有效融合的关键问题之一[1]。

以往解决航迹关联算法问题主要采用基于统计和似然的方法，如最近邻域（Nearest Neighbor，NN）法[2]，K近邻域、分布式联合概率数据关联法[3]和独立序贯法[4]等，这类方法基本上都是基于两两关联的。在多目标环境下，这些关联方式增加了关联的次数，提高了关联的运算量；另外，在密集目标环境下和目标的运动出现交叉或分岔等情况下，往往会得到错漏的相关航迹。为弥补传统方法的不足，近来，基于神经网络等智能技术研究航迹关联问题成为一个新的热点[5-8]。文献[9]提出一种运用BP神经网络实现航迹关联的方法，利用神经网络的泛化能力以及自组织自适应的学习功能，处理在密集目标环境下和运动出现交叉或分岔等难于处理的航迹问题。该方法本质上是把航迹关联问题转化为多维分配问题，即组合优化问题，其计算量会随着问题维数的增加出现指数爆炸现象；若方法不当，很难找到问题的最优解。

文献[10]提出了自组织竞争神经网络聚类算法，从本质上更新了航迹关联算法的思路，把航迹关联问题同目标分类问题联系在一起。它可以对传感器的测量数据进行无监督的自组织聚类，将各个测量数据准确划分到各个类别当中，通过对测量数据的正确关联，来实现多传感器多目标环境下的航迹关联。但由于自组织竞争神经网络自身特征，网络中还存在性能上需要提升的方面，比如，许多参数要凭经验选取等问题。

文献[11]系统地探讨了自组织竞争神经网络在聚类分析中存在的问题，其中，对网络聚类结果影响最直接的问题是该神经网络对初始权值的依赖性比较大，如果初始权值选择得不好，就有可能导致属于某一类别的样本数为0，形成坏死神经元。

本文结合当前航迹关联方法的研究现状，基于航迹关联思路的发展趋势，提出一种解决航迹关联问题的改进的Kohonen神经网络。通过在竞争层神经元上加上一个设定的合理阈值，避免坏死神经元的出现，从而弥补竞争性神经网络在聚类分析中对初始权值依赖性较大的不足；设计了自组织竞争神经网络学习规则，将多传感器在同一时刻的测量数据进行自组织聚类，实现测量数据的有效关联和目标状态融合估计。

4结语

本文基于神经网络强大的并行处理和学习能力，提出了一种改进的Kohonen神经网络航迹关联算法，解决多传感器多目标航迹关联问题。所提出的改进自组织神经网络利用了神经网络良好的容错性和自适应性，使关联判断随着环境的变化而自适应地变化，避免了过多错、漏关联。同时，聚类算法将所有测量数据作为一个整体进行关联判决，从而使关联速度不会因为传感器和目标数量的增加而过度下降。仿真结果也验证了方法的可行性和有效性。

本文提出的神经网络算法通过对bias的适时调整，避免了坏死神经元的出现。在一定范围内比Kohonen自组织竞争聚类神经网络在性能上有一定的提高，更好地保证了密集目标环境下航迹关联的正确率。然而，在聚类数据中不免出现个别孤立点，不同程度地影响网络聚类结果。因此，有关于初始聚类中心合理选择上还有待进一步的改善。另外，还需对大量更复杂的目标航迹进行仿真研究，以期将所提出方法应用于现代防空指挥自动化信息融合的实践中。

参考文献：

[1]

王晓伟，杨龙坡，胡军.多站雷达航迹关联的工程实现[J].空军雷达学院学报，2009，10（5）：334-336.

[2]

KOSAKA M，MIYAMOTO S，IHARA H.A track correlation algorithm for multisensor integration[C]// Proeeedings of the IEEE /AIAA 5th Digital Avionics Systems Conference.Seattle：IEEE Press，1983：l-8.

[3]

巴宏欣，赵宗贵，杨飞.多传感器多目标跟踪的JPDA算法[J].系统仿真学报，2004，16（7）： 1563-1566.

[4]

黄树峰，秦超英.序贯处理的多传感器航迹融合算法研究[J].计算机工程与应用，2010，46（16）：42-45.

[5]

ZHOU L，GAO Q，ZOU H L，et al.New optimal track correlation algorithm of threelocal node and its applications[J]. Journal of Information and Computational Science， 2011，8（7）：1189-1197.

[6]

KAPLAN L M， BLAIR W D， BARSHALOM Y. Simulations studies of multisensor track association and fusion methods[C]// Aerospace Conference.Big Sky， Montana：IEEE Press，2006： 1-16.

[7]

DUAN M， LIU J H.Track correlation algorithm based on neural network[C]// 2009 Second International Symposium on Computational Intelligence and Design. Washington， DC： IEEE Computer Society，2009：181-185.

[8]

任选宏，李希.模糊技术分布式多传感器系统量测-航迹相关算法[J].火力与指挥控制，2010，35（10）：174-176.

[9]

张池平，崔平远，张英俊.人工神经网络在航迹关联中的应用[J].黑龙江大学自然科学学报，2006，23（1）：38-41.

[10]

林岚，邱晓红. 运用自组织神经网络进行多目标跟踪的算法[J]. 现代雷达，2005，27（1）：24-28.

[11]

SHEN F R， OGURA T， HASEGAWA O. An enhanced selforganizing incremental neural network for online unsupervised learning[J].Neural Networks，2007，20（8）：893-903.

[12]

神经网络算法范文第4篇

关键词：数据融合；神经网络；卡尔曼滤波；强跟踪滤波

中图分类号：TP183文献标识码：B

文章编号：1004 373X(2009)02 059 04

Neural Network Algorithm Based on STF Filter

LAO Jianwei,ZHANG Guoliang

(Second Institute of Artillery Engineering,Xi′an,710025,China)

Abstract： Algorithm for feedforward neural network based on Kalman filter has some problems,the prediction information is inaccurate,even emanative because of the target model′s inaccuracy,and the larger estimate error makes tracking－disable because of sensors′ error.Aiming at these shortcomings,a learning algorithm based on Strong Tracking Filtering (STF) filter is proposed for training a neural network,it regards all the weight values as the states.The fading factor is introduced,and residuals are forced to have orthogonality or approximately orthogonality to solve these problems.Simulation results show that the new algorithm improves rapidity of network′s convergence,data′s accuracy,stability and target tracking performance.

Keywords：data fusion;neural network;Kalman filter;STF filter

0 引 言

移动机器人是机器人学领域中的一个重要研究分支，它是一个集环境感知、动态决策与规划、行为控制与执行等多种功能于一体的综合系统。移动智能机器人通过传感器感知环境和自身状态，而传感器受本身精度以及外界环境干扰等限制，所提供给上层决策系统的数据的可靠性十分有限，不足以满足控制系统的要求。移动机器人多传感器信息融合滤波技术弥补了传感器数据采集所固有的缺陷，现已成为移动机器人智能化研究领域的关键技术［1,2］。

针对不同应用问题，提出了多种数据融合算法，如加权平均法，贝叶斯方法、Dempster－Shafer证据推理理论(D－S证据理论)、模糊集理论、估计理论、卡尔曼滤波、概率统计决策理论和神经网络等。

文献［3］提出根据各传感器噪声方差，对各传感器实时测量值进行最优加权融合的滤波方法。该算法复杂度低，但滤波效果不是很明显。文献［4］提出的应用误差反向传播算法在实际应用中收敛速度慢，容易陷入局部最小等问题。文献［5］提出应用离散卡尔曼滤波对数据进行融合处理，但是，由于足球机器人系统是一个复杂、时变的非线性系统，传感器的输出信息没有规律性，所以突变状态的预测能力显得尤为重要，并且卡尔曼最优预测估计对目标运动模型依赖很大，当系统的建模与所研究的真实系统不相匹配时，会出现预测信息不准确，甚至发散等现象。

这里根据神经网络理论及强跟踪滤波器（STF）的特点，将STF滤波应用于神经网络方法中，提出基于STF滤波的神经网络算法对位置信息进行滤波和预测，改进的算法提高了滤波精度和数值稳定性，同时也提高了网络训练速度，以及对目标的跟踪性能。

1 基于STF滤波的神经网络算法

1.1 实验平台

该文实验平台为第二炮兵工程学院独立设计并研发制造的“东风Ⅱ代”足球机器人，如图1所示。

足球机器人比赛是近年来国际上兴起的一种高科技活动。其集机器人学、智能控制、数据融合、计算机技术、无线通信、图像处理、机械学等多种学科于一体，为控制理论提供了一个比较好的实验平台。

1.2 基于自适应卡尔曼滤波的神经网络算法

传统的神经网络存在收敛速度慢，容易陷入局部最小，数据稳定性差等问题。文献［6］提出将自适应卡尔曼滤波应用于神经网络。得到基于自适应卡尔曼滤波的神经网络算法，其中：

状态方程：

(k+1)=(k+1|k)+K(k+1)・

{Ye(k)-h\(k),Yr(k)\〗}(1)

状态一步预测方程：

(k+1|k)=(k|k)(2)

增益方程：

K(k+1)=P(k+1|k)hT(k+1)・

\-1(3)

误差协方差一步预测方程：

P(k+1|k)=P(k|k)(4)

误差协方差更新方程：

P(k+1)=\P(k+1|k)(5)

图1 “东风Ⅱ代”足球机器人

1.3 基于STF滤波的神经网络算法

卡尔曼最优预测估计对目标运动模型依赖很大，当系统的建模和所研究的真实系统不相匹配时，会出现预测信息不准，甚至发散等现象。应用于神经网络的卡尔曼滤波算法在公式推算时进行了泰勒展开，忽略高阶项的数学方法，因此，其状态方程的准确性在工程实践中很可能带来不确定的影响。

STF是一种非线性自适应滤波器，它可以用于一大类非线性系统的状态估计和状态与参数的联合估计。STF使用正交性原理，引入时变渐消因子，强迫残差具有正交性或近似正交性；这样目标模型不确定性对状态估计造成的影响就可以得到解决，同时通过实时调节增益，促使测量残差近似正交，克服由于传感器误差而造成的估计误差偏大导致跟踪失效的现象，从而提高了对目标的跟踪性能。

STF采用在线选择适当的时变增益K(k+1)，使：

E{\(k+1|k+1)\〗・

\(k+1|k+1)\〗T}=min(6)

E\=0，

k=1,2,…,i=1,2,…(7)

式(6)是卡尔曼滤波的性能指标；式(7)要求不同时刻的残差序列处处保持正交。已经证明，当模型与实际系统完全匹配时，卡尔曼滤波的输出残差序列是不自相关的高斯白噪声序列，式(7)满足这一要求，因而其不减弱卡尔曼滤波的性能。但在实际问题中，选择的模型不可避免地存在不确定性，因此卡尔曼滤波的输出残差不可能白化。建立在性能指标式(6)和式(7)基础上的STF，引进渐消因子λ(k+1)，实时调节增益K(k+1)，强迫输出残差近似为高斯白噪声，最大程度地提取输出残差中一切有效信息。渐消因子由下式计算：

λ(k+1)=λ0，λ0≥1

1，λ0＜1(8)

式中，λ0=tr\tr\；tr为矩阵的迹（对角线元素之和）。其中:

N(k+1)=S(k+1)-η R(k+1)(9)

M(k+1)=P(k|k)hT(k+1)h(k+1)(10)

S(k+1)=γ(1)γT(1)，k=0

ρS(k)+γ(k+1)γT(k+1)1+ρ，k≥1(11)

γ(k+1)=Ye(k+1)-h(k+1)(k+1|k)(12)

式中，0≤ρ≤1为遗忘因子，一般取ρ=0.95。弱化次优因子η≤1是为了使状态估计值更加平滑，可凭经验选定。

应用于传感器信息滤波的STF神经网络算法只需调整卡尔曼滤波基本方程（4）为：

P(k+1|k)=λ(k+1)P(k)(13)

结合式(8)~式(12)、式(1)~式(3)、式(5)、式(13)便构成基于STF滤波的神经网络算法。

W(k+1|k)=W(k|k)(14)

W(k+1)=W(k+1|k)+K(k+1)・

{Ye(k+1)-h\}(15)

K(k+1)=P(k+1|k)hT(k+1)・

{h(k+1)P(k+1|k)hT(K+1)+P(k+1)\〗-1(16)

P(k+1|k)=λ(k+1)P(k)(17)

P(k+1)=\・P(k+1|k)(18)

基于离散系统的卡尔曼最优预测估计，其借鉴STF解决问题的方法，在卡尔曼最优预测估计过程中引进渐消因子，促使测量残差近似正交，最大程度地提取测量残差中一切有效信息。

基于STF的预测估计算法如下：

首先，计算最优增益矩阵：

K(k)=P(k|k-1)hT\ hT+R(k)\〗-1(19)

由此得到状态的最优预测估计值：

(k+1|k)=(k|k-1)+K(k)・

\(k|k-1)\〗(20)

引入渐消因子，调整估计误差方差阵：

P(k+1|k)=λ(k+1)P(k|k-1)-λ(k+1)

K(k)h(k)P(k|k-1)(21)

将STF理论应用于最优预测估计，克服了一般预测方法对目标运动模型的依赖性，并对目标的突变状态增强适应性，提高对目标的跟踪控制性能。通过对前一时刻观测值的测量，可以得到运动目标的状态预测，便于实现对目标的准确跟踪。

2 实验与分析

2.1 网络初始化

首先构建神经网络，然后设置网络层数、各层节点数、各层作用函数、各层初始权值矩阵、评价函数goal、最大循环次数epoch、学习速率η和动量a。

在“东风Ⅱ代”机器人传感神经网络中，传感器信息输入源包括：

（1） 视觉系统传感器，图像采集处理输出的足球横坐标，以及根据采样频率计算得到的足球速度、加速度信号3组；

（2） 机器人自定位信息3组，神经网络输入层有6组输入信息源。

考虑根据机器人与足球的不同状态，采集机器人静止、方位角0°、足球横向运动状态为实验状态，采集400组“东风Ⅱ代”运动过程中传感器输出值作为训练样本，机器人定位信息皆为0；足球定位采样如图2所示。

隐层神经元作用函数采用tansig函数，如图3所示。根据训练效果和经验值，隐含层神经元设计为4组，初始权值为(-1,1)之间的随机数。输出层神经元激活函数为线性函数purelin，如图4所示。学习步长取为0.1，目标误差取为0.000 1。

2.2 滤波训练过程

该算法的实质是将问题转化为状态参数估计的问题，在轮训练过程中，网络的权值与阈值作为滤波器的状态，而网络的输出作为滤波器的观测，即将神经网络中各层连接权值构成卡尔曼滤波的状态向量；网络输出作为滤波器的观测，其系统状态方程和观测方程分别为：

W(k+1|k)=W(k|k)+ΔW

Ye(k)=h［W(k),X(k),k］+V(k)=Yr(k)+V(k)

式中，ΔW为状态更新量；Ye(k)为期望输出；X(k)为输入向量；Yr(k)为实际输出；V(k)为高斯白噪声，其统计特性为E\=0，E\=R(k)；h(・)为输入/输出及权值、阈值间的非线性映射关系。

图2 部分传感器输出采样值

图3 tansig函数

图4 purelin函数

隐含层各神经元输入为:

Ii=∑nj=1w1ijxj，i=1,2,3,4

w1ij为输入到隐含层连接权。

隐层神经元作用函数为tansig函数：

y=2/（1+e-2x）-1

则隐层输出为：

oi=y(Ii)

输出层作用函数为线性函数：

y=x

则输出层输出为：

yo=∑4i=1w2ioi，i=1,2,3,4

w2i为输入到隐含层连接权。

隐层作用函数求偏导得:

y/x=(1+y)(1-y)

输出层作用函数求偏导得:

y/x=1

则观测方程中的传递矩阵h为:

h=oi，w为输出层连接权

(1+oi)(1-oi)w2ixj，w为隐含层连接权

0，其他

图5为普通神经网络训练曲线、基于卡尔曼滤波的神经网络曲线与基于STF滤波的神经网络训练曲线的误差变化对比。由图可以看出普通神经网络末段收敛速度缓慢，训练迭代次数最多，基于STF滤波的神经网络收敛速度快，输出精度高。

图5 训练过程

为了比较滤波处理效果，分别应用卡尔曼滤波和STF神经网络对状态观测值进行滤波预测处理。取图像传感器测量误差的协方差矩阵R=0.005I，滤波相对误差由下式求得：

d=|(k)-X(k)||X(k)|×100%

将STF神经网络经过训练后的权值作为最终连接权值，使用随机产生50组检验样本序列，其中部分数据加入突变用于对比滤波结果，如图6所示。

3 结 语

实验表明，STF神经网络对多传感器数据融合，补偿传感器误差，改善传感器性能是有效的。STF神经网络对传感器数据进行融合处理，输出稳定、迭代次数少、突变跟踪能力强，是一种有效的数据处理工具。

图6 两种融合算法预测对比图

参考文献

［1］何友,王国宏.多传感器信息融合及应用［M］.北京：电子工业出版社,2000.

［2］王仲民,岳宏,刘继岩.移动机器人多传感器信息融合技术述评［J］.传感器技术,2005,24(4):5－7.

［3］刘勇，沈毅，胡恒章.精确制导武器及其支持系统中的信息融合技术［J］.系统工程与电子技术,1999,21(4):1－11.

［4］游松,程卫星,王田苗,等.基于任务的神经网络多传感器数据融合新方法［J］.高技术通讯,2001,11(7):71－75,96.

［5］李群力,傅妍芳.基于Kalman滤波的数据融合研究［J］.计算机仿真,2007,24（8）:299－302.

［6］Scalem R S.Tepedelenliou N.A Fast Algorithm Training Feedforward Neural Networks\.IEEE Trans.on Signal Processing，1992,40(1):202－210.

［7］Caldwell D G,Reddy K.Sensory Requirements and Performance Assessment of Telepresence Controller Robots.In:Proc.of IEEE Int.Conf.on Robotics & Auto\.1996.

［8］张乃尧，阎平凡.神经网络与模糊控制［M］.北京：清华大学出版社，1998.

［9］宋海涛.全自主足球机器人决策与控制方法研究［D］.西安：第二炮兵工程学院,2007.

［10］熊蓉,张翮,褚健,等.四轮全方位移动机器人的建模和最优控制［J］.控制与决策,2006,23(1):93－98.

［11］刘君华.智能传感系统［M］.西安:西安电子科技大学出版社,1999.

［12］栗素娟,王纪,阎保定,等.卡尔曼滤波在跟踪运动目标上的应用\.现代电子技术，2007，30（13）：110－112.

作者简介 老建伟 男,陕西西安人,在读硕士研究生。主要研究方向为系统辨识、建模与精度控制。

神经网络算法范文第5篇

关键词：BP算法；人工神经网络；改进的BP算法

中图分类号：TP18 文献标识码：A 文章编号：1009-3044（2014）28-6643-02

1 概述

人工神经网络（Artificial Neural Networks，ANN），是基于人类大脑的生物活动所提出的，是一个数学模型。它由众多节点通过一定的方式互联组成，是一个规模巨大、自适应的系统。其中有一种学习算法是误差传递学习算法即BP算法。BP算法是人工智能最常用到的学习方法，从一定意义上来讲，BP算法的提出，终结了多层网络在学习训练算法上的空白史，是在实际应用中最有效的网络训练方法，对ANN的应用和发展起到了决定性的作用。

BP算法是使用从输出层得到的误差来估算前一层的误差，再利用该误差估算更前一层的误差。依次进行，就会获得其他所有各层的估算误差。这样就实现了将从输出层的得到误差沿着与输入信号传送相反的方向逐级向网络的输入端传递的过程[1]。但是，BP算法也存在着不可忽视的缺陷。基于此，该文总结介绍了BP的改进方法。

2 BP算法的基本思想

2.1 BP算法的基本原理

BP算法是有监督指导的算法，它的学习训练过程一般分为两步：首先是输入样本的正向传递；第二步误差的反向传递；其中信号正向传递，基本思想是样本值从输入层输入，经输入层传入隐藏层，最后通过输出层输出，中间层对样本数据进行处理操作，利用各层的权值和激活函数对数据进行操作然后在输出层获得输出[2]；接下来就是反向传递，算法得到的实际输出值与期望目标输出之间必然会有误差，根据误差的大小来决定下一步的工作。如果误差值较小满足训练的精度要求，则认为在输出层得到的值满足要求，停止训练；反之，则将该误差传递给隐藏层进行训练，按照梯度下降的方式，对权值和阈值进行调整，接着进行循环，直到误差值满足精度要求停止训练[3]。

3 BP算法的缺陷

尽管BP算法有着显著的优点，但是在实际应用过程中，BP算法会出现很多问题。尤其是下面的问题，对BP神经网络更好的发展有很大影响。有的甚至会导致算法崩溃。

3.1 收敛速度的问题

BP算法在进行训练学习时，收敛速度慢，特别是在网络训练达到一定的精度时，BP算法就会出现一个长时间的误差“平原”，算法的收敛速度会下降到极慢[4]。如果盲目的加快收敛速度，则会使算法产生震荡现象。

3.2 局部极小点问题

在一些初始权值的条件下，BP算法在训练过程中会陷入局部极值。这是由于BP网络采用最速下降法，误差曲面非常复杂且分布着许多局部极值点，一旦陷入，BP算法就很难逃脱，进而会使BP网络的训练停止。算法可以在某处得到一个收敛值，但是并不能确定取到了误差曲面的最小值。这样就会使网络难以达到事先规定的误差精度[5]。

3.3 网络瘫痪问题

在算法的学习训练过程中，网络的权值会变得很大，从而使得节点的输入变大，这就会导致其激活函数的导函数在改点取得的值很小，接着会导致算法的训练速度变得极低，最终会导致BP网络停止收敛，网络瘫痪。

3.4 步长问题

BP的收敛是建立在无穷小权修改量的基础上，而这就意味着网络所需要的训练时间是无穷的，这显然是不可取的。因此，要限定权值修改量的值。这主要是因为，如果步长太小，那么网络的收敛速度就会下降，如果步长太大，就会使BP神经网络产生瘫痪和振荡。学者们经过研究提出一个较好的方法，就是用自适应的步长代替原来的定值步长，以使权值修改量随着BP网络的训练而不断变化[6]。

4 改进BP算法的方法

BP算法应用广泛，但它又存在很多缺陷，针对BP算法的问题，国内外许多学者提出各种改进方法，主要的改进方法分为两类：一是启发式改进，如附加动量法和自适应学习率等；二是结合新理论的改进。这些方法在不同程度上提高了网络的收敛速度，避免了局部最小问题。

4.1 启发式改进方法

启发式改进方法是建立在BP网络梯度下降规则的基础上，通过对BP神经网络的权值和学习率的改进，从而解决BP网络在学习训练过程中遇到的问题。它的核心思想是：使权重的调整量最大限度的适应误差下降的要求。该文主要介绍了附加动量法。

传统的BP算法实际上是运用最速下降规则来搜索最优点的算法，该规则是顺着梯度的反方向进行权值的修正，并不将前一阶段积累的经验考虑进来。因此会在训练过程中发生震荡，导致收敛速度缓慢。但是将动量项引入到BP网络中后，当输入样本依照顺序输入时，则可以将权值的修正公式看作为以t为变量的时间序列，那么权值的修改公式就改变为如下所示：

[Δwn=-ηt=0nan-1?Et?Wt]

加入动量项以后若本次[?Et?Wt]与前一次同号时，则加权和增大，使[Δwn]增大；当[?Et?Wt]与上一次符号相反时，说明算法存在一定的震荡，此时指数加权和减小，使[Δwn]减小[7]。

4.2 BP网络结构的优化

在BP算法中，输入和输出节点的个数由实际问题确定，网络结构的优化主要是针对隐藏层的节点数和层数。许多研究表明，一个隐藏层就可以解决各种分类问题。那么对于隐藏层节点的个数的确定，有的学者给出了公式[NH=NI+NO+L]（其中[NH]表示隐藏层节点数，[NI]表示输入层节点数，[NO]表示输出层节点数），但是公式缺乏一定的理论支持，所以目前最好的方法是通过经验和在学习训练过程中不断的调整隐藏层节点数，最后得到一个合适的网络结构。

4.3 基于新理论的算法改进

随着对BP网络结构知识的研究，能够更加深刻的理解BP算法误差传递的本质。出现了许多基于新兴理论的BP算法的改进，这种改进方式是结合了其它领域比较成功的优化算法和理论，比如将遗传算法与BP算法相结合，将遗传算法高效的全局寻优能力引入进来，利用GA算法来优化BP算法的权值和阈值，解决BP神经网络存在容易陷入局部极值和收敛速度慢的问题，两种算法的结合实现了各自优势的互补，取得了良好的效果[8]；将粒子群优化算法用于BP神经网络的学习训练，使算法更容易找到全局最优解，具有更好的收敛性[9]。很多研究者还将BP算法与模糊数学理论、小波理论、混沌算法等相结合。这些改进使得BP神经网络得到更进一步的应用。

5 小结

BP算法是目前在神经网络学习算法中得到最广泛应用的。该文总结了BP算法的原理，针对BP算法中出现的问题，虽然给出了BP算法的改进方法，但还是有很多不足之处。随着科学日新月异的发展，各种新的优化算法不断的提出，BP算法也会得到更广泛的发展。

参考文献：

[1] 胡彩萍.基于BP神经网络的排序评价算法研究及应用[D].南昌：江西师范大学硕士学位论文，2009.

[2] 刘翔.BP算法的改进及其应用[D].太原：太原理工大学硕士学位论文，2012.

[3] 张璐璐.基于遗传神经网络的人民币识别方法研究[D].长春：吉林大学硕士学位论文，2009.

[4] 张波.DRP决策支持系统及小波网络在其中的应用[D].成都：四川大学硕士学位论文，2006.

[5]付海兵，曾黄麟.BP神经网络的算法及改进[J].中国西部科技，2012，11（8）：1671-6396.

[6] 周羽.红外图像人脸识别研究[D].大连：大连理工大学硕士学位论文，2007.

[7] 杨赛.BP神经网络学习问题的分析研究[D].赣州：江西理工大学硕士学位论文，2009.

[8] 杨珍.基于遗传神经网络的铁路危险货物运输风险评价分析与应用研究[D].北京：北京交通大学硕士学位论文，2011.

神经网络算法范文第6篇

关键词:负荷预测;神经网络;唐山电网;电力系统;电力负荷

中图分类号:TM714文献标识码:A文章编号:1009-2374 (2010)13-0124-02

一、预测意义

唐山是具有百年历史的沿海重工业城市,是河北省经济中心,同时也是中国经济发展前景最好的城市之一。特别是最近几年,随着国家产业结构与河北战略布局的调整,重大项目纷纷在唐山兴建,预计在未来几年唐山地区经济仍将快速增长。根据唐山电网用电情况统计数据,唐山电网2001年用电量158.266亿千瓦时,2008年用电量538.509亿千瓦时,平均年增长17.9%。综合考虑唐山地区经济发展与用电量增长因素,预计未来几年唐山电网电力负荷将保持较高的增长。中长期电力负荷预测是电力系统规划的基础,它在电力系统规划、新发电厂和发配电系统的建立过程中起到重要的指导作用。为了满足唐山电网负荷不断增长的需要,增加供电可靠性,对该地区进行科学合理的电力系统规划势在必行。因此,对唐山电网中长期的电力负荷进行预测具有重要意义。

二、预测方法选择

目前,电力负荷预测的研究已经十分成熟,许多方法和模型被引用到电力负荷预测中,其中比较常用的预测方法有以下几种:回归分析法、时间序列法、指数平滑法、神经网络法、灰色模型法、优选组合预测法、小波分析预测技术等。以上负荷预测的方法都有自身的优缺点以及适用范围。电力系统专家经过长期负荷预测实践,建议中长期电力负荷预测使用时间序列法与灰色模型法。由于未来几年唐山市将投产几个重大项目,唐山电网负荷将呈现不规则的跳跃式增长。因此,按照常规的预测方法对唐山电网的用电负荷进行预测将无法获得较满意的数据拟合度。神经网络算法能够实现较复杂的非线性映射,对大量的非结构性、非准确性规律具有自适应能力,应用于电力系统负荷预测,能够得到比传统预测方法更好的效果。因此,本文尝试使用神经网络算法预测唐山电网的用电负荷。

三、预测模型的建立

(一)确定神经网络输入量

输入层是神经网络结构的第一层次,该层次输入量的确定关系到神经网络训练的效率。特征量取得太少,则不能起到区分判断作用;取得太多则影响网络的训练速度。因此,合理地选择输入量,能提高网络的训练速度和预测精度。为了简化模型的结构,提高预测的精度,本文综合考虑中长期电力负荷预测的相关因素以及唐山电网的用电特点,确定以下五种影响电力负荷的经济因素作为神经网络的输入量即:“唐山地区的生产总值(GDP);第一产业用电量占总用电量的比重;第二产业用电量占总用电量的比重;第三产业用电量占总用电量的比重;生活用电量占总用电量的比重。”

(二)构造神经网络结构

本文应用的神经网络是由输入层、输出层和隐含层三层网络结构构成。理论研究已证明对于任何在闭区间上连续的函数,只要隐含层神经元数目足够多,就可以用只含一个隐含层的网络结构以任意精度来逼近,所以本文隐含层只取一层。第一层为输入层,神经网络的输入神经元为五种影响唐山电网用电负荷的经济因素,因此该层的神经元个数为5个;第二层是隐含层,隐含层神经元数根据下式求得:

或或h=lg2n (1)

其中k为样本数,n为输入层神经元数,m为输出神经元数,h为隐含层神经元数,a为1～10之间的常数。第三层是输出层,因为输出结果只有一个指标即唐山电网某年的用电量,所以输出神经元的个数是1。从而确定本文的神经网络结构为5×3×1。

(三)神经网络的训练算法

由于标准BP算法中,人为凭经验选取学习率和动量因子,往往会对网络学习速度产生较大影响,甚至会因为学习率选取不当而导致学习中发生振荡而不能收敛,这些缺点将影响整个预测的精度。本文采用改进的批处理式Vogl快速算法,进行网络训练。在网络训练过程中根据训练的实际情况自适应改变学习率η及动量因子α的大小:当前的误差梯度修正正确,则增大学习率,加入动量项;否则减少学习率,甩掉动量项。这样初始η值就可以相对随意的选取,避免上述缺点。自适应改变η及α的修正公式如下:

(2)

上式中ΔE=E(J)-E(J-1),表示神经网络前后相邻两次学习过程中误差函数的变化量。φ略大于1,β略小于1。E (J)为神经网络第J次训练过程中的误差函数:

(3)

式中:pt',和Ot分别表示神经网络对应于第t个输入向量的期望输出和实际输出。

(四)预测实施

唐山电网2001～2008年用电量、生产总值以及各产业用电占比情况的历史数据见表1:

表12001～2008年唐山电网用电情况统计

年份 生产总值

/万元 用电量

/亿千瓦时 一产用电

/% 二产用电

/% 三产用电

/% 生活用电

/%

2001年 9150473 158.266 3.8 83.4 5.5 7.2

2002年 9993543 180.420 3.3 84.6 5.5 6.6

2003年 11022878 233.638 2.2 87.7 4.8 5.3

2004年 17616311 290.260 1.7 89.1 4.5 4.7

2005年 20276374 358.800 2.4 89.1 4.0 4.5

2006年 23621410 432.752 2.1 89.3 4.2 4.5

2007年 27794190 520.020 1.3 90.5 4.1 4.1

2008年 36132447 538.509 1.2 90.0 4.4 4.4

根据2001～2008年唐山电网用电量的历史数据,分别使用时间序列法、灰色预测模型与神经网络算法对唐山电网的用电量进行预测。使用2001～2006年的历史数据预测2007年、2008年的用电量,并将预测结果与真实数据做对比,以分析三种预测方法的误差。通过

Matlab软件计算,三种预测方法的预测结果及误差情况,见表2:

表2用电量预测值及误差表

序号 年份 用电量 灰色模型 时间序列法 神经网络

预测值 误差 预测值 误差 预测值 误差

1 2007年 520.020 501.1 3.64% 487.9 6.41% 531.7 2.25%

2 2008年 538.509 512.4 4.85% 503.9 6.75% 559.4 3.88%

通过上表我们可以看出以上三种预测方法的误差除了时间序列法的误差较高外,都在允许的范围内。灰色模型与神经网络算法都可以较准确的预测出唐山电网的用电量。相比而言,神经网络算法预测对于历史数据的拟合度更高,神经网络算法更适用于唐山电网中长期的电力负荷预测。因此,本文使用神经网络算法对唐山电网未来五年的用电负荷进行预测,通过Matlab软件计算,预测结果见表3:

表3唐山电网用电负荷预测

序号 年份 年用电量(亿千瓦时) 年最大负荷(MW)

1 2009 584.282 7637.677

2 2010 625.182 8172.314

3 2011 665.819 8703.514

4 2012 725.077 9478.127

5 2013 781.633 10217.42

四、结论

本文研究了神经网络算法在唐山电网中长期电力负荷预测中的应用。研究结果表明,应用神经网络算法比时间序列法、灰色模型有更高的预测精度,神经网络算法可以较准确的预测唐山电网中长期的电力负荷。

参考文献

[1]于之虹,郭志忠.数据挖掘与电力系统[J].电网技术,2001,25(8).

[2]焦李成.神经网络计算[M].西安:西安电子科技大学出版社,1993.

神经网络算法范文第7篇

【关键词】BP算法 蚁群优化算法 放大因子 神经网络

伴随着近年来对于人工智能（Artificial Intelligence）研究的不断深入，其中一项重要的分支内容也越来越引起人们的重视，即人工神经网络，这一技术研究现已经广泛的应用到了信息处理、车辆检测、价格预测等多个领域当中。而BP网络神经算法则是应用普及程度最高的一项神经网络内容，然而这一传统的神经网络算法却存在有一些较为显著的缺陷性，如局部不足、收敛缓慢、缺乏理论指导等，因此有必要对传统的算法进行改进。据此本文主要就通过对于上述问题的分析，提出了引入放大因子以及应用蚁群优化算法两项改进手段，并通过将改进后的算法应用到瓦斯浓度检验中，有效的验证了这一算法的科学性。

1 传统BP算法的缺陷

1.1 收敛缓慢

因为BP神经网络的误差函数的曲面图像十分复杂，因此极有可能会有一些相对较为平坦曲面的存在，在起初之时的网络训练收敛值较大，然而伴随着训练的进行，在训练行进到平坦曲面位置时，依据梯度下降法，便极有可能会发生尽管误差值较大，然而误差梯度值却较小，进而也就导致权值的可调整值变小，最终仅能够采取加多训练次数的方式来逐渐退出目标区域。

1.2 局部不足

尽管BP算法能够促使均方误差达到最小化权值与阈值，然而因为多层网络结构的均方误差存在有极大的复杂性特点，既有可能导致多项局部极小值情况的出现，从而使得算法在敛收之时，无法准确的判定出是否求得最优解。

1.3 缺乏理论指导

由于仅在接近于连续函数的情况时才需多层隐含层，但是在实际情况下往往是选用单层隐含层，这就会导致一个十分明显的问题，即隐含层神经元的数量大小是对网络计算的复杂性是具有直接性影响的，从理论层面来说神经元数量越多，所得到的求值才能够越精确，然而现实情况往往都是依据经验公式，以及大量的实验验证来明确出相应的隐含层神经元数量，这必须要借助于大量的运算处理才能实现。

2 算法改进

2.1 放大因子的引入

在精确性允许的前提下，为了获得更大的几何间隔，可放宽容错性，为阈值增添以一定的松弛变量。但还在BP神经网络的学习过程当中，因为样本所出现的随机性改变，在通过归一化处置后，于初期学习阶段，样本的训练误差较大，收敛较快，然而伴随着训练的持续进行，特别是在样本训练结果无限趋近于1/0之时，这是训练便会达到平台期，也就是相对停滞阶段。

在将放大因子运用到实际训练当中，对隐含层与输出层当中的权值采取调整，所产生的神经网络训练结果影响，要明显超过输入层和隐含层当中权值调整所造成的影响，因而在本次研究当中，将放大因子应用在了隐含层和输出层权值的调整之中。

2.2 应用蚁群优化算法

蚁群优化算法是一种对离散优化问题进行求解的通用型框架。在某条具体路径当中所经过的蚂蚁数量越多，相应的信息条件密集性也就越大，从而这一路径被选取的概率也就越大，其呈现出的是一种正反馈的现状情况。每一只蚂蚁在仅穿过任一节点一次的情况之时，对被选用的权值节点进行明确的记录，从而该区域之中的节点也就组成了一组候选权值，在所有蚂蚁均完成了首次选择后，依据全局更新策略来对信息素的密度进行更新。直至满足于最大进化代数，也就得到了最佳的权值组合。

3 实验分析

3.1 变量选取

考量到瓦斯浓度影响因素所具备的的不确定性，因此可对各类因素予以筛选，在对短期预测不造成影响的情况下，来选择出影响力最大的因子。在瓦斯浓度监测的特征变量中主要包括有风速、温度、负压、一氧化碳浓度、瓦斯浓度。

3.2 参数选择

依据上述特征变量内容，此实验的BP神经网络结构便可明确为输入层4项：风速、温度、负压、一氧化碳浓度，输出层1项：瓦斯浓度。针对以上特征变量依次选用传统BP算法与改进后的算法进行测量，隐含网络层均为1个。隐含层节点可通过下列公式予以验证：

m=0.618*（input+output）

在这一公式当中input与output即为输入层与输出层节点数量。BP神经网络算法的训练数共1100，预计误差值为0.0011，其中隐含层应用Sig mod函数，在输出层之中应用线性函数。蚁群优化模型最终其规模明确为600，权值区间取[-1，1]，迭代次数取1100次。

3.3 结果分析

在考量到具体运用时的科学性，可编写一项测试软件，针对数据内容予以计算处理，并将多次试验所得数据信息予以对比，改进之后的BP神经网络和传统BP网络其检测精确性如表1所示。

通过观察表1，能够明显的发现，经过改进的BP神经网络算法其训练拟合度相较于传统BP神经网络算法而言更高，同时准确率也显著提升了3.82%，收敛速度也有了显著的提升，权值选取也有了理论性的指导。

4 结束语

总而言之，传统的BP神经网络算法存在收敛速度较慢、且容易陷入到局部不足以及缺乏理论指导的设计陷阱，本文主要通过对放大因子的引入，使得BP神经网络算法在实际训练时的权值调整方式发生了转变，进而通过应用蚁群优化算法来实现了对于BP神经网络权值的选择，并构建起了相应的神经网络模型以及改进后的训练方法。最终将此改进之后的BP神经网络算法应用到瓦斯浓度预测领域之中，其效果明显优于传统的BP神经网络算法。

参考文献

[1]杨红平，傅卫平，王雯等.结合面法向和切向接触刚度的MPSO-BP神经网络算法的建模[J].仪器仪表学报，2012（08）.

[2]陈桦，程云艳.BP神经网络算法的改进及在Matlab中的实现[J].陕西科技大学学报（自然科学版），2014（02）：45-47.

作者单位

神经网络算法范文第8篇

关键词:无线传感器网络;数据融合;神经网络

中图分类号:TP393文献标识码:A文章编号:1009-3044(2010)18-5050-02

A Wireless Sensor Network Data Fusion Algorithm Based on Neural Network

YAO Li-jun1, LIANG Hong-qian2, ZHAO Lei1

(1.Hengyang Normal University, Hengyang 421008, China;2.Xi'an Wenli College, Xi'an 710065, China)

Abstruct: This paper combined the neural network model and the wireless sensor network, proposed a wireless sensor network data fusion algorithm based on neural network. Experiments show that the algorithm can effectively reduce energy consumption of network, extend network life, it is a more practical wireless sensor network data fusion algorithm.

Key words: wireless sensor network; data fusion; neural network

无线传感器网络(wireless sensor network,简称WSN)近几年来是计算机网络领域中最为热门的研究内容之一。典型的无线传感器网络由大量廉价的传感器节点所构成,相互之间通过无线方式进行数据通信。这些传感器节点可以通过其携带的各种类型的传感器采集现场的各种数据,并以接力的方式通过其它传感器节点将采集到的数据逐跳地发送到汇聚节点(Sink)[1]。其中单个传感器节点由于能量、计算、存储、感应及通信能力严格受限,所以需要高的覆盖密度来保证整个网络的鲁棒性和检测信息的准确性。这就导致相邻节点间采集的数据存在一定的冗余,网络负载随之增加。为了节省能量和通信带宽,减少原始数据的发送,传感器节点需要协同在网处理所收集的原始数据。数据融合就是在网处理的方法之一[2-3]。

神经网络(Neural Network,简称NN)是对人脑或自然神经网络若干基本特性的抽象和模拟,是一门多个学科领域的边缘交又学科。它以对大脑的生理研究成果为基础,旨在模拟大脑的某些机理与机制,实现某个方面的功能[4]。

神经网络与数据融合具有一个共同的基本特征,即通过对大量的数据进行一定的运算和处理,得到能够反映这些数据特征的结论性的结果。本文提出一种新的无线传感器网络数据融合算法,该算法基于分簇无线传感器网络模型,将其中的分簇结构与神经网络模型相结合,在簇头节点利用神经网络算法对簇成员节点的数据进行融合处理,以有效地减少网络中传输的数据量,延长网络使用寿命。

1 无线传感器网络模型与神经网络模型

无线传感器网络由大量部署于监控区域的传感器节点组成。传感器节点分为 3类:基站、簇头和普通传感节点。层次化无线传感器网络如图1所示。

本文采用的神经网络模型是典型的前馈神经网络―多层感知器(MLP)[5]。多层感知器由若干层非线性神经元组成,每个神经元都是一个感知器,每层包含多个感知器,相邻层的神经元用权连接起来。图2给出了多层感知器的结构示意图,通常情况下,层与层之间是全连接的,信号沿着前馈方向,即从左边到右边,逐层传递。

2 具体数据融合算法

本算法基于三层感知器神经网络模型,对应无线传感器网络中的一个簇。其中,输入层和第一隐层位于簇成员节点中,而输出层和第二隐层位于簇头节点中。

假设无线传感器网络中一个簇内有n个簇成员节点,每个簇成员节点采集m种不同类型的数据,那么该神经网络模型共有n×m个输入层节点、n×m个第一隐层神经元。第二隐层神经元的数量、和输出层神经元的数量k可以根据实际应用的需要进行调整,与簇成员节点的数量n并没有联系。对于不同类型的数据,第二隐层的数量可以不同。在输入层与第一隐层之间、第一隐层和第二隐层间没有采用全连接,只是对不同类型的数据分别进行处理;而第二隐层与输出层之间是全连接的,可以对不同类型的数据进行综合处理。

根据这样一种三层感知器神经网络模型,本文的数据融合算法首先在每个传感器节点对所有采集到的数据按照第一隐层神经元函数进行初步处理,然后将处理结果发送给其所在簇的簇头节点。簇头节点再根据第二隐层神经元函数和输出层神经元函数进行进一步地处理。最后,由簇头节点将处理结果发送给汇聚节点。下面以第一隐层神经元功能模型为例,叙述神经元函数信息处理过程。

第一隐层神经元位于簇成员节点。每个簇成员节点中第一隐层神经元的数量是根据传感器节点所采集的数据类型来决定的,不同类型的数据由不同的神经元来进行处理。第一隐层神经元功能模型的输入区、处理区和输出区三个功能函数如图3所示。

3 性能仿真

将本文的融合算法与基于卡尔曼滤波的融合方法进行比较,在条件相同的情况下,考察两算法性能的主要指标,包括:网络总能耗、节点平均剩余能量和平均时延三个方面。如图4所示。

图中,表示基于神经网络的融合算法, 表示基于卡尔曼滤波的融合方法,由图可知,本文基于神经网络的融合算法在这三方面均优于基于卡尔曼滤波的融合方法。

4 结论

本文将神经网络功能模型与层次化无线传感器网络相结合,提出一种基于神经网络的无线传感器网络数据融合算法,通过采用该算法,有效地减少了网络的能耗,延长了无线传感器网络的生存周期,是一种较为实用的无线传感器网络数据融合算法。

参考文献:

[1] 李建中,高宏.无线传感器网络的研究进展[J].计算机研究与发展, 2008 (1):1-15.

[2] Castelluccia C,Mykletun E,Tsudik G.Efficient aggregation of encrypted data in wireless sensor networks[J].Mobile and Ubiquitous Systems:Networking and Services MobiQuitous,2005.

[3] Chen J,Pandurangan G,Xu D.Robust computation of aggregates in wireless sensor networks:Distributed randomized algorithms and analysis[C].IPSN,2005:348-355.

[4] Simon Haykin.神经网络原理[M].北京:机械工业出版社,2004.

神经网络算法范文第9篇

关键词： DFB激光器； 遗传算法； 神经网络； 温度控制

中图分类号： TN249?34； TP273 文献标识码： A 文章编号： 1004?373X（2016）15?0164?03

Abstract： To solve the problems of nonlinearity and delay property existing in DFB laser temperature control system， the composite control structure based on genetic algorithm and neural network is proposed. In the system， the microprocessor as the system core processor is used to design the temperature control system， and the Pt resistance， TEC semiconductor refrigerator， temperature sensor and temperature control actuator are used as the control units. The neural network positive model was constructed to analyze the physical characteristics of the controlled object. The neural network control is used to map the control laws， and the fast searching ability of genetic algorithm is used to train the weight coefficient of neural network. The designed system was verified with the experiment. The results show that the temperature control accuracy of the system is ±0.002 ℃， the range of temperature control is 5～70 ℃， the overshoot is less than 8%， the designed system can realize the control effect of high precision and wide range， and has better engineering application value.

Keywords： DFB laser； genetic algorithm； neural network； temperature control

0 引 言

激光检测技术已经应用在许多工业领域，其中分布式（DFB）激光器的波长能够有效匹配甲烷和一氧化碳等气体的吸收峰，所以在很多领域利用它来检测气体的浓度。DFB激光器的波长主要与电流和温度有关，当电流保持不变时，DFB的波长与温度的变化关系[1?3]为0.2～0.3 nm/℃。因此，为了提高气体的检测精度，必须确保DFB激光器发光的波长准确且稳定，需要对它的温度进行精确控制[4?7]。

国内外有很多生产厂家和研究机构都在研究如何在较宽的温度范围内提高DFB激光器的温度控制精度。目前，国外的产品一般能够在-50～100 ℃的环境下正常工作，且控制精度不低于0.001 ℃。国内的产品一般只能在常温下工作，控制精度[8]仅为0.05～0.1 ℃。本文针对DFB激光器温度控制系统普遍存在的非线性和延迟性等问题，利用遗传算法和神经网络构造复合控制结构，实现在较宽的范围内对温度进行高精度稳定控制的效果。

1 硬件系统设计

1.1 系统总体方案

设计的基于遗传算法和神经网络的DFB激光器温度控制系统主要由铂电阻、恒流源、信号调整、驱动电路、A/D和D/A转换模块、控制器、LED显示和上位机等组成，总体框图如图1所示。

激光器的温度变化由温度传感器铂热电阻转变为电信号，经过信号调整和A/D转换将数据送给微处理器，与上位机设定的标准值进行比较计算得到偏差，再将该偏差信号由数字控制器处理和调整之后，经由D/A转换和驱动电路进入执行器件，对被控对象加热或者制冷，从而将DFB激光器的温度控制在特定值。

1.2 温度测量和处理

采用铂电阻Pt100作为系统的温度传感器，它具有工作温度范围大和稳定性好的优点。给铂电阻加载恒定的微小电流（1 mA左右），再通过测量铂电阻两端的电压来获取温度信号。对电压信号进行模数转换时，使用的芯片为ICL7109，分辨率高达244 ppm，能够直连微处理器，转换的速度为30次/s。在微处理器的控制下，电压信号由多路开关经ICL7109实现模数转换。同时，参考温度的信号由上位机和电位器分压得到。

在微处理器上对实际温度与参考温度进行比较，它们的差值由微处理器上设定的控制算法进行处理，得到相应的控制信号，该信号经数模转换芯片DAC0832处理和放大后驱动执行器件工作。这里的数模转换芯片为双极性输出，可以提供正向和反向的电压信号，从而实现加热或者制冷。

1.3 TEC驱动

采用热电制冷器（TEC）作为系统的温度控制执行器件。根据珀耳帖效应，当给TEC通过不同方向的电流时，即可实现TEC的制冷或加热，而调节它的电流大小即可改变它的加热或者制冷的输出大小[9]。为了快速地控制TEC的电流，采用MAX1968型的控制芯片，它能够直接控制电流，具有消除浪涌电流和减小噪声干扰的优点。它内置有基准电压源，当电压大于基准值时，实现加热的效果；相反，实现制冷的目的。

2 神经网络学习控制

2.1 神经网络正模型

3 实验结果与分析

由前述的分析来设计DFB激光器的温度控制系统，并用实验来验证系统设计的合理性和可行性。选取初始种群为60个染色体，其中每个染色体均有25个权系数，它们的变化范围为[[-2，4]]，进化代数的最大值为40代。实验室温度的初始值为20 ℃，设定期望的DFB激光器温度值分别为5 ℃，15 ℃，40 ℃和70 ℃，从零时刻启动温度控制过程，得到不同目标温度控制的实验结果，如图3～图6所示。

从图3～图6中可以看出，基于遗传算法和神经网络的控制算法可以使得DFB激光器的实际温度达到预期设定的温度值。对于低于室温的温度控制，超调量为8%，控制精度为±0.002 ℃；对于高于室温的温度控制，没有超调量，控制精度为±0.001 7 ℃。因此，本文设计的控制系统能够实现DFB激光器工作温度的精确控制，稳定度较高。

4 结 语

本文设计了基于遗传算法和神经网络的DFB激光器温度控制系统，系统使用微处理器、铂电阻和TEC半导体制冷器分别作为处理器、温度敏感器和温控的执行器件，通过构建复合控制结构，能够使得系统的输出达到期望值。实验结果表明，该系统能够实现DFB激光器温度的高精度和稳定控制，控制精度和控制范围分别能够达到±0.002 ℃和5～70 ℃，超调量低于8%，具有较好的推广应用前景。

参考文献

[1] 胡鹏程，时玮泽，梅健挺.高精度铂电阻测温系统[J].光学精密工程，2014，22（4）：988?995.

[2] 单成玉.温度对半导体激光器性能参数的影响[J].吉林师范大学学报（自然科学版），2003（4）：95?97.

[3] 李金义，杜振辉，齐汝宾，等.利用热敏电阻精确测量DFB激光器动态结温度[J].仪器仪表学报，2012，33（9）：2088?2093.

[4] 秦国华，谢文斌，王华敏.基于神经网络与遗传算法的刀具磨损检测与控制[J].光学精密工程，2015，23（5）：1314?1321.

[5] 玲，林勤花.基于遗传神经网络的P2P流量识别系统[J].现代电子技术，2015，38（17）：117?120.

[6] 徐齐胜，罗胜琪，陶欣，等.基于神经网络遗传算法的锅炉燃烧优化系统[J].自动化与仪表，2014，29（6）：30?32.

[7] 陈苗，陈福深，肖勇.温度对半导体激光器特性的影响[J].中国科技信息，2011（3）：46?47.

[8] 李江澜，石云波，赵鹏飞，等.TEC的高精度半导体激光器温控设计[J].红外与激光工程，2014，43（6）：1745?1749.

[9] 徐广平，冯国旭，耿林.基于单片机控制的高精度TEC温控[J].激光与红外，2009，39（3）：254?256.

[10] 康伟.基于BP神经网络的DFB激光器恒温控制系统建模与仿真[J].激光杂志，2015，36（4）：59?62.

[11] 秦国华，赵旭亮，吴竹溪.基于神经网络与遗传算法的薄壁件多重装夹布局优化[J].机械工程学报，2015（1）：203?212.

神经网络算法范文第10篇

关键词：ART2神经网络；模式漂移；标幺值；距离

中图分类号：TP183文献标识码：A

文章编号：1001-9081(2007)04-0945-03

0引言

基于自适应共振理论的ART2神经网络，采用竞争学习和自稳机制原理来实现稳定的分类，在语音、视觉、嗅觉和字符识别等领域得到广泛应用。在注意子系统对输入模式通过向量归一化和非线性变换预处理过程中，易将重要但幅度较小的分量作为基底噪音而滤除，这样在分类过程中就丢失了重要的信息;同时,在学习过程中还存在因权值修正问题而造成的模式漂移现象。针对模式漂移等不足，国内外提出了许多解决办法，主要是结合遗传算法或小波等算法进行互补[1,2]。本文分析了造成这些不足的原因，提出了标幺值和基于类内样本与类中心的距离不同而对类中心偏移产生不同影响的思想，提出了改进算法，仿真实验证明改进算法能有效地改善模式漂移现象。

1传统ART2神经网络简介[3,4]

一种典型的ART2神经网络结构如图1所示：图中只画出了维数为q的样本X的第j个分量Xj

的处理结构图。

整个系统分为注意子系统和定向子系统两部分。注意子系统完成由底向上矢量的竞争选择及矢量间相似程度的比较，定向子系统检查相似度能否达到检测标准，并做出相应的动作，共振或者重置。

在注意子系统F1层特征表示场对输入模式X通过向量归一化和非线性变换进行预处理，以达到抑制噪声增强对比的作用,得到自稳后的输入模式U。

否则，当前激活节点I被重置并被屏蔽，在剩余节点中继续搜寻最匹配的。如果所有节点均不能通过警戒测试则开辟新的输出节点，即创建一个新类。并对新类所对应的内星及外星连接权矢量进行初始化:

2网络的分析和学习算法的改进

注意子系统F1层特征表示场要对输入模式X通过向量归一化和非线性变换进行预处理，在很多应用场合，由于输入模式X的分量的单位各不相同，会出现一些重要但幅值较小的分量，例如输入X=(70,2,85)，三个分量代表不同的特征而单位不同，如果分量x2是一个很重要的量，经F1层特征表示场对输入模式X通过向量归一化，按照式（1）进行计算得:

被当作基底噪声而滤除，影响了分类的正确性。造成这种现象的主要原因是因为各分量的度量标准不同，如果输入分量变成无单位的值，将极大改善这种状况。工程计算中，往往不用各物理量的实际值，而是用实际值和相同单位的某一选定的基值的比值（标幺值）来进行计算。标幺值=实际值/基值，它是个相对值，没有单位。因此，在输入前应该对输入向量进行无单位化预处理。具体算法如下：

在聚类中，样本之间的距离常作为它们是否属于同一类一个判别标准，因此，将输入模式与现有的模板中心的距离引入了匹配度检验阶段及权值修改中，这将有效地改善模式漂移现象，具体改进算法如下：

3)权值的修正,根据输入样本与模板中心的距离来调整，基于如下的思想:对于同一个类的样本，当新增加一个样本，距离模板中心越远的样本对模板中心的迁移影响越大。这样得到的模板中心就会尽可能的接近真正的聚类中心，将改善模式漂移现象。权值的修正采用如下的修正公式：

3实例分析

为分析方便，文章采用文献[6]的实例，该组模式共有89个，其幅角分别为1°，2°，…，89°，其幅角作为序编号对各模式进行了标记。因为样本是二维数据，虽然幅值都为1，如果仅用幅角表征，相当于将其转化成一维的样本，显然仅将幅角作为输入是不合理的。表征平面上的坐标有极坐标和直角坐标，由于极坐标的两个分量幅值和幅角的单位量纲不同，而直角坐标的两个分量单位却是相同的，基于前面的分析，最好采用相同的单位，因此采用直角坐标来表征这组模式，分别为（cos1°,sin1°）,（cos2°,sin2°），…，（cos89°,sin89°）。对于这组数据，分别采用顺序，逆序和随机输入的方式输入到传统ART2神经网络和本文的改进ART2神经网络。

3.1顺序输入方式

对于顺序输入比较结果见表1。其中参数如下:

传统的ART2神经网络参数为：a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.99,ww=0.01。

改进的ART2神经网络参数为：a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.9,ξ=0.97，ww=0.01。

可以看出，改进的ART2神经网络克服了传统ART2不能识别模式渐变过程的弱点，无超大类和样本混叠现象，良好地实现了分类。

对于逆序输入模式数据的分类结果基本类同于顺序输入方式下得到的结果。

3.2随机输入方式

将以上89个模式以随机输入的方式输入到传统ART2神经网络和本文的改进网络，共做10次实现，观察结果，表2列出具有代表性的一次分类结果。

两种ART2神经网络均将所有模式分为三类，其中传统的ART2神经网络的第一类模式序号均小于31，其规模仅有13个模式，属于超小类，缺少量为17个。第二类序号小于30的模式有18个，序号大于60的模式有6个，其规模为53个，属超大类，超出量为23个。第三类序号小于61的模式有3个，其规模为25个模式，缺少量为4个。第一类和第二类出现交混量，比例为0∶16，即本属于第一类的16个数据被错分到第二类，第一类与第三类交混量的比例为0∶1，第二类与第三类的交混量的比例为7∶2。

可以看出改进的ART2神经网络没有出现超大或超小类，同时交混量的数量也很少，说明改进的ART2神经网络分类性能显著提高。同时对其他几组结果进行分析，可知传统的ART2网络分类结果受模式输入顺序的影响较大，而改进的ART2网络的分类结果较为一致，说明改进后的ART2网络具有一定的鲁棒性。

4结语

改进的ART2神经网络采用了标幺值的方法，有效地改善了传统ART2神经网络易将重要的但幅度较小的分量作为基底噪音而滤除，从而在分类过程中丢失重要信息的缺点，同时基于类内样本与类中心的距离的不同而对类中心偏移产生不同影响的思想，对警戒部分和权值修改进行了改进。从仿真结果得出，改进后的ART2神经网络对于渐变模式的分类性能显著提高，有效改善了传统ART2神经网络存在模式漂移的不足。同时，将改进后ART2神经网络用于对核辐射场数据处理分类中也取得了良好的结果。