神经网络范文

神经网络范文第1篇

关键词：计算机网络模型；神经网络算法

计算机网络在人们日常生活越来越重要，被广泛应用到各个行业。随着社会不断发展，人们需求不断加高，使计算机得到良好改善，目前，计算机网络运用集线式服务器来实现网络互连，促进网络发展。但是也有很大弊端，过多的联想信息虽然满足人们需求，但是对技术的要求也更加苛刻，现有的技术满足不了计算机网络运行，使人们日常操作不方便。为了解决这一问题，研究人员需要全面优化计算机网络，提高运行能力和性能，运用神经网络算法，使计算机更加适合现代社会发展，储存更多信息。

1神经网络算法概论分析

1.1神经网络算法整体概论神经网络算法是按照人体大脑的思维方式进行模拟，根据逻辑思维进行推理，将信息概念化形成人们认知的符号，呈现在显示屏前。根据逻辑符号按照一定模式进行指令构造，使计算机执行。目前，神经网络被广泛使用，使直观性的思维方式分布式存储信息，建立理论模型。优化网络的神经网络主要是Hop?eld神经网络，是1982年由美国物理学家提出的，它能够模拟神经网络的记忆机理，是全连接的神经网络。Hop?eld神经网络中的每个神经元都能够信号输出，还能够将信号通过其他神经元为自己反馈，那么其也称之为反馈性神经网络。

1.2优化神经网络基本基础Hop?eld神经网络是通过能量函数分析系统，结合储存系统和二元系统的神经网络，Hop?eld神经网络能收敛到稳定的平衡状态，并以其认为样本信息，具备联想记忆能力，使某种残缺信息进行回想还原，回忆成完整信息。但是Hop?eld神经网络记忆储存量有限，而且大多数信息是不稳定的，合理优化计算机联想问题，使Hop?eld神经网络能够建设模型。

1.3神经网络算法优化步骤简述人工神经网络是模拟思维，大多是根据逻辑思维进行简化，创造指令使计算机执行。神经网络算法是按照人体思维进行建设，通过反应问题的方法来表述神经思维的解；利用有效条件和能量参数来构造网络系统，使神经网络算法更加可靠；大多数动态信息需要神经网络来根据动态方程计算，得出数据参数来进行储存。

2神经网络算法的特点与应用

2.1神经网络主要特点神经网络是根据不同组件来模拟生物体思维的功能，而神经网络算法是其中一种程序，将信息概念化，按照一定人们认知的符号来编程指令，使计算机执行，应用于不同研究和工程领域。神经网络在结构上是由处理单元组成，模拟人体大脑神经单元，虽然每个单元处理问题比较简单，但是单元进行组合可以对复杂问题进行预知和处理的能力，还可以进行计算，解决问题能力突出，能够运用在计算机上，可以提高计算机运算准确度，从而保障计算机运行能力。而且一般神经网络有较强容错性，不同单元的微小损伤并不阻碍整体网络运行，如果有部分单元受到损伤，只会制约运算速度，并不妨碍准确度，神经网络在整体性能上能够正常工作。同时，神经网络主干部分受到损伤，部分单元会进行独立计算，依然能够正常工作。

2.2神经网络信息记忆能力神经网络信息存储能力非常强，整体单元组合进行分布式存储。目前，神经网络算法是单元互相连接，形成非线性动态系统，每个单元存储信息较少，大量单元互相结合存储信息大量增加。神经网络具备学习能力，通过学习可以得到神经网络连接结构，在进行日常图像识别时，神经网络会根据输入的识别功能进行自主学习，过后在输入相同图像，神经网络会自动识别。自主学习能力给神经网络带来重要意义，能够使神经网络不断成长，对人们未来日常工作能够很好预测，满足人们的需求。

2.3神经网络的突出优点近年来，人工神经网络得到越来越多人重视，使神经网络得到足够资源进行良好创新。人工神经网络是由大量基本元件构成，对人脑功能的部分特性进行模仿和简化，人工神经网络具备复杂线性关系，与一般计算机相比，在构成原理和功能特点更加先进，人工神经网络并不是按照程序来进行层次运算，而是能够适应环境，根据人们提供的数据进行模拟和分析，完成某种运算。人工神经系统具备优良容错性，由于大量信息存储在神经单元中，进行分布式存储，当信息受到损害时，人工神经系统也可以正常运行。人工神经网络必须要有学习准则制约来能够自主学习，然后进行工作。目前，人工神经网络已经逐步具备自适应和自组织能力，在学习或训练过程中改变突触权重值，以适应周围环境的要求。通过一定学习方式和某些规则，人工神经网络可以自动发现环境特征和规律性，更贴近人脑某些特征。采用并行分布处理方法，使得快速进行大量运算成为可能。神经网络的一个很大的优点是很容易在并行计算机上实现，可以把神经的节点分配到不同的CPU上并行计算。钱艺等提出了一种神经网络并行处理器的体系结构，能以较高的并行度实现典型的前馈网络如BP网络和典型的反馈网络(如Hop?eld网络)的算法。该算法以SIMD(SingleInstructionMultipleData)为主要计算结构，结合这两种网络算法的特点设计了一维脉动阵列和全连通的互连网络，能够方便灵活地实现处理单元之间的数据共享。结合粒子群优化算法和个体网络的并行学习机制，提出了一种基于粒子群优化的并行学习神经网络集成构造方法。

3结束语

全球化的发展，信息交流不断加快，促使各个行业相互融合。神经网络算法具备简单、稳定等不同优势，神经网络研究内容相当广泛，神经网络算法能够与其它算法相互结合，在一定程度提高计算机网络模型运算能力。但是计算机网络模型中神经网络算法学习能力比较低下，梯度下降法不准确，所以需要有关人员进行深度研究，探索神经网络算法，使其更加完善，从而保证计算机整体性能的提高。

参考文献：

[1]陈竺.计算机网络连接增强优化中的神经网络算法[J].电子技术与软件工程,2014(19).

[2]史望聪.神经网络在计算机网络安全评价中的应用分析[J].自动化与仪器仪表,2016(06).

神经网络范文第2篇

人的智商与性格都是由大脑结构决定的，这是不争的事实。早年间科学家们主要关心脑细胞的数量和质量，后来发现人的脑细胞数量是基本固定的，质量也不容易评估，从这方面入手很难做研究。相比之下，脑细胞之间的神经联接却是不断在变化的，而且很可能更重要。

这一点不难理解。两台不同的电脑，一台非常高档但没有联网，另一台价格低廉但却联了网，哪台更好用？答案是不言而喻的。问题在于，大脑神经细胞的数量本身就是一个天文数字，它们之间的神经联接网络更是复杂异常，科学家们一直缺乏有效的研究手段，这方面的进展相当缓慢。

磁共振弥散张量成像（Diffusion Tensor Imaging）技术的出现解决了这个问题，这种技术可以实时测量大脑中水分子的流动情况，从而间接地衡量神经细胞之间信号通讯的强度和方向。有了这项技术，科学家们就可以研究活人的脑神经联接情况了，神经网络的秘密正在逐渐被揭开。

比如，曾经有研究显示，人在发育过程中大脑的神经联接会经历数次自我修整的过程，即把不必要的联接断掉，仿佛在剪枝一样。农民给果树剪枝是为了集中力量结果子，大脑的自我修整可以帮助主人更好地集中精力，不因周围的无效刺激而分散脑力。

这个自我修整过程是大脑发育当中极为重要的步骤，为了更准确地搞清这一过程的细节，来自英国纽卡斯尔大学（Newcastle University）的科学家马科斯·凯瑟（Marcus Kaiser）博士及其同事们招募了121位年龄在4-40岁之间的志愿者，用磁共振弥散张量成像技术扫描了他们的大脑，发现这个自我修整过程是有选择性的，同一区域（比如负责听觉的单元）内部的神经联接被清理的几率很高，而联接不同区域（比如负责听觉的单元和负责视觉的单元），尤其是距离较远的两个区域的神经联接则大部分被保留了下来。

仔细想想大脑这么做是有道理的。首先，距离越远的神经联接在建立的时候肯定越困难，因此也就越宝贵，不能轻易地被清理掉。其次，不同的区域之间的信息交流肯定比同一区域之内的信息交流更重要，比如你从闺蜜那里得来的信息很可能是重复的，而一个生活在异国他乡的朋友传递给你的信息往往就很宝贵了，这样的神经联接价值更大，理应保留。事实上，已知很多神经性疾病的患者都是在远距离神经联接上出了差错，比如癫痫、自闭症和精神分裂症等都是如此。

凯瑟博士将研究结果写成论文，发表在2013年12月15日出版的《大脑皮层》（Cerebral Cortex）杂志上。该文还提到了一个细节，女孩的大脑自我修整过程发生得比男孩早，也许这就是为什么女孩的智力发育开始得比男孩早的原因。

说到男女有别，这个话题可是相当敏感。如果只说体力上的差别没有问题，一旦涉及到男女之间的智商和情商就必须格外小心，否则很容易被人抓住把柄，指责你歧视。话虽如此，坊间关于男女性格差别的段子层出不穷，西方人甚至把男人安排到了火星，女人送到了金星。两者真的有那么大的差别吗？这可不能乱说，必须有科学根据。

2013年12月2日出版的《美国国家科学院院报》（PNAS）刊登了由美国宾夕法尼亚大学放射学系副教授拉吉尼·维尔马（Ragini Verma）博士及其同事们撰写的一篇论文，首次提出了看起来很有说服力的证据。同前文一样，研究者们使用磁共振弥散张量成像技术研究了男人和女人的脑神经联接，绘制出了大约1000名志愿者的神经联接分布图，从中发现男人和女人的大脑结构虽然没有火星和金星的差别那样大，但确实存在明显的差异。

具体来说，研究人员用这项技术扫描了428名男性和521名女性志愿者的大脑，结果显示女性大脑的左右联接比例较高，男性则正相反，前后的联接更多一些，只有一个部分例外，那就是小脑，男性在这个部位的左右联接也是比较多的。已知大脑的前半部分主要负责指挥四肢的运动，后半部分负责控制知觉系统，比如视觉和听觉等等，前后大脑联接紧密这个现象很好地解释了男人的运动能力为什么比女人高。另外，已知小脑也和运动能力密切相关，也许这就是为什么男人在这个部位的左右联接比女人发达。

大脑的左右两半球也是有分工的，左脑一般负责逻辑思维，右脑则更擅长直觉思维。女性在左右半球之间的神经联接比男性多，这个事实很好地解释了为什么女人比男人更擅长社交，记忆力也比男人好，而且善于一心多用。

从进化论的角度看，这个结果是有道理的。我们的祖先在很长一段时间内都是有分工的，男人负责出去打猎，自然需要灵巧的身体和专注的精神，女人负责在家采集野果并照顾孩子，或许在这一过程中完善了“多任务模式”和社交才能。

男女大脑之间的这种结构差异和年龄有着密切的关系。研究显示，两者在13岁之间大体相似，看不出明显差别。14-17岁这个年龄段开始分化，最终形成了两类不同结构的大脑。这个结果说明男女性格的差异是在青春期这段时间里形成的，很可能与激素的变化有关。

这篇后引起了诸多争议，维尔马教授坚持认为该项研究的主要目的是为了帮助医生们找到男女精神疾病的治疗方法，因为不少疾病存在性别差异，比如自闭症在男性中的发病率远比女性要高。但是媒体记者们显然不这么认为，大家一致把话题引到了男女性格的差异上，似乎该研究为“男人来自火星，女人来自金星”这个著名论断找到了科学根据。

不过，也有一些人提出了反对意见，比如英国《卫报》的科学编辑罗宾·麦基（Robin McKie）就专门为此事撰文指出，该研究只是说明男女大脑结构存在差异，没有说明这种差异到底是因还是果。麦基认为男女性格的差异只有很少部分来自遗传，大部分来自后天的教育，以及社会对男孩和女孩的不同期待。

这篇论文的作者维尔马教授在接受采访时表示过类似的看法，她认为这个结果只具有统计学上的意义，可以帮助科学家更好地了解男女这两个群体的行为模式，但无法帮助人们了解具体哪个人到底属于何种情况。比如，维尔马教授本人就是一名女性，却从事着在大多数人眼中相当“男性化”的职业。

神经网络范文第3篇

(一)研究方法

本文采用SOM神经网络对30起旅游突发事件的数据进行聚类分析。SOM神经网络由芬兰学者于20世纪80年代提出，全称是自组织特征映射神经网络，它采取“胜者为王”的竞争学习算法，通过竞争、合作和权值调节来完成无监督自学习的过程。［4］1.SOM神经网络的拓扑结构。神经网络的拓扑结构如图1所示，包括输入层和输出层，输入层各节点通过权值与输出层的神经元相互连接，输入层随机接受任意维度的输入模式，然后以拓扑有序的方式变换到输出层，这个变换叫做特征映射，接着在输出神经元之间完成竞争选择。2.SOM神经网络的学习过程。①初始化。确定总的学习次数T，学习速率a(t)，邻域半径初始权值(t)，②对初始权值和输入向量进行归一化处理③计算传感器的坐标数据与输出神经元的欧式距离:④找出最小的欧式距离，确定取胜的神经元。⑤对连接权值进行调整:⑥更新学习速率和邻域当时，返回步骤②;当学习速率a(t)下降为0或学习次数达到最大值T时，学习过程结束。

(二)数据来源及处理

微博平台在网络舆情传播平台中具有代表性，并且在数据获取的即时性和便捷性上存在明显优势。由于一般旅游突发事件的微博数量太少、可利用性很低，因此本文选用2010－2014年内，引起微博较大反响、博友激烈讨论的30起热点旅游突发事件作为研究样本(见表1)。使用新浪微博的平台开放接口自行编写程序，以旅游突发事件的关键词，抓取微博数据。通过对微博数据的预分析，发现微博集中在旅游突发事件发生后的10天之内，10天之后微博基本不再更新。为了方便对比研究，将有关旅游突发事件的第一条微博的时间作为起始时间，以3小时为一个时间段，一天分为8个时间段:0:01－3:00、3:01－6:00、6:01－9:00、9:01－12:00、12:01－15:00、15:01－18:00、18:01－21:00、21:01－0:00，10天共分为80个时间段，每隔一个时间段记录一次微博数量，同时对每个时间段内的微博数量进行累加处理，这样每个旅游突发事件下都有80个数据。

二、实证研究结果与预测

(一)基于SOM神经网络的旅游突发事件微博传播聚类研究

启用Matlab7.1的SOM神经网络工具箱，编程后，对每条80个元素的30条数据进行聚类，如表2所示。总共得到六种聚类结果，每种类型的旅游突发事件的传播态势都有明显的特征:第一聚类，旅游突发事件发生后2天内，在微博上出现短暂热议，第2－8天博文数量增长趋势迅速减慢，第9、10天内博文数量出现新的小阶梯状增长;第二聚类，博文数量的增长态势近乎直线，但是增长速度还是随着时间逐渐降低，在旅游突发事件的整个传播期内，博文数量呈现持续增长的态势;第三聚类，旅游突发事件发生后的第1－4天内博文数量迅速爆发，4天后相关博文增长速度逐渐趋于零;第四聚类，在旅游突发事件发生后的传播期内，事件一直受到博友的广泛关注，在传播期前2天内经过热议之后，博文的增长速度明显减慢，但是依然保持持续增长的状态;第五聚类，与第三聚类类似，只是博友热议期缩短到2天，2天后相关博文的增长速度逐渐趋于零;第六聚类，博文的传播态势呈现弧型，在传播期的前2天内，增长速度比较大，博文数量快速爆发，第3－4天增长速度逐渐减慢，第8－10天博文基本停止增长。

(二)旅游突发事件网络舆情传播趋势的预测

由于具有信息传播的即时性、互动性、快捷性，微博逐渐成为旅游突发事件网络舆情的重要载体，政府控制舆情的传统方法的功能严重弱化。旅游突发事件的发生涉及社会公众关注的旅游目的地安全、旅游交通安全、游客权益保障等热点问题，不仅会引起微博舆论的爆发，而且错误的信息容易误导社会公众，引起恐慌，扰乱国家经济秩序。因此，实时监测微博的动态，并进行有效预测，对于政府部门采取及时、恰当的措施监管微博舆情具有重要的指导意义。选取第六聚类的旅游突发事件作为样本，取6个旅游突发事件的微博数据的平均值，将其作为预测数据，采用指数函数方法进行拟合并预测。选用80个数据的前70个数据作拟合，得出拟合模型，后10个数据作为预测结果检验数据。指数函数的拟合模型是:，拟合结果的相关系数是0.99435，第71到80个数据的预测曲线与实际曲线几乎完全吻合，说明模型的预测效果很好。

三、结论与讨论

(一)结论

1.遵循“黄金4小时”舆情应对模式。基于旅游突发事件在微博平台中的舆情传播态势分析，容易发现，博文数量集中在前2天内爆发，并且在前4个小时内，微博数量增长速度非常快。旅游突发事件应对模式应该从传统事件处置的“黄金24小时”缩短到新媒体环境下的“黄金4小时”报道事件。需要旅游政府、企业、景区等主体联合进行舆论应对工作，第一时间识别微博舆情的危机苗头，即时权威信息，澄清和驳斥不实信息，引导主流媒体舆论的走向。2.即时公开信息，挽回旅游地形象。不实的言论会诱发网友情绪，扰乱旅游突发事件的事态发展，损害旅游目的地的旅游形象。通过对旅游突发事件的微博传播的特征分析发现，传播期的前两天是网络舆论的爆发期，也是舆情控制的关键时期。旅游目的地政府部门和景区管理部门应该主动与媒体、博友沟通，第一时间公开透明地旅游突发事件的真相、调查结果、处置过程等信息，让媒体客观公正地评价旅游突发事件，引导网友的舆论倾向。既可以表现旅游目的地对突发事件的响应能力，又有利于旅游目的地形象的维护。3.权威信息，消除“信息污染”。事件发生后，在传播期的前两天内，突发事件往往处于发展方向不明确的状态中，在博友、媒体各方的广泛关注下，一个不实消息的传播都可能激发各方的情绪，造成舆情危机态势的蔓延。旅游目的地景区、政府部门、旅游局等官方微博应该独家权威消息，多角度介绍旅游突发事件的真相、事态进展、调查结果、善后处理等消息，消灭事件相关消息中有害的、虚假的、误导的信息元素。4.开发舆情跟踪系统，建立舆情跟踪机制。加快高等院校和科研机构对舆情监测核心技术、信息规制挖掘技术、信息理解与分类技术的攻克，建立产学研合作平台，经过技术成果转化过程，将成果投入使用。旅游目的地应该建立完善的旅游突发事件的舆情监控机制，在旅游突发事件刚发生而网络舆情尚在潜伏期的时候，提高对舆情的预判能力，实现对事件舆情的动态变化进行实时跟踪监测，及时采取措施引导网络舆情和化解矛盾。

(二)讨论

旅游突发事件发生之后，微博用户围绕着突发事件的自由讨论，从众心理推动着舆论的发展，产生轰动的效果，在网络舆情生成过程中起到推波助澜的作用，为了描述旅游突发事件的微博传播态势，本文选取了30个旅游突发事件，运用新浪微博API平台，设计程序抓取微博数据，调用Mat-lab7.1的SOM神经网络工具箱对30个微博数据进行聚类分析，得出六种聚类结果，并画出基于时间线的微博传播态势图，在此基础上运用指数函数方法对微博传播态势进行预测。本文的研究还存在不足之处，未来研究应该进一步对聚类结果进行建模，更为标准地描述事件的传播规律，并选取更多的旅游突发事件进行态势预测，提高预测的精确度，在此基础上开发微博舆情管理系统，对微博舆情进行实时监控和态势预测，以期应用到微博舆情的实际管理工作中。

神经网络范文第4篇

关键词经济活动预测模型人工神经网络

经济活动诸如商品价格走势、生产活动的产量预测、加工的投入产出分析、工厂的成本控制等方面都是重要的技术经济层面。定量化的经济活动分析是经济学研究的必由之路，而建模是量化分析的基础，这是因为模型为科学分析和质量、成本等控制提供了理论依据。本文针对经济活动中大多数研究对象都具有的非线性特点，给出了用人工神经网络（ArtificialNerveNetwork）模型建立经济活动的预测模型的原理和方法，并描述了神经网络与各种先进的建模方法相结合的模型化方法，为经济活动的分析、预测与控制提供了理论基础。

1神经网络模型方法

现实的经济系统是一个极其复杂的非线性系统，客观上要求建立非线性模型。传统上使用回归与自回归模型刻画的都是线性关系，难于精确反映因变量的变化规律，也终将影响模型的拟合及预报效果。为揭示隐含于历史记录中的复杂非线性关系必须借助更先进的方法———人工神经网络(ANN)方法。

人工神经网络具有并行处理、自适应、自组织、联想记忆及源于神经元激活函数的压扁特性的容错和鲁棒性等特点。数学上已经证明，神经网络可以逼近所有函数，这意味着神经网络能逼近那些刻画了样本数据规律的函数，且所考虑的系统表现的函数形式越复杂，神经网络这种特性的作用就越明显。

在各类神经网络模型中，BP（Back－Propagation误差后向传播）神经网络模型是最常用的也是最成熟的模型之一。本质上，BP模型是对样本集进行建模，即建立对应关系RmRn,xk∈Rm,ykRn。数学上，就是一个通过函数逼近拟合曲线/曲面的方法，并将之转化为一个非线性优化问题来求解。

对BP神经网络模型，一般选用三层非循环网络。假设每层有N个处理单元，通常选取连续可微的非线性作用函数如Sigmoid函数f(x)=1/(1+e-x)，训练集包括M个样本模式{(xk,yk)}。对第P个训练样本（P＝1，2，…，M），单元j的输入总和记为apj，输出记为Opj，则:

apj=WQ

Opj=f(apj)=1/(1+e-apj)（1）

对每个输入模式P，网络输出与期望输出（dpj）间误差为：

E=Ep=((dpj-Opj)2)（2）

取BP网络的权值修正式：

Wji(t+1)=Wji(t)+?浊?啄pj+?琢(Wji(t)-Wji(t-1))（3）

其中，对应输出单元?啄pj=f’,(apj)(dpj-Opj)；对应输入单元?啄pj=f’,(apj)?啄pkWkj；

?浊是为加快网络收敛速度而取值足够大又不致产生振荡的常数；?琢为一常数项，称为趋势因子，它决定上一次学习权值对本次权值的影响。

BP学习算法的步骤：初始化网络及学习参数；提供训练模式并训练网络直到满足学习要求；前向传播过程,对给定训练模式输入，计算网络的输出模式，并与期望比较，如有误差，则执行下一步，否则返回第二步；后向传播过程,计算同一层单元的误差?啄pj,按权值公式（3）修正权值;返回权值计算公式（3）。BP网络的学习一般均需多周期迭代，直至网络输出与期望输出间总体的均方根误差ERMS达到一定要求方结束。

实践中，BP网络可能遇到如下问题：局部极小点问题；迭代收敛性及收敛速度引起低效率问题。此外还有，模型的逼近性质差；模型的学习误差大，记忆能力不强；与线性时序模型一样，模型网络结构及节点作用函数不易确定；难以解决应用问题的实例规模与网络规模之间的矛盾等。为克服这样的一些问题，同时为了更好地面向实际问题的特殊性，出现了各种基于神经网络模型或与之结合的模型创新方法。

2灰色神经网络模型

灰色预测和神经网络一样是近年来用于非线性时间序列预测的引人注目的方法，两种方法在建模时都不需计算统计特征，且理论上可以适用于任何非线性时间序列的建模。灰色预测由于其模型特点，更合用于经济活动中具有指数增长趋势的问题，而对于其他变化趋势，则可能拟合灰度较大，导致精度难于提高。

对于既有随时间推移的增长趋势，又有同一季节的相似波动性趋势，且增长趋势和波动性趋势都呈现为一种复杂的非线性函数特性的一类现实问题，根据人工神经网络具有较好的描述复杂非线性函数能力特点，用其对季节性建模；最后根据最优组合预测理论，建立了兼有GM（1，1）和ANN优点的最优组合预测模型。该模型能够同时反映季节性时间序列的增长趋势性和同季波动性的双重特性，适用于一般具有季节性特点的经济预测。

首先，建立GM（1，1）模型，设时间序列x(0)=(x(0)(1),x(0)(2),?撰,x(0)(n))，作一阶累加生成：

x(1)=(x(1)(1),x(1)(2),?撰,x(1)(n))（4）

其中x(1)(k)=(x(0)(i),k=1,2,?撰,n

构造一阶线性灰色微分方程并得到该方程的白化微分方程：

+ax=u

用最小二乘法求解参数a，u，得到x(1)的灰色预测模型：

(1)(k+1)=(X(0)(1)-u/a)e-ak+u/a,(k=0,1,2,?撰)（5）

其次，根据上节方法建立BP人工神经网络模型。

第三，将两模型优化组合。设f1是灰色预测值，f2是神经网络预测值，fc是最优组合预测值，预测误差分别为:e1,e2,ec，取w1和w2是相应的权系数，且w1+w2=1,有fc=w1f1+w2f2，则误差及方差分别为ec=w1e1+w2e2,Var(ec)=w21Var(e1)+w22Var(e2)+2w1w2cov(e1,e2)

对方差公式求关于w1的极小值，并取cov(e1,e2)=0，即可得到组合预测权系数的值。

2基于粗糙集理论的神经网络模型

粗糙集理论与模糊集理论一样是研究系统中知识不完全和不确定问题的方法。模糊集理论在利用隶属函数表达不确定性时，为定义一个合适的隶属函数，需要人工干预，因而有主观性。而粗糙集理论由粗糙度表示知识的不完全程度，是通过表达知识不精确性的概念计算得到的，是客观的，并不需要先验知识。粗糙集通过定义信息熵并进而规定重要性判据以判断某属性的必要性、重要性或冗余性。

一般来说，BP神经网络模型对模型输入变量的选择和网络结构确定等都基本凭经验或通过反复试验确定，这种方法的盲目性会导致模型质量变差。用粗糙集理论指导，先对各种影响预测的因素变量进行识别，以此确定预测模型的输入变量；再通过属性约简和属性值约简获得推理规则集；然后以这些推理规则构造神经网络预测模型，并采用加动量项的BP的学习算法对网络进行优化。有效改善了模型特性，提高了模型质量。其建模步骤为：由历史数据及其相关信息历史数据构造决策表；初始化；对决策表的决策属性变量按划分值域为n个区域的方式离散化；采用基于断点重要性的粗糙集离散化算法选择条件属性变量和断点（分点），同时计算决策表相容度，当决策表相容度为1或不再增加时，则选择条件属性变量和分点过程结束；由选择的条件属性变量及其样本离散化值构造新的决策表，并对其约简，得到推理规则集；由推理规则集建立神经网络模型；对神经网络进行训练；若神经网络拟合误差满足要求，则结束，否则，增加n。必须指出，区间分划n太小，会使得拟合不够，n太大，即输出空间分得太细，会导致过多的区域对应，使网络结构过于复杂，影响泛化（预测）能力。

3小波神经网络模型

人工神经网络模型存在的网络结构及节点函数不易确定问题，结合小波分析优良的数据拟合能力和神经网络的自学习、自适应特性建模，即用非线性小波基取代通常的非线性S型函数。

设非线性时间序列变化函数f(t)∈L2(R)，定义其小波变换为：

Wf(a,b)==f(t)?渍()dt（6）

式中，?渍ab(t)称为由母小波?渍t（定义为满足一定条件的平方可积函数?渍(t)∈L2(R)如Haar小波、Morlet小波、样条小波等）生成的依赖于参数a、b的连续小波，也称小波基。参数a的变化不仅改变小波基的频谱结构，还改变其窗口的大小和形状。对于函数f(t)，其局部结构的分辩可以通过调节参数a、b，即调节小波基窗口的大小和位置来实现。

用小波级数的有限项来逼近时序函数，即：

(t)=wk?渍()（7）

式中(t)，为时间序列y(t)的预测值序列；wk,bk,ak分别为权重系数，小波基的平移因子和伸缩因子；L为小波基的个数。参数wk,bk,ak采用最小均方误差能量函数优化得到，L通过试算得到。

4模糊神经网络模型

模糊集合和模糊逻辑以人脑处理不精确信息的方法为基础，而人工神经网络是以大量简单神经元的排列模拟人脑的生理结构。二者的融合既具有神经网络强大的计算能力、容错性和学习能力，又有对于不确定、不精确信息的处理能力，即同时具有底层的数据处理、学习能力和高层的推理、思考能力。

一种应用模糊理论的方法是把模糊聚类用来确定模糊系统的最优规则数，从而确定模糊神经网络的结构。这样确定的网络结构成为四层：第一层为直接输入层；第二层为模糊化层，对输入做模糊化处理；第三层为模糊推理层，对前层模糊结果做模糊推理；第四层为非模糊化层，可以采用重心非模糊化法，产生网络输出。该网络采用动态处理法，增强了其处理能力，且适用性强、精度高。

5结语

除上述几种结合式神经网络方法之外，人工神经网络模型在算法设计方面一直在取得巨大的进步。神经网络模型方法是一种先进的具有智能的非线性建模方法，其在自然科学、经济现象、社会活动等方面的应用正在不断深化，把神经网络方法引入经济活动的分析和预测中，并紧密联系诸多先进的建模方法，是使工业经济、商业经济及其对经济本质规律的研究等各项工作推向前进的重要理论武器。

参考文献

1杨璐,高自友.基于神经网络的时序预测模型研究[J].北方交通大学学报,1998(3)

神经网络范文第5篇

关键词:神经网络;BP算法;PID控制;Matlab仿真

中图分类号:TP274文献标识码:A

文章编号:1004-373X(2009)10-143-03

PID Control and Simulation Based on BP Neural Network

WU Wei,YAN Mengyun,WEI Hangxin

(School of Mechanical Engineering,Xi′an Shiyou University,Xi′an,710065,China)

Abstract:The neural network PID control method is introduced,which the parameters of PID controller is adjusted by use of the self-study ability.So the PID controller has the capability of self-adaptation.The dynamic BP algorithms of three-layer networks realize the online real-time control,which displays the robustness of the PID control,and the capability of BP neural networks to deal with nonlinear and uncertain system.A simulation example is made by using of this method.The result of simulation shows that the neural network PID controller is better than the conventional PID controller,and has higher accuracy and stronger adaptability,it can get the satisfied control result.

Keywords:neural network;BP algorithm;PID control;Matlab simulation

0 引 言

在工业控制中,PID控制是最常用的方法。因为PID控制器结构简单,实现容易,控制效果良好[1]。随着工业的发展,对象的复杂程度不断加深,尤其对于大滞后、时变的、非线性的复杂系统,常规PID控制显得无能为力。因此常规PID控制的应用受到很大的限制和挑战。为了使控制器具有较好的自适应性,实现控制器参数的自动调整,可以采用神经网络控制的方法[2]。

利用神经网络所具有的非线性映射能力、自学习能力、概括推广能力,结合常规PID控制理论,通过吸收两者的优势,使系统具有自适应性,可自动调节控制参数,适应被控过程的变化,提高控制性能和可靠性[3]。

1 神经网络PID控制

神经网络PID控制是神经网络应用于PID控制并与传统PID控制相结合而产生的一种新型控制方法,是对传统的PID控制的一种改进和优化[4]。

1.1 常规的PID控制器

传统的PID控制器算式如下:

u(t)=KP[e(t)+(1/T1)∫t0e(t)dt+TDde(t)/dt](1)

相应的离散算式为:

u(k)=KPe(k)+KI∑kj=0e(j)+KD[e(k)-e(k-1)](2)

式中: KP,KI,KD分别为比例、积分、微分系数;e(k)为第k次采样的输入偏差值;u(k)为第k次采样时刻的输出值。

PID控制器由比例(P)、积分(I)、微分(D)三个部分组成,直接对被控对象进行闭环控制,并且三个参数KP,KI,KD为在线调整方式。

1.2 神经网络

BP神经网络的结构如图1所示。

BP神经网络通常采用基于BP神经元的多层前向神经网络的结构形式。典型的BP神经网络是3层网络,包括输入层、隐层和输出层,各层之间实行全连接。输入层节点只是传递输入信号到隐含层;隐含层神经元(即BP节点)的传递函数f常取可微的单调递增函数,输出层神经元的特性决定了整个网络的输出特性。当最后一层神经元采用Sigmoid函数时,整个网络的输出被限制在一个较小的范围内;如果最后一层神经元采用Purelin型函数,则整个网络的输出可以取任意值。

图1 三层BP网络结构图

设,x1,x2,…,xn为BP网络的输入;y1,y2,…,yn为BP网络的输出;w1ji为输入层到隐含层的连接权值;w2ij为隐含层到输出层的连接权值。

图1中各参数之间的关系为:

输入层: xi=xi0

隐含层:

θ1j=∑ni=0w1jixi, x1j=f(θ1j)(3)

输出层:

θ2i=∑ni=0w2ijxj, x2i=g(θ2i)(4)

BP神经网络采用误差的反向传播来修正权值,使性能指标E(k)=(1/2)\2最小。按照梯度下降法修正网络的权值:

输出层:

δ2=e(k)g′\;

w2ij(k+1)=w2ij(k)+ηδ2x1j(k)(5)

隐含层:

δ1=δ2w2ijf′\;

w1ji(k+1)=w1ji(k)+ηδ1x0i(k)(6)

1.3 神经网络PID控制器结构

基于BP神经网络的PID控制系统结构如图2所示。控制器由常规的PID控制器和神经网络两部分组成。PID控制要取得较好的控制效果,必须通过调整好比例、积分和微分三种控制作用,形成控制量中相互配合又相互制约的关系。

常规的PID控制器直接对被控对象进行闭环控制,并且其控制参数为KP,KI,KD在线调整方式。神经网络根据系统的运行状态,调节PID控制器的参数,以期达到某种性能指标的最优化,使输出层神经元的输出对应于PID控制器的三个可调参数KP,KI,KD。神经网络所具有的任意非线性表达能力,可以通过对系统性能的学习来实现具有最佳组合的PID控制。

图2 基于BP神经网络的PID控制器结构

1.4 神经网络PID控制器的控制算法

(1) 确定神经网络的结构,即确定输人节点数和隐含层节点数,并给出各层加权系数的初值w(1)ij(0)和w(2)ji(0),并选定学习速率η和惯性系数α,令k=1;

(2) 采样得到r(k)和y(k),计算当前时刻的误差e(k)=r(k)-y(k);

(3) 计算各神经网络的输入/输出,其输出层的输出即为PID控制器的三个控制参数KP,KI,KD;

(4) 计算PID控制器的输出;

(5) 进行神经网络学习,在线调整加权系数,实现PID控制参数的自适应调整;

(6) 令k=k+1,返回(1)。

2 神经网络的Matlab仿真

为了检验神经网络PID控制系统的能力,在此进行大量的仿真实验。下面以一阶时滞系统作为被控对象,进行仿真实验。

设被控对象为:

G(s)=160s+1e-0.5s

相应的控制系统的阶跃响应曲线如图3、图4所示。

图3 普通PID控制阶跃响应

可以看出,采用传统的PID控制,其调节时间ts=120 s,超调量达到65%;采用神经网络PID控制,系统调节时间ts=120,超调量只有20%。由此说明,后者响应的快速性和平稳性都比前者要好,也说明了这种方法的有效性。

图4 神经网络PID控制阶跃响应

3 结 语

神经网络PID控制方法简单,借助神经网络的自学习、自组织能力,可实现PID参数的在线自整定和优化,避免了人工整定PID参数的繁琐工作。从文中可以得出,神经网络PID控制有如下的优点:

(1) 无需建立被控系统的数学模型;

(2) 控制器的参数整定方便;

(3)对于大滞后、时变的、非线性的复杂系统有很好的动静态特性。实现有效控制和PID控制参数的在线自整定。

参考文献

[1]刘金琨.先进PID控制及Matlab仿真[M].北京:电子工业出版社,2003.

[2]韩豫萍,孙涛,盛新.基于BP神经网络的PID控制及仿真[J].可编程控制器与工厂自动化,2007(12):91-93.

[3]黄金燕,葛化敏,唐明军.基于BP神经网络的PID控制方法的研究[J].微计算机信息,2006(26):278-280.

[4]曾军,方厚辉.神经网络PID控制及其Matlab仿真[J].现代电子技术,2004,27(2):51-52.

[5]赵娟平.神经网络PID控制策略及其Matlab仿真研究[J].微计算机信息,2007(7):59-60.

[6]Zhang Mingguang,Qiang Minghui.Study of PID Neural Network Control for Nonlinear System[J].Institute of Electrical and Electronics Engineers Inc,2007.

[7]孙洁.神经网络PID算法在流量控制中的应用与仿真研究[D].合肥:合肥工业大学,2007.

[8]王亚斌.基于BP神经网络PID控制及其仿真[J].江苏冶金,2008(2):33-35.

[9]廖方方,肖建.基于BP神经网络PID参数自整定的研究\.系统仿真学报,2005(7):1 711-1 713.

[10]杜建凤,崔勇.神经网络PID控制\.北京科技大学学报,1998(6):571-575.

神经网络范文第6篇

1基于贝叶斯算法的BP神经网络

1.1贝叶斯算法基于贝叶斯算法的BP神经网络是基于贝叶斯定理而发展出来的用于解决统计问题的方法，即任意一个待求量都可以看作是一个随机变量，因此可以通过概率分布来对待求量进行描述，这个概率是在抽样前就有的关于待求量的先验概率分布。贝叶斯理论正是在没有样本信息时，只根据先验概率分布来求解待求量。而在有样本后，则可根据总体、样本和先验信息的联合分布来对未知量进行判断。后验分布π（θ|x）是反映人们在抽样后对随机变量θ的认识，其与先验分布即样本x的差异是由于样本出现后人们对θ的调整，即后验分布π（θ|x）为抽样信息对先验分布π（θ）调整的结果[6]。

1.2贝叶斯算法BP神经网络基于贝叶斯算法的BP神经网络是一种以神经网络基本原理为构架，通过引入贝叶斯推理有效地控制网络模型的复杂度，进而更好地解决非线性问题及其不确定性[7]。在BP神经网络中，训练样本集为D（xm，Om），xm为输入信号，Om为输出节点，在一定的网络结构A与网络参数W下，可以得到网络的输出由网络的输入D唯一的确定。网络训练的目标函数为误差函数ED（D|W，A），则有。采用贝叶斯算法BP神经网络步骤如下：（1）确定网络结构A，初始化超参数α，β，对网络参数W进行赋值。（2）以最终目标函数为M（W）最小为原则，对BP神经网络进行训练，寻找最优可能网络参数W。（3）寻找最优可能参数α，β。（4）采用不同初始网络参数寻找最优网络参数。（5）对不同网络结构A，寻找最优网络参数。

2贝叶斯算法的BP神经网络量化结果分析

2.1训练样本与测试样本在对管道进行磁化的过程中，最常用的方法是沿管道轴向进行磁化，提取缺陷处沿轴向变化的漏磁场与沿周向变化的漏磁场，缺陷的长度信息主要由沿轴向变化漏磁场反应，缺陷的宽度信息主要由沿周向变化的漏磁场反应，而缺陷的深度信息则是由这两个量共同反应[9]。本文采用实验的方法获取网络所需样本，这里以对陡壁缺陷的分析为例，研究贝叶斯算法的BP神经网络对陡壁缺陷量化的有效性。分别制作缺陷长度为3，3.5，4，4.5，5，5.5倍管道壁厚，宽度为0.5，1，1.5，2倍管道壁厚，深度为0.1，0.15，0.2，0.25倍管道壁厚，共得到96组测量结果，取其中80个缺陷特征作为网络的训练样本，剩余的16个缺陷特征作为测试样本。

2.2长度的量化采用统计分析的方法选取与缺陷长度关系密切的特征量作为神经网络的输入信号，将缺陷长度作为网络的输出信号来对网络进行训练。所选取主要特征有漏磁场轴向分量的静态阈值截取长度、一阶微分信号极小值的位置与周向变化漏磁场动态阈值截取长度。分别对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，当均方误差小于10-3时停止训练，得到两种网络的训练与学习过程如图1所示。比较两种算法训练过程可以看出贝叶斯算法的BP神经网络总共进行了331次训练，而基本的BP神经网络总共进行了1789次训练，可见贝叶斯算法的BP神经网络的收敛速率更快。用16组测试数据对两种网络长度的量化误差进行比较，得到量化后缺陷最大相对误差与最小相对误差如表1所示，对应贝叶斯算法BP神经网络量化的缺陷如表2所示。从表2中可以看出，采用贝叶斯算法的BP神经网络量化得到的缺陷长度与设计值的误差明显小于基本的BP神经网络，最大相对误差仅为0.05%。

2.3宽度的量化与缺陷长度的量化相似，采用统计分析的方法选取与缺陷宽度关系密切的特征量作为神经网络的输入信号，将缺陷宽度作为网络的输出信号来对网络进行训练。所选取主要特征有轴向变化漏磁场峰谷值、周向变化漏磁场波形面积、波形能量、静态阈值截取长度。分别对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，当均方误差小于10-3时停止训练，得到两种网络的训练与学习过程如图2所示。比较两种算法训练过程可以看出贝叶斯算法的BP神经网络总共进行了269次训练，而基本的BP神经网络总共进行了2248次训练，可见引入贝叶斯算法后的BP神经网络的收敛速率大幅提升。与之前相同，用16组测试数据对两种网络宽度的量化误差进行比较，得到量化后缺陷误差如表3所示，贝叶斯算法BP神经网络量化达到误差的缺陷见表4。在对缺陷宽度进行量化的过程中，尽管量化得到的最大相对误差仍较大，采用贝叶斯算法的BP神经网络量化得到的缺陷宽度与设计值的误差明显小于基本的BP神经网络。

2.4深度的量化在对缺陷的深度进行量化时，采用统计分析的方法选取了缺陷的长度、宽度以及轴向变化漏磁场的两个峰谷值、波形面积、周向变化漏磁场峰值、峰谷值作为神经网络的输入信号，将缺陷深度作为网络的输出信号来对网络进行训练。对基本的BP神经网络与贝叶斯算法的BP神经网络进行训练，得到两种网络的训练与学习过程如图3所示。贝叶斯算法BP神经网络总共进行了4152次训练，基本的BP神经网络总共进行了8763次训练，尽管引入贝叶斯算法BP神经网络的训练过程仍旧较长，但比基本BP神经网络的收敛速率有所提升。用16组测试数据对两种网络深度的量化误差进行比较，得到量化后缺陷误差如表5所示，贝叶斯算法BP神经网络量化达到误差的缺陷见表6。从对缺陷深度量化结果可以看出，采用贝叶斯算法的BP神经网络对缺陷深度进行量化，得到的缺陷深度与设计值的误差小于基本的BP神经网络。

3结束语

本文为克服传统BP神经网络中训练速度慢、识别精度较低、数据过拟合、容易进入局部极小点等缺点，将贝叶斯算法引入BP神经网络，通过贝叶斯推理有效地控制网络的复杂度，在一定程度上改善了BP神经网络对缺陷进行量化的性能，实现了对缺陷长度、宽度、深度的量化。

神经网络范文第7篇

【关键词】神经元；通道噪声；膜面积；时滞

引言

随着科学的发展，通过对神经元模型的研究，人们对大脑的认识越来越深入，然而合适的神经元模型是构造神经动力学模型的基础.1952 年，Hodgkin等通过对枪乌贼的巨轴突的实验，得到了4维的HodgkinHuxely神经元模型（简称HH 模型）[1].神经元的同步放电普遍存在于生物神经系统中，神经网络同步[2]是指系统中神经元同一时间放电或者其节律存在某种关系.本文以随机的HH模型为基础构建一个具有N个抑制性神经元所组成的神经网络模型[3]，从而分析了时滞、通道噪声[4-5]对神经网络同步的影响.

2.数值模拟

通过数值模拟，以下研究时滞对抑制性神经元所组成的神经网络同步的影响.首先设定耦合强度g=5 ms/cm2和时滞τd=5 ms.当固定膜面积，若连接概率P=0时不管时滞是否为0，神经元的发放随机且无规则；而当连接概率P=0.5或P=1时若时滞为0，神经元的发放出现轻微同步现象，值得注意的是，若时滞不为0，神经元的发放出现较好的同步现象且随着连接概率P的增大神经元的发放越来越同步，如图1所示.这表明在没有时滞作下神经网络的同步性很差，而加入适当的时滞有助于促进神经网络的同步.

图1不同的连接概率和膜面积所对应的神经元网络发放模式

为了研究时滞和通道噪声对抑制性神经元所组成的神经网络同步的影响，现引入同步指数C来度量.首先设定连接概率P=1.从图2可看出时滞和通道噪声对神经网络的同步行为有重要影响.当时滞很小时神经网络的同步性很弱，而随着时滞逐渐增大时网络的同步性逐渐增强，但增大到一定程度的时候神经网络的同步性会慢慢下降且趋于稳定；另外，在适当的时滞作用下随着膜面积Area增大时即通道噪声变小神经元发放越来越同步，但当膜面积增大到一定程度的时候网络的同步性也会慢慢下降且趋于稳定.

图2膜面积和时滞与同步指数C的关系

3.结论

通过以上数值分析结果可得，在没有时滞作下抑制性神经元所组成的神经网络同步性很差，而加入适当的时滞有助于促进神经网络的同步.另外，膜面积Area增大时即通道噪声变小神经元发放越来越同步，但膜面积增加到一定程度神经网络的同步性会慢慢下降且趋于稳定.

【参考文献】

[1]阮迪云.神经生物学[M].中国科学技术大学出版社，2008.

[2]J.Kurths，A.Pikovsky，M.Rosenblum.Synchronization：a Universal Concept in Nonlinear Science[M].Cambridge：Cambridge Univ press，2001.

[3]Wang X J.Gamma Oscillation by Synaptic inhibition in a Hippocampal Interneuronal network Model[J]Nuerosci.J，16（1996），6402-6413.

[4]J.M.Casado.Synchronization of two HodgkinHuxiley neurons due to internal noise[J].Phys.Lett.A，2003，310：400-406.

神经网络范文第8篇

[关键词]遗传算法 灰色系统 专家系统 模糊控制 小波分析

一、前言

神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则， 如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点：

(1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。

(2) 并行处理方法，使得计算快速。

(3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。

(4) 可以充分逼近任意复杂的非线性关系。

(5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。

二、神经网络应用现状

神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下：

(1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。

(2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。

(3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。

(4) 机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。

(5) 卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。

(6) 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究，部分成果已得到应用。

(7) 经济。能对商品价格、股票价格和企业的可信度等进行短期预测。

(8) 另外，在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。

三、神经网络发展趋势及研究热点

1.神经网络研究动向

神经网络虽已在许多领域应用中取得了广泛的成功，但其发展还不十分成熟，还有一些问题需进一步研究。

(1) 神经计算的基础理论框架以及生理层面的研究仍需深入。这方面的工作虽然很困难，但为了神经计算的进一步发展却是非做不可的。

(2) 除了传统的多层感知机、径向基函数网络、自组织特征映射网络、自适应谐振理论网络、模糊神经网络、循环神经网络之外，一些新的模型和结构很值得关注，例如最近兴起的脉冲神经网络(spiking neural network)和支持向量机(support vector machine)。

(3) 神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统，正成为一大研究热点。

(4) 增强神经网络的可理解性是神经网络界需要解决的一个重要问题。这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。

(5) 神经网络的应用领域将不断扩大，在未来的几年中有望在一些领域取得更大的成功，特别是多媒体技术、医疗、金融、电力系统等领域。

2.研究热点

(1)神经网络与遗传算法的结合。遗传算法与神经网络的结合主要体现在以下几个方面：网络连接权重的进化训练；网络结构的进化计算；网络结构和连接权重的同时进化；训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别、机器人控制、财政等，并取得了较传统神经网络更好的性能和结果。但从总体上看，这方面研究还处于初期阶段，理论方法有待于完善规范，应用研究有待于加强提高。神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。

(2)神经网络与灰色系统的结合。灰色系统理论是一门极有生命力的系统科学理论，自1982年华中理工大学的邓聚龙教授提出灰色系统后迅速发展，以初步形成以灰色关联空间为基础的分析体系，以灰色模型为主体的模型体系，以灰色过程及其生存空间为基础与内的方法体系，以系统分析、建模、预测、决策、控制、评估为纲的技术体系。目前，国内外对灰色系统的理论和应用研究已经广泛开展，受到学者的普遍关注。灰色系统理论在在处理不确定性问题上有其独到之处，并能以系统的离散时序建立连续的时间模型，适合于解决无法用传统数字精确描述的复杂系统问题。

神经网络与灰色系统的结合方式有：(1) 神经网络与灰色系统简单结合；(2) 串联型结合；(3) 用神经网络增强灰色系统；(4) 用灰色网络辅助构造神经网络；(5) 神经网络与灰色系统的完全融合。

(3)神经网络与专家系统的结合。基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块，各功能子系统模块分别由神经网络或专家系统实现。其研究的主要问题包括：混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。由于该混合系统从根本上抛开了神经网络和专家系统的技术限制，是当前研究的热点。把粗集神经网络专家系统用于医学诊断，表明其相对于传统方法的优越性。

(4)神经网络与模糊逻辑的结合

模糊逻辑是一种处理不确定性、非线性问题的有力工具。它比较适合于表达那些模糊或定性的知识，其推理方式比较类似于人的思维方式，这都是模糊逻辑的优点。但它缺乏有效的自学习和自适应能力。

而将模糊逻辑与神经网络结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算法可以很快收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经网络的优点所在。同时，由于它具有神经网络的结构，因而参数的学习和调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络控制已成为一种趋势，它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性，使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。

模糊神经控制的未来研究应集中于以下几个方面：

(1) 研究模糊逻辑与神经网络的对应关系，将对模糊

控制器的调整转化为等价的神经网络的学习过程，用等价的模糊逻辑来初始化神经网络；

(2) 完善模糊神经控制的学习算法，以提高控制算法的速度与性能，可引入遗传算法、BC算法中的模拟退火算法等，以提高控制性能；

(3) 模糊控制规则的在线优化，可提高控制器的实时性与动态性能；

(4) 需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性。

关于神经网络与模糊逻辑相结合的研究已有很多，比如，用于氩弧焊、机器人控制等。

(5)神经网络与小波分析的结合

小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细节。

利用小波变换的思想初始化小波网络，并对学习参数加以有效约束，采用通常的随机梯度法分别对一维分段函数、二维分段函数和实际系统中汽轮机压缩机的数据做了仿真试验，并与神经网络、小波分解的建模做了比较，说明了小波网络在非线性系统黑箱建模中的优越性。小波神经网络用于机器人的控制，表明其具有更快的收敛速度和更好的非线性逼近能力。

四、结论

经过半个多世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，但其理论分析方法和设计方法还有待于进一步发展。相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。

参考文献：

[1]张曾科.模糊数学在自动化技术中的应用[M].清华大学出版社，1997.

[2]李士勇.模糊控制・神经控制和智能控制论[M].哈尔滨工业大学出版，1996.250-387.

[3]谢联峻.模糊控制在列车自动驾驶中的应用[J].自动化与仪器仪表，1999，(4).

[4]Collier W C，Weiland，R J Smart Carts，Smart Highways[J].IEEE Spec-trum，1994，31(4)：27-33.

[5]Hatwal H，Mikulcik E C.some Inverse Solutions to an Automobile Path Tracking Problem with Input Control of Steeringand Breaks，Ve-hicle system Dynamics，1986，(15)：61-71.

[6]Kosuge K，Fukuda T，Asada H.Acquisition if Human Skills for Robotic System[C].In：Proc IEEE Int Symp On Intelligen Control，1991.469-489.

[7]王小平，曹立明.遗传算法―理论、应用与软件实现.西安交通大学出版社，2002.

[8]Maniezzo V.Genetic evolution of the topologh and weight distribution

of neural network[J].IEEE Trans on Neural Network，1994，5(1)35-67.

[9]Harrald P G，Kamstra M.Evolving artificial neural networks to combine financial forecase[J].IEEE Trans on Evol Computer ，1997，1(1)：39-54.

[10]邓聚龙.灰色系统理论教程.华中理工大学出版社，1990.

[11]吕宏辉，钟珞，夏红霞.灰色系统与神经网络融合技术探索.微机发展，2000，23(4)：67-109.

[12]Zhong L，Yuan J L，Zou C M.Parameter whiten method for neural network modeling for gray problem.SPIE，Vol.4739，Orlando，2002.

神经网络范文第9篇

小波神经网络的网络结构和基本的BP神经网络类似，一般采用输入层、隐含层和输出层三部分。小波神经网络隐含层的转移函数采用小波函数，但小波函数的选取目前还未有统一的理论。Szu构造的Morlet小波函数。

2工程应用

2．1工程概况北京地铁6号线东延部分东部新城站至东小营站区间工程位于北京市通州区，起点为东部新城站，终点为东小营站。该区间由东部新城站向东，沿运河东大街北侧设置，沿线穿越绿地、宋郎路路口，到达东小营站，其中在宋郎路路口和运河东大街东南有多处雨水、电力和电信管线。区间穿越的地层主要有粉细砂层、局部夹粉质粘土层、中粗砂层。工程采用直径为6m的土压平衡盾构机进行施工。

2．2网络设计和数据采集小波神经网络的结构设计对预测结果影响较大，应充分考虑与施工相关的各种因素，如地表沉降的成因、工程地质条件和施工工艺参数等。盾构施工引起的地表沉降易受到以下因素影响：盾构施工区间的水文地质条件对沉降量的影响较大；当盾构机由于某种原因停止推进时，千斤顶会漏油回缩导致盾构机后退，引起盾前土体压力减小；盾尾脱空后，管片和土体之间存在空隙，由于注浆不及时，土体填充盾尾空隙引起土体局部塌落；盾壳移动引起土体的摩擦和剪切作用，在该作用力下土体产生变形；盾构改变开挖方向，往往会引起超挖现象，土体受到的扰动随之加大，引起土体局部变形破坏；开挖面的土体靠土仓压力来维持，但是在施工过程中，土仓压力和开挖面压力并不是出于完全平衡状态，这种不平衡状态容易引起土体的坍塌变形。综合考虑各相关因素，确定在对于地表沉降较为敏感的土体参数和施工参数中选取覆土厚度（H）、压缩模量（Es）、粘聚力（c）、天然密度（ρ）、内摩擦角（Ф）、千斤顶推力（F）和注浆压力（P）共7个参数作为神经网络的输入参数。小波神经网络的隐层节点数选择目前还没有成熟的理论依据，可参考BP神经网络的隐层节点选取，通过经验和实验分析以输入节点的2～4倍综合确定，最终选择为13。小波神经网络预测模型的网络结构为7－13－1。盾构施工引起的短期地表沉降对地表建筑和地下管线影响最大，且该施工区段地层变化较小，掘进速度基本不变，故可以选取盾构机通过该点50m后的稳定沉降数据。在施工单位提供的相关测量数据和地质资料中选取了51组数据，将其中36组作为训练数据，如表1所示。选择15组作为测试数据，如表2所示。

2．3地表沉降预测与分析根据选取的36组数据和已经确定的7－13－1的网络结构，分别建立小波神经网络和BP神经网络的预测模型。设定训练目标为0．001，BP神经网络的初始权值、阈值和小波神经网络的伸缩参数、平移参数分别在［－1，1］之间随机赋值。得到训练结果如图1所示。结果显示，经过1050次训练后小波神经网络的训练误差可以达到训练目标，而BP神经网络需要8500次训练才能达到训练目标。小波神经网络的训练速度相比于BP神经网络有较大优势。对于已经训练好的两种模型，使用相同的测试样本进行预测分析，得到的预测结果如图2所示，预测结果和实际测量值的误差如表3所示。可以看出，BP神经网络和小波神经网络的最小、最大误差分别为3．1％、27．3％，2．8％、14．5％，故小波神经网络的预测精度要好于BP神经网络，且预测结果均在工程允许范围内，可以依据此预测结果对现场施工控制参数的制定提供科学的指导。

3结论

盾构施工引起的地表沉降对施工安全影响较大，对其进行有效地预测，并以此作为依据对施工参数进行优化，可达到降低施工风险的目的，对于提高施工效率、确保施工质量、增加经济效益意义重大。本文选用小波神经网络模型对盾构施工地表沉降进行预测，得到以下结论：（1）小波神经网络的训练速度较传统BP神经网络有较大优势。（2）结合北京地铁六号线实地数据验证了小波神经网络用于盾构施工地表沉降预测的可行性。（3）小波神经网络的初始权值、伸缩参数和平移参数的选取还没有成熟的理论依据，如果参数选取不合适可能使小波神经网络陷入局部极小的情况，因此对于小波神经网络参数的优化选取还有待深入研究。

神经网络范文第10篇

本文主要介绍了人工神经网络的概念，并对几种具体的神经网络进行介绍，从它们的提出时间、网络结构和适用范围几个方面来深入讲解。

【关键词】神经网络 感知器网络 径向基网络 反馈神经网络

1 引言

人工神经网络是基于对人脑组织结构、活动机制的初步认识提出的一种新型信息处理体系。它实际上是一个由大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统，通过模仿脑神经系统的组织结构以及某些活动机理，人工神经网络可呈现出人脑的许多特征，并具有人脑的一些基本功能，利用这一特性，可以设计处具有类似大脑某些功能的智能系统来处理各种信息，解决不同问题。下面对几种具体的神经网络进行介绍。

2 感知器网络

感知器是由美国学者Rosenblatt在1957年首次提出的，感知器可谓是最早的人工神经网络。感知器具有分层结构，信息从输入层进入网络，逐层向前传递到输出层。感知器是神经网络用来进行模式识别的一种最简单模型，属于前向神经网络类型。

2.1 单层感知器

单层感知器是指只有一层处理单元的感知器，它的结构与功能都非常简单，通过读网络权值的训练，可以使感知器对一组输入矢量的响应达到元素为0或1的目标输出，从而实现对输入矢量分类的目的，目前在解决实际问题时很少被采用，但由于它在神经网络研究中具有重要意义，是研究其他网络的基础，而且较易学习和理解，适合于作为学习神经网络的起点。

2.2 多层感知器

多层感知器是对单层感知器的推广，它能够成功解决单层感知器所不能解决的非线性可分问题，在输入层与输出层之间引入隐层作为输入模式的“内部表示”，即可将单层感知器变成多层感知器。

3 线性神经网络

线性神经网络类似于感知器，但是线性

神经网络的激活函数是线性的，而不是硬限转移函数。因此线性神经网络的输出可以使任意值，而感知器的输出不是0就是1。线性神经网络最早的典型代表就是在1963年由美国斯坦福大学教授Berhard Windrow提出的自适应线性元件网络，它是一个由输入层和输出层构成的单层前馈性网络。自适应线性神经网络的学习算法比感知器的学习算法的收敛速度和精度都有较大的提高，自适应线性神经网络主要用于函数逼近、信号预测、系统辨识、模式识别和控制等领域。

4 BP神经网络

BP神经网络是1986年由以Rumelhart和McCelland为首的科学家小组提出的，是一种按误差逆传播算法训练的多层前馈网络，在人工神经网络的实际应用中，80%～90%的人工神经网络模型采用BP网络或者它的变化形式，它也是前向网络的核心部分，体现了人工神经网络最精华的部分，BP神经网络由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经过一步处理后完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者达到预先设定的学习次数为止。

BP网络主要应用于以下方面：

（1）函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数。

（2）模式识别：用一个特定的输出矢量将它与输入矢量联系起来。

（3）分类：对输入矢量以所定义的合适方式进行分类。

（4）数据压缩：减少输出矢量维数以便于传输或存储。

5 反馈神经网络

美国加州理工学院物理学家J.J.Hopfield教授于1982年发表了对神经网络发展颇具影响的论文，提出一种单层反馈神经网络，后来人们将这种反馈网络称作Hopfield网。在多输入/多输出的动态系统中，控制对象特性复杂，传统方法难以描述复杂的系统。为控制对象建立模型可以减少直接进行实验带来的负面影响，所以模型显得尤为重要。但是，前馈神经网络从结构上说属于一种静态网络，其输入、输出向量之间是简单的非线性函数映射关系。实际应用中系统过程大多是动态的，前馈神经网络辨识就暴露出明显的不足，用前馈神经网络只是非线性对应网络，无反馈记忆环节，因此，利用反馈神经网络的动态特性就可以克服前馈神经网络的缺点，使神经网络更加接近系统的实际过程。

Hopfield神经网络的应用：

（1）在数字识别方面。

（2）高校科研能力评价。

（3）应用于联想记忆的MATLAB程序。

6 径向基神经网络

径向基RBF网络是一个3层的网络，除了输入、输出层之间外仅有一个隐层。隐层中的转换函数是局部响应的高斯函数，而其他前向网络，转换函数一般都是全局响应函数。由于这样的差异，要实现同样的功能，RBF需要更多的神经元，这就是RBF网络不能取代标准前向型络的原因。但是RBF网络的训练时间更短，它对函数的逼近时最优的，可以以任意精度逼近任意连续函数。隐层中的神经元越多，逼近越精确。

径向基网络的应用：

（1）用于曲线拟合的RBF网络。

（2）径向基网络实现非线性函数回归。

7 自组织神经网络

自组织竞争型神经网络是一种无教师监督学习，具有自组织功能的神经网络，网络通过自身的训练。能自动对输入模式进行分类，一般由输入层和竞争层够曾。两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层之间还存在着横向连接。

常用自组织网络有一下几种：

（1）自组织特征映射网络。

（2）学习矢量量化网络。

（3）自适应共振理论模型。

（4）对偶传播网络。

参考文献

[1]韩力群.人工神经网络教程[M].北京：北京邮电大学出版社，2006.

[2]周品.神经网络设计与应用[M].北京：清华大学出版社，2013.

作者简介

孔令文（1989-），男，黑龙江省齐齐哈尔市人。现为西南林业大学机械与交通学院在读研究生。研究方向为计算机仿真。

作者单位