人工神经网络的缺点十篇

发布时间:2024-04-26 10:49:22

人工神经网络的缺点篇1

关键字:木材表面缺陷,神经网络,Bp网络

abstract:fromnowneuralnetworkinpatternrecognitionofthedevelopmentperspective,inlargenetworkstructureoptimizationproblemandnetworklearningproblemsisstillopentosolveandimprove.therefore,tostudyvariousneuralnetworkinthewoodsurfacedefectrecognitionofthepracticabilityandaccuracy,woodsurfacedefectrecognitiontopromotethestudyofthemethod,hasveryimportantpracticalsignificance.

Keyword:woodsurfacedefect,neuralnetwork,andBpnetwork

中图分类号:F762.4文献标识码:a文章编号:

随着科学技术的发展,神经网络理论作为一门新兴学科,近年来被广泛应用于木材表面缺陷的识别分类中,以达到神经网络具有的实时性、容错性以及学习性等特点。然而,由于木材表面缺陷种类繁多,随机性比较强,这些都给分类器提出了很高的要求。现阶段,人们普遍采用都是基于误差逆传播算法(Bp)的神经网络,然而Bp网络的缺点是对干扰量非常敏感、隐含层节点数需要经过多次尝试、学习速度慢且易陷入局部极小点。

1.误差逆传播神经网络(Bp网络)

按照误差逆传播学习算法进行训练的多阶层神经网络被直接称为误差逆传播神经网络,即Bp网络。Bp网络是一种具有三层神经元的阶层神经网络,不同阶层神经元之间实现权重连接,而每层内各个神经元之间不连接。

2.木材缺陷特征提取

⑴划分缺陷区域并确定缺陷的尺寸和位置

在二值化图像中,相互连接的黑像素的集合称为一个区域。在这部分程序设计中,通过对图像内每个区域进行标记操作(标号),求得这样区域的数目(也就是在这幅二值图像中存在的缺陷数),进而计算每个缺陷的边界,再按照求得条件进行区域划分,把每个缺陷均划在一个区域中,使一幅图像分成多幅图像。然后分别对每个小幅图像进行计算,确定缺陷的位置及尺寸。

⑵根据缺陷位置及尺寸提取灰度特征

根据m[][]数组中的缺陷位置数据,从二值化前的灰度图像中提取缺陷的灰度特征,由此依次地得到缺陷特征数组BB[Rmax-Rmin][Lmax-Lmin]。其中缺陷部分为具体的灰度值,其它均为0。

3.Bp网络设计

Bp神经网络是目前所有神经网络中算法最为成熟,应用最为广泛的一种神经网络,且具有简单、易于实现等特点。

⑴输入层和输出层的设计

Bp神经网络的输入,输出层维数完全根据使用者的要求来设计。本实验研究对象为木材缺陷图像,输入为表征木材图像缺陷特征的特征向量,在图像处理过程中,我们提取了缺陷的3个特征数据:缺陷灰度均值、缺陷灰度方差和缺陷形状。

如果把它们作为网络的输入,则网络的输入层的单元个数便确定为3个,根据所达到的识别要求,对木材的十种缺陷进行有效识别,选择输出层单元的个数十个,即每个单元的输出代表一种缺陷类型,这样便确定了网络的输入和输出层单元数目,再根据这两个数据确定中间层(隐层)单元数。

⑵隐层的设计

1989年,RobertHeeht-nielson证明了对于任意在闭区间内的一个连续函数都可以用含一个隐层的Bp神经网络来逼近,因而一个单隐层的Bp神经网络可以完成任意的n维空间到m维空间的映射,隐层神经元数目选择是一个十分复杂的问题,往往需要根据设计者的经验和多次试验来确定,不存在一个理想的解析式来计算。

⑶初始值的选取

由于系统是非线性的,初始值对于学习能否达到局部最小和是否能够收敛的结果关系很大。一个重要的要求是:初始值在输入累加时使每个神经元的状态值接近于零,权值一般取随机数,要比较小。输入样本也同样希望进行归一化处理,使那些比较大的输入仍落在传递函数梯度大的地方。

⑷传递函数的选择

Bp神经网络传递函数必须是可微的,根据网络的要求和所要达到的网络输出目的,选择网络中间层的传递函数为s形函数,它主要根据值的大小作出运算和判断,它的输出性质与所要求的网络输出具有相同的性质。

⑸网络学习算法的构成

木材缺陷的识别应用Bp神经网络模型,网络训练采用梯度下降法,使输出误差最小,直到满足给定的精度要求。利用图像处理模块部分构成网络的输入特征量,即把缺陷的灰度均值、灰度方差和形状的长宽比作为输入向量{xl、x2、x3)选择值。这一步也就是向神经网络输入的待识别图像的数字特征通过计算机利用一定的算法对这些数字化特征进行分类。当神经元的非线性函数是s型时,由神经元组成的前传型网络的传递函数是连续可微的,故误差反向传播算法可以用LmS法则进行。

⑹识别网络的系统模型及构成

板材表面特征通常是表现为存在表面缺陷和无表面缺陷两种情况,所以适合选用两级神经网络板材表面缺陷检测模型。一级神经网络用于检测图像是否存在缺陷,如果存在缺陷,则图像存入缓冲区,利用二级神经网络对缓冲区的图像进行分析处理,如果没有缺陷,则不保存图像,直接输出检测结果;二级神经网络根据缺陷图像特征参数对缺陷进行分类,确定图像中每个缺陷的位置。

将人工神经网终与有效的特征提取结合起来,有可能获得更为满意的识别效果。根据图像处理模块分析提取反映缺陷形态的特征向量,这些特征向量既可直接输入神经网络的输入节点,作为网络训练或形态识别的参数,也可导入形态识别特征数据库。另外,为了提高网络的自适应性,进一步完善识别诊断模型,还可在原有的训练的网络基础上,对神经网络模型进行再学习。

4.识别结果与讨论

训练后的Bp网络是否满足需要,必须经过检验才能确定。验证网络的正确性一般采用与实际样本数据相比较的方法,即先把验证样本的数据经初始化后输入模型号,经Bp网络模型计算,输出相应数据,然后将对照样本的实际值与网络输出值相比较,若误差在允讲范围内,此网络是可用的,否则要重新训练。

5.结束语

神经网络算法识别给传统模式识别法带来了巨大的挑战。它具有记忆、学习和算法多样等功能,在识别中能够得到非常准确的识别结果,所以神经网络识别在对于板材表面缺陷识别这一方面具有可行性和应用价值。由于实验尚处于对神经网络开发的初级阶段,所选择的网络算法((Bp算法)是神经网络算法中比较成熟的算法,它具有构造、学习等比较容易的优点,但它的一些不可克服的缺点却影响了它在应用中效果。但是这些缺点是可以克服的,神经网络识别的强大优势和识别效果是非常吸引人的。应用一些新型的网络算法,在多次实验研究的基础上,可以根据对板材表面缺陷识别的一些特有的要求来构造有利于这一识别的新型网络,那么神经网络方法对表面缺陷的识别即可达到优于其它传统识别方法的性能。所以,神经网络算法上的改进是今后研究木材表面缺陷神经网络识别首先解决的工作。

参考文献:

[1]王业琴等计算机视觉木材表面色差检测的研究[J]林业科技2005

[2]赵茂程等基于Bp网络的树形识别系统研究[J]林业科学2004

人工神经网络的缺点篇2

关键词:Bp神经网络煤层气井产量预测

1.引言

人工神经网络(artificialneuralnetworks,ann),是近几年来国内外一个前沿研究领域,它是人工构造的模拟人脑功能而构建的一种网络,Bp神经网络是结构较简单、应用最广泛的一种模型,Bp神经网络是Rumelhart等在1986年提出的。它是一种单向传播的多层前向网络,一般具有三层或三层以上的神经网络,包括输入层、中间层(隐层)和输出层[1],其模型见图1所示。

matlab中的神经网络工具箱是以人工神经网络理论为基础,利用matlab语言构造出许多典型神经网络的传递函数、网络权值修正规则和网络训练方法。网络的设计者可根据自己的需要调用工具箱中有关神经网络的设计与训练的程序,免去了繁琐的编程过程。

沁水煤层气田划分为樊庄、潘庄、郑庄3个区块,总面积3630km2,煤层气总资源量4500×108m3,其中中石油登记区总含气面积为1090.87km2,煤层气总资源量为2655.98×108m3。樊庄区块总含气面积为398.23km2,煤层气总资源量为1043.3×108m3,已探明352.26×108m3[2]。截止2008年,樊庄-郑庄区块已经完成59口探井、评价井和48口水平井以及638口开发井的钻探。根据煤层气井产气量对不同井进行组网是经济有效的进行采气作业的好办法,那么在开采之前对煤层气井产气量进行预测就十分必要。本文利用晋试1-6井的参数,以煤层埋深、煤层厚度、含气量、渗透率和含气饱和度作为输入因子,日产气量为输出因子,选择合适的隐层,构建影响沁水樊庄区块煤层气井日产气量的Bp网络模型,运用matlab软件进行预测。

2.Bp神经网络设计的基本方法

matlab的nnbox提供了建立神经网络的专用函数newff()[3]。用newff函数来确定网络层数、每层中的神经元数和传递函数,其语法为:

net=newff(pR,[S1,S2,⋯,Sn],{tF1,tF2,tFn},BtF,BLF,pF)

式中:pR表示由每个输入向量的最大最小值构成的R×2矩阵:Si表示第i层网络的神经元个数;tF表示第i层网络的传递函数,缺省为tansig,可选用的传递函数有tansig,logsig或purelin;BtF表示字符串变量,为网络的训练函数名,可在如下函数中选择:traingd、traingdm、traingdx、trainbfg、trainlm等,缺省为trainlm;BLF表示字符串变量,为网络的学习函数名,缺省为learngdm;BF表示字符串变量,为网络的性能函数,缺省为均方差“mse”。

2.1网络层数

Bp网络可以包含不同的隐层,但理论上已经证明,在不限制隐层节点数的情况下,两层(只有一个隐层)的Bp网络可以实现任意非线性映射。本文所建立的模型拟采用三层的Bp网络。

2.2输入层节点数

输入层起缓冲存储器的作用,它接受外部的输入数据,因此其节点数取决于输入矢量的维数。本论文输入因子为煤层埋深、煤层厚度、含气量、渗透率和含气饱和度,即输入层的输入矢量的维数为5,故输入层节点数为5。

2.3输出层节点数

输出层节点数取决于两个方面,输出数据类型和表示该类型所需的数据大小。在设计输人层和输出层时,应该尽可能的减小系统规模,使系统的学习时间和复杂性减小。结合预测要求本论文设计输出层为产气量一个输出因子。

2.4隐层节点数

一个具有无限隐层节点的两层Bp网络可以实现任意从输入到输出的非线性映射。但对于有限个输入模式到输出模式的映射,并不需要无限个隐层节点,这就涉及到如何选择隐层节点数的问题,至今为止,尚未找到一个很好的解析式,隐层节点数往往根据前人设计所得的经验和自己进行试验来确定。一般认为,隐层节点数与求解问题的要求、输入输出单元数多少都有直接的关系。另外,隐层节点数太多会导致学习时间过长;而隐层节点数太少,容错性差,识别未经学习的样本能力低,所以必须综合多方面的因素进行设计。

隐层节点数的初始值可先由以下两个公式中的其中之一来确定[4,5]。

+a(1)

或(2)

式中,m、n分别为输入结点数目与输出结点数目,a为1~10之间的常数。

2.5数据归一化

因为原始数据幅值大小不一,有时候还相差比较悬殊。如果直接投人使用,测量值大的波动就垄断了神经网络的学习过程,使其不能反映小的测量值的变化。所以,在网络训练之前,输人数据和目标矢量都要经过归一化处理。根据公式可将数据“归一化”,即限定在[0.1,0.9]区间内。归一化公式为:

×0.8+0.1(3)

3.Bp算法及预测模型的建立

3.1Bp算法

1)初始化网络及学习参数;

2)从训练样本集合中取一个样本,并作为输入向量送入网络;

3)正向传播过程,对给定的输入样本,通过网络计算得到输出样本,并把得到的输出样本与期望的样本比较,如有误差超出限定范围,则执行第4步;否则返回第2步,输入下一个样本;

4)反向传播过程,即从输出层反向计算到第一隐层,修正各神经元的连接权值,使用误差减小。

3.2煤层气井日产气量预测模型

为了预测煤层气井日产气量,需要关注很多因素,滤去相关度过低的因子,根据经验确定输入因子为煤层埋深、煤层厚度、含气量、渗透率和含气饱和度,输出因子为日产气量。现以表1所示的沁水樊庄区块晋试1-6井的参数作为训练样本进行训练,对tL003井的数据进行预测。输出层结点代表日产气量,神经网络的预测模型采用5-5-1,即输入层5个神经元,根据公式(2)计算隐层神经元数确定为5,1个输出神经元。设定最大的迭代次数为1000次,系统全局误差小于0.0005。传递函数为tansig,训练函数为traingdx。根据经典的Bp算法,采用matlab编程,样本训练结果见图2,tL003的数据作为预测样本,预测结果如下:

tRainGDX,epoch0/1000,mSe0.363349/0.0005,Gradient0.113892/1e-006

tRainGDX,epoch25/1000,mSe0.358319/0.0005,Gradient0.124151/1e-006

tRainGDX,epoch50/1000,mSe0.336296/0.0005,Gradient0.165309/1e-006

tRainGDX,epoch75/1000,mSe0.151697/0.0005,Gradient0.201026/1e-006

tRainGDX,epoch100/1000,mSe0.0491568/0.0005,Gradient0.0479309/1e-006

tRainGDX,epoch125/1000,mSe0.0250848/0.0005,Gradient0.0155269/1e-006

tRainGDX,epoch150/1000,mSe0.00622656/0.0005,Gradient0.010656/1e-006

tRainGDX,epoch162/1000,mSe0.000461385/0.0005,Gradient0.00289131/1e-006

tRainGDX,performancegoalmet.

Y=270731423536329726622672

煤层气井日产气量实际值为2700,3146,3519,3292,2634,2721。误差为0.0026,当样本较少时可以接受的误差范围内。并且收敛速度快。模拟效果图见图3。将预测样本tL003的数据输入已建立的预测模型,得出预测值为2765,实测值为2773,误差为0.0029,预测效果较好。

4.结论

用matlab编编写的基于Bp网络的沁水樊庄区块煤层气井产气量预测程序,计算结果表明,误差较小,预测值与实测值吻合较好,所建立的模型具有较好的实用性,说明煤层埋深、煤层厚度、含气量、渗透率和含气饱和度的数据影响煤层气井的产气量,同时验证Bp算法可以用于煤层气井产气量的预测。

目前所进行的预测试验中数据的样本较少,且产气量动态变化,今后拟建立一个动态预测系统,为煤层气井日产气量的预测提供新的方法,为生产提供依据,该技术值得推广。

参考文献:

[1]飞思科技产品研发中心.神经网络理论与matlab7实现[m].北京:电子工业出版社.2006:100-105.

[2]王宪花,卢霞.沁水煤层气田樊庄区块煤层气开发经济评价[J].天然气工业,2004,24(5):137-139.

[3]周开利,康耀红.神经网络模型及其matlab仿真程序设计[m].北京:清华大学出版社,2005.

[4]徐庐生.微机神经网络[m].北京:中国医药科技出版社,1995.

人工神经网络的缺点篇3

关键词:水动力模型,ann神经网络系统,模型数据,缺失数据模拟

中图分类号:G250.72文献标识码:a

我国大多数的城市管网建设滞后于水厂建设,给水管网的铺设会随城市的发展不断地铺设延长,与之相对应的是用水量的急剧增长,与老管线的协调规划问题等等,这一切的问题都使地下管线的管理成为一个极其复杂的问题。构建水动力模型,可以实时的看到管网的薄弱环节,并且通过分析得知造成管网问题的原因。水动力模型可以应用于并的给水系统的规划,设计及改扩建;管网改造优先性评估;管网改造并行方案的的成本分析,运行情况;指导和帮助安排管网检漏工作等。

建立水动力模型是一项复杂并且富有难度的工程,需要将给水管道的的信息,包括管道的管径、材质、管龄,粗糙系数等如实的反应到模型中,运行模型后要选择管网中具有典型代表性的节点,得到这些节点的节点流量与节点压力模拟值,将这些曲线与实际中该节点的流量与压力曲线进行对比。通过调整管网的粗糙系数,节点流量分配等核心数据使模拟曲线与实测曲线相吻合,这个过程称之为模型校核。校核后的模型才能应用于实际的工程工作中。

模型搭建和校核的过程中需要许多数据,而在现有国内的自来水公司,极少有完备的数据,而这些数据的检测和整理是一项复杂并且耗费财力的工程。当有所需的数据缺失时,根据现有的数据搭建ann(人工神经网络)模型,模拟出缺失的数据曲线,从而用于水动力模型的校核工作中。譬如,节点流量曲线、节点压力曲线、节点的化学物质残留量曲线等等。

1人工神经网络的概念

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型,是一种运算模型,由大量的节点(或称神经元)和之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activationfunction)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。人工神经网络是数学统计学方法的一种实际应用,通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间,通过统计学的方法,人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力,这种方法比起正式的逻辑学推理演算更具有优势。因为它不需要全面的数据。实践证明只要中间的隐含层个数足够多,ann神经网络无限逼近任何连续函数。

图13层ann(Bp)网络结构

Fig.1threelevelannmodel’sstructure

2基于ann人工神经网络的节点压力模型的建立

人工神经网络是一个能够学习,能够总结归纳的系统,也就是说它能够通过已知数据的实验运用来学习和归纳总结。人工神经网络通过对局部情况的对照比较,它能够推理产生一个可以自动识别的系统。人工网络系统之所以能够推理,基础是需要有一个推理算法则的集合。在本次的实例检验过程中使用相关系数和确定性系数来衡量模型的准确性,如果确定性系数越大,预测值和实测值的相关系数越大,误差就越小,模型的计算结果就越好。通过对模型精度的分析,判断节点压力曲线是否可以用于水动力模型的,模型校核工作中。

其实人工神经网络就是一个黑箱子,它所建立的模型不是基于实际的物理联系,而是基于我们所记录数据和所得值之间的函数关系(这种函数关系在运算的过程中不得而知),对于人工神经网络的计算过程我们不关心也不必去了解它计算过程的细节。人工神经网络在做出预测之前是使用记录数据的学习过程,之后的使用就是在上面的学习过程之后,人工神经网络会拟合出一个比较准确的函数关系从而会根据所给数据预测出我们所关心变量的结果。

本文以节点压力曲线的模拟为例子,阐述ann模型的搭建,以及模拟结果的精确性。

已有的数据为给水管网中8个节点的压力曲线,靠近泵站的一个节点的压力缺失某几个小时的数据,现利用已知数据搭建ann模型,模拟出此时,一个小时后,两个小时后,4个小时后的模拟压力曲线。通过对模型结果的分析,得出其结果是否能用于水动力模型校核工作。

2.1训练模式对的准备工作

对于管网中的节点压力来讲,他们之间具有相关性,因为在预测未知点的压力曲线时,其他管网中的节点都是未知节点的重要影响因子。因此在搭建模型时要在输入层配置相应的单元用来模拟未知节点的压力曲线。

目标节点预见期压力=F{(某时间点noDe1水位),(某时间点noDe2水位),(某时间点noDe3水位)…(某时间点noDe8水位)}某时间点指的是预见期之前某个相应的时间点。

整个模型从数据输入到结果分析的过程可以用流程图表示出来。数据输入->数据编辑->模型参数确立->运行模型->模型结果分析。

2.2目标函数(确定性系数)的确立

R=式-1

式中R为确定性系数

为该城市实测河流水位

为实测河流水位的平均值

为模型预测水

为模型预测水位的平均值

R越接近于1,说明模拟结果与实际测量结果越一致,也即模型越精确。

2.3模型的结构参数的确立

人工神经网络模型中关键的参数有学习率,中间层的神经元数,动量因子,终止学习条件,本文利用设定最大平均误差来终止模型运行。其中的学习率和动量因子会影响到模型的收敛速度。学习率和动量因子的取值范围都在[0,1]之间。学习率越大运算速度越大但是如果取过大的值会导致模型不收敛,由于模型的运算速度比较快为了得到更加精确的结果取学习率为0.02.动量因子根据经验取0.1,中间层的神经元数取30。

3实例分析

我们拥有管网中9个节点的压力曲线值,但是某个时间段节点9的压力曲线缺失,管网中9个节点的具置见图2.

图2管网中的9个节点

Fig.2the9nodesinthenetwork

示意图中观测站一为模型下游目标站的位置,本文所讨论的预测站也就是目标站。

建立模型之后对该城市城市管网中的节点9,此时以及未来1-4小时的节点压力进行预测。根据该中的8个节点和目标节点的的压力曲线数据为基础进行训练,并且对预测的结果进行分析。来判断时候可以将模拟的数据直接用于模型校核。

表1预见期分别为0-4h的模型精确度参数

table1model’sforecastprecisionin0-4hours

图3同时刻节点压力的模拟值与实测值

Fig.4Forecastwaterlevelthesametimewithmeasureddata

图4预见期为1h时的节点压力曲线

Fig.5Forecastwaterlevel1hourlater

图5预见期为4h时的节点压力曲线

Fig.5Forecastwaterlevel4hourlater

图6预测同时刻的各个节点与目标节点的相关贡献系数

Fig.6Relativecontributioncoefficientbetweenobservationstationandobjectivenodeonthesame

time

图7预测4h之后的各个观测节点与目标节点的相关贡献系数

Fig.7Relativecontributioncoefficientbetweenandobjectivestationwhentheforecaststage4hours

表2不同预见期的绝对误差

通过研究神经网络模型的结果可见:

(1)通过图6、图7可以得知使用人工神经网络模型,各个节点的实测数据对于最后的目标节点影响是不同的。节点3的对与目标站的相关系数性较小,在实际工作中可以舍弃此地数据的采集,从而减少人力物力的投入。随着预测时间的不同其相关系数亦会发生变化。

(2)预见期越长,其最后结果的可靠性越差。确定性系数,和绝对误差可以反映之,预见期为0h、1h时,其误差很小,当延长其预见期时,其误差会相应变大。当模拟结果用于水动力模型校核时,目标节点的模拟结果与输入节点为同时刻时,模拟数据与实测数据高度吻合,说明该结果可以输入水动力模型,进行校核。随着预见期变长,其模拟结果也越来越不准确。预见期为4小时时,其结果不能作为水动力模型的输入数据进行模型校核。

(3)在水动力模型校核过程中,可以将ann的预测结果也就是预见期的目标节点压力曲线用于在水动力模型中。从而解决了原始数据缺失的问题。

4结论

本文采用ann(人工神经网络)建立了节点压力的预测模型,其预测结果可以应用于水动力模型中,用模型校核的原始输入值。从而为搭建城市的给水管网水动力模型提供科学的依据。也节约了大量人力,物力和财力的消耗。

参考文献

严熙世,赵洪宾.给水管网系统理论与分析.中国建筑工业出版社,2003.9

陶建科,刘遂庆,建立微观动态水力模型标准方法研究.给水排水,2000,26(5):4~8

maierHR,DandyGC.theuseofartificialneuralnetworksforthepredictionofwaterqualityparameters.waterResources,1996,32(4):1013-1022.

人工神经网络的缺点篇4

【关键词】人工鱼群算法;Bp神经网络;时间序列;预测

1.引言

时间序列是由一个低维的具有非线性和确定性的动态系统产生的外表象随机信号但并非是随机信号的时间序列,这些序列中存在着一些与产生该序列的非线性动力学系统相关的固有的确定性和一些几何拓扑不变性。预测是人们根据事物的发展规律、历史和现状,分析影响其变化的因素,对其发展前景和趋势预先进行的一种推测。对于现实中大量存在的非线性、非平稳的复杂动力系统问题,需要确定合适的模型阶数,这是比较困难的,为了更好地解决这一困难,本论文通过建立在对人工鱼群算法和Bp神经网络算法的掌握及应用在时间序列预测上,提出了基于人工鱼群算法和Bp神经网络算法的时间序列预测系统模型[1]。

2.基于人工鱼群算法和Bp神经网络的时间序列预测模型介绍

2.1方法的引出

无论是在自然科学,还是在社会科学领域的实际工作者和研究人员都要和一系列的观测数据打交道,这些观测数据随时间变化而相互关联,其排列顺序与大小体现了不同时刻的观测值之间的相互联系,观测值之间的这种依赖关系或相关性,表征了产生这些数据的现象、过程或系统的某些时间变化特征和规律。我们把这些按照时间顺序产生和排列的观测数据序列称为时间序列。从系统意义上看,时间序列就是某一系统在不同时间(地点、条件等)的响应。在时间序列预测中,Bp神经网络是最常使用的网络。Bp网络是一种非线性神经网络,RobertHechtnielson已证明只有一个隐层的神经网络,只要隐节点足够多,就可以以任意精度逼近一个非线性函数[2]。

但是神经网络方法有它的缺点,比如:

(1)计算速度慢(计算量大,学习算法不成熟,不同的算法针对不同的问题收敛才快些)。

(2)输入信号与训练信号相差加大时,可能导致结果完全错误(不同的区域可能有不同的极值)。

因此可以将人工鱼群算法与Bp神经网络相结合。人工鱼群(artificialFish-swarmalgorithm,aFSa)是一种基于模拟鱼群行为的优化算法,是由李晓磊等于2002年提出的一种新型的寻优算法。aFSa是一种新型的思路,从具体的实施算法到总体的设计理念,都不同于传统的设计和解决方法,但同时它又能与传统方法相融合。因此,aFSa自提出以来,得到了国内外学者的广泛关注,对算法的研究应用已经渗透到多个应用领域,并由解决一维静态优化问题发展到解决多维动态组合优化问题。aFSa己经成为交叉学科中一个非常活跃的前沿性研究问题[3]。

在基本人工鱼群算法(aFSa)中,主要是利用了鱼群的觅食、聚群和追尾行为,从构造单条鱼的底层行为做起,通过鱼群中各个体的局部寻优,达到全局最优值在群体中突现出来的目的。从目前对人工鱼群算法的研究来看,绝大部分集中在如何应用aFSa解决实际问题。通过深入研究和实践发现,aFSa虽然具有很多优良的特性,但它本身也还是存在一些问题,如随着人工鱼数目的增多,将会需求更多的存储空间,也会造成计算量的增长[4];对精确解的获取能力不够,只能得到系统的满意解域;当寻优的区域较大,或处于变化平坦的区域时,收敛到全局最优解的速度变慢,搜索效率劣化;算法一般在优化初期具有较快的收敛性,而后期却往往收敛较慢。这些算法本身存在的问题,在一定程度上也影响了算法的实际应用[5]。

在当今已经有许多的研究方向,首先采用人工鱼群算法拟合时间序列并求出大量的数据训练神经网络,弥补了历史数据缺乏的问题;然后用训练好的神经网络代替传统的最小二乘法拟合时间序列因素,从而求出预测值。仿真结果表明,此模型能够有效地改善模型的拟合能力并提高预测精度。为实现更好的预测,有时采用神经网络,但前馈神经网络结构难以确定,运用Bp算法时又极易陷入局部解。本文将改进人工鱼群算法与Bp算法相结合的iaFSa+Bp算法,实现了人工鱼群算法的全局搜索能力与Bp算法的局部寻优性能的互补结合。将所设计的神经网络利用matLaB/SimULinK进行传感器控制系统的建模仿真实验结果表明,该算法具有良好辨识效果[6]。

2.2方法的计算流程与实施步骤

由于Bp神经网络存在对初始参数要求高、学习收敛速度慢,网络性能差,优化权值时容易陷入局部极小值等缺陷。而人工鱼群算法具有对初值和参数要求不高,克服局部极值、更好地协调全局和局部搜索能力等优点。因此,将人工鱼群算法与Bp算法相结合的混合算法训练人工神经网络,可实现两种算法的取长补短。

构造人工鱼个体模型是改进人工鱼群算法优化训练Bp神经网络关键,设人工鱼群规模为n,每个人工鱼看为一个前向神经网络,任意两人工鱼个体的和或差其中i,j∈{0,1,.,n—l})仍看作不同神经网络:待寻优神经网络的参数设有权值矩阵和,其中为第i个隐层神经元与第j个输入神经元之间的权值,为第k个输出神经元与第i个隐层神经元之间的权值;阈值向量和,而为第i个隐层神经元的阈值,为第k个输出神经元的阈值;其参数也随着人工鱼的迭代进化而不断优化。

设神经网络的输入和输出节点分别为和,而网络隐层节点数一般取输入输出节点的平均值,以Sigmoid函数作为Bp网络的激励函数,根据前向网络计算算法求出相应每组输入样本的网络输出结果;把网络输出均方误差的倒数作为改进人工鱼群算法的适应函数(食物浓度)Y来指导人工鱼群的进化。通过人工鱼群算法的优化搜索来训练神经网络的权值和阈值,当神经网络输出均方误差指标达到最小时,搜索出就是最优Bp网络,而该网络相应的权值和阈值等参数也是最佳的。其算法的适应函数表示如下:

式中:参数n,p,,分别为训练样本总数,网络输出神经元的个数,第i个样本的第j个网络输出的目标值,第i个样本依据输入计算出的第j个网络输出的实际值。

基于人工鱼群算法的Bp网络训练算法流程如下:

步骤一:输入人工鱼群的群体规模,最大迭代次数,人工鱼的可视域,人工鱼的最大移动步长,拥挤度因子。

步骤二:设置初始迭代次数,在控制变量可行域内随机生成个人工鱼个体,形成初始鱼群,即产生组,,,且各个分量均为区间内的随机数。

步骤三:计算初始鱼群各人工鱼个体当前位置的食物浓度值,并比较大小,取为最大值者进入公告板,将此鱼赋值给公告板。

步骤四:各人工鱼分别模拟追尾行为和聚群行为,选择行动后值较大的行为实际执行,缺省行为方式为觅食行为。

步骤五:各人工鱼每行动一次后,检验自身的与公告板的,如果优于公告板,则以自身取代之。

步骤六:中止条件判断:判断是否已达到预置的最大迭代次数,若是,则输出计算结果(即公告板的值),否则,转步骤一。

基于人工鱼群算法和Bp神经网络的计算流程图如图1所示。

3.实例仿真分析

本论文对建立时间序列预测的Bp神经网络的过程加以规范化,建立了基于Bp神经网络的时间序列预测的通用方法,并通过实例来检验该时间序列预测模型的预测能力。matLaB神经网络工具箱给出了两种用于提高神经网络推广能力的方法,即正则化方法(Regularization)和提前停止(earlystopping)方法,本文的模型建立过程中,用到正则化方法,利用sim函数可以对训练后的网络进行仿真。sim函数的常用格式如下:

①[Y,pf,aLe,perf]=sim(net,p,pi,ai,t)

②[Y,pf,af,e,perf]=sim(net,{Q,tS},pi,ai,t)

③[Y,pf,af,e,perf]=sim(net,Q,pi,ai,t)

在sim函数的调用形式①中,输入net为神经网络对象,p为网络输入,pi为输入延迟的初始状态,ai为层延迟的初始状态,t为目标矢量。在函数返回值中,Y为网络输出,pf为训练终止时的输入延迟的初始状态,af为训练终止时的层延迟状态,e为输出和目标矢量之间的误差,perf为神经网络的性能值。该函数中的p、t、pi、Y、e、pf和af等参量可以是单元数组或矩阵。sim函数的调用形式②③用于没有输入的神经网络,其中,Q为批处理数据的个数,tS为神经网络仿真的时间步数。此外,神经网络工具箱还提供了postreg函数,该函数可对训练后网络的实际输出(仿真输出)和目标输出做线性回归分析,以检验神经网络的训练效果。使用matLaB语言进行程序编写,实现基于Bp神经网络的时间序列预测模型,程序片断如图2所示。

根据2.2中提出的方法,在matLaB软件中对算法进行编程与实施,得到的仿真结果如图3所示。

其中,检测误差:SSe=8.0059e-004,rerror21=-0.0054。

4.结语

本文给出了基于人工鱼群算法的Bp神经网络的训练模型,并形成了一种新的Bp网络训练算法。从试验结果比较分析可见:

(1)该方法具有较好的收敛性、初值不敏感和参数不敏感等特点;

(2)算法具有较快的收敛速度,算法收敛过程有明显优势。

(3)算法用于对时间序列的预测,其结果表明是可行的。如何更好地将觅食、聚群和追尾三种优化行为,体现在算法的处理上,以便使运算更加简单,还需要进一步提高。

参考文献

[1]李晓磊,邵之江,钱积新.一种基于动物自治体的寻优模式:鱼群算法[J].系统工程理论与实践,2002,22(11):32-38.

[2]张冬,明新国等.基于Bp神经网络和设备特性的工业设备备件需求预测[J].机械设计与研究,2010,26(1):72-77.

[3]康进,刘敬伟.非参数回归估计与人工神经网络方法的预测效果比较[J].统计与决策,2009(23):153-155.

[4]王西邓.人工鱼群算法的改进研究[D].西安:西安建筑科技大学,2007.

[5]李晓磊.一种新型的智能优化方法——人工鱼群算法[D].杭州:浙江大学,2003.

[6]魏崇辉,金福禄,何亚群.基于粗糙集和神经网络的空军航材消耗预测方法[J].东南大学学报(自然科学版),2004,34(Sup):68-70.

人工神经网络的缺点篇5

在水利及土木工程中经常会遇到地形面,地形面是典型的空间自由曲面,地形面在给出时,往往只给出一些反映地形、地貌特征的离散点,而无法给出描述地形面的曲面方程。然而有时需要对地形面进行描述,或者当给出的地形面的点不完整时,需要插补出合理的点。以往大多用最小二乘法或其它曲面拟合方法如三次参数样条曲面、Bezier曲面或非均匀有理B样条曲面等,这些拟合方法的缺点是:型值点一旦给定,就不能更改,否则必须重新构造表达函数;在构造曲线曲率变化较大或型值点奇异时,容易产生畸变,有时需要人为干预;此外,这些方法对数据格式都有要求。

神经网络技术借用基于人类智能(如学习和自适应)的模型、模糊技术方法,利用人类的模糊思想来求解问题,在许多领域优于传统技术。用神经网络进行地形面构造,只要测量有限个点(可以是无序的),不需要其它更多的地形面信息和曲面知识,当地形面复杂或者是测量数据不完整时,用神经网络方法更具优势,而且还可以自动处理型值点奇异情况。

本文提出用Bp神经网络结合模拟退火算法进行地形面的曲面构造。

2模型与算法的选择

为了对地形面进行曲面构造,首先要有一些用于神经网络训练的初始样本点,对所建立的神经网络进行学习训练,学习训练的本质就是通过改变网络神经元之间的连接权值,使网络能将样本集的内涵以联结权矩阵的方式存储起来,从而具有完成某些特殊任务的能力。权值的改变依据是样本点训练时产生的实际输出和期望输出间的误差,按一定方式来调整网络权值,使误差逐渐减少,当误差降到给定的范围内,就可认为学习结束,学习结束后,神经网络模型就可用于地形面的构造。

Bp网是一种单向传播的多层前向网络。网络除输入输出节点外,还有一层或多层的隐层节点,同层节点中没有任何耦合。输入信号从输入层节点依次传过各隐层节点,然后传到输出节点,每一层节点的输出只影响下一层节点的输出。其节点单元传递函数通常为Sigmoid型。Bp算法使神经网络学习中一种广泛采用的学习算法,具有简单、有效、易于实现等优点。但因为Bp算法是一种非线性优化方法,因此有可能会陷入局部极小点,无法得到预期结果,为解决Bp算法的这一缺点,本文将模拟退火算法结合到Bp算法中。

模拟退火算法是神经网络学习中另一种被广泛采用的一种学习算法。它的基本出发点就是金属的退火过程和一般组合优化问题之间的相似性。在金属热加工过程中,要想使固体金属达到低能态的晶格,需要将金属升温熔化,使其达到高能态,然后逐步降温,使其凝固。若在凝固点附近,温度降速足够慢,则金属一定可以形成最低能态。对优化问题来说,它也有类似的过程,它的解空间中的每一个点都代表一个解,每个解都有自己的目标函数,优化实际上就是在解空间中寻找目标函数使其达到最小或最大解。

(如果将网络的训练看成是让网络寻找最低能量状态的过程,取网络的目标函数为它的能量函数,再定义一个初值较大的数为人工温度t。同时,在网络的这个训练过程中,依据网络的能量和温度来决定联结权的调整量(称为步长)。这种做法与金属的退火过程非常相似,所以被称为模拟退火算法。)

模拟退火算法用于神经网络训练的基本思想是,神经网络的连接权值w可看作物体体系内的微观状态,网络实际输出和期望输出的误差e可看作物体的内能,对网络训练的目的就是找到恰当的状态w使其内能e最小,因此设置一个参数t来类比退火温度,然后在温度t下计算当前神经网络的e与上次训练的e的差e,按概率exp(-e/t)来接受训练权值,减小温度t,这样重复多次,只要t下降足够慢,且t0,则网络一定会稳定在最小的状态。

模拟退火算法虽然可以达到全局最优,但需要较长时间,Bp算法采用梯度下降方式使收敛速度相对较快。为取长补短,我们将两种算法结合起来,采用Bp算法的梯度快速下降方式,同时利用模拟退火算法技术按概率随机接受一个不成功的训练结果,使梯度快速下降过程产生一些随机噪声扰动,从而既保证了网络训练的快速度下降,又保证了训练结果的最优性。

3网络结构与学习算法

3.1网络结构

如何选择网络的隐层数和节点数,还没有确切的方法和理论,通常凭经验和实验选取。本文采用的Bp网络结构如图1所示,输入层两个节点,分别输入点的x坐标和y坐标;两层隐层,每层10个节点,输出层一个节点,输出点的z坐标。

3.2学习算法

学习算法的具体过程如下:

其中out_node为输出神经元集合.

4计算实例

为了检验本文算法的有效性,我们用本文算法对黄河下游河滩地形面进行曲面构造,地形面数据按截面给出,我们用奇数截面上的点为学习样本,偶数截面上的点用于检验本算法的精度.表1给出了测量值z1与本文算法计算结果z2,z2为本算法经过大约3500次迭代的结果.由这些数据可以看出,本文算法计算出的值与测量值的误差大约在0.02左右.完全可以满足实际工程要求的精度.

5结语

用神经网络进行地形面的曲面构造,不必求出曲面的方程,只需知道有限个点即可,而且这些点可以是散乱点.与传统方法相比,神经网络方法具有很强的灵活性.

本文将Bp算法和模拟退火算法结合起来,解决了Bp算法容易陷入局部极小的致命缺点.但仍然没有解决Bp算法收敛速度慢的缺点.

neURaLnetwoRKmetHoDtoConStRUCtteRRainSURFaCe

LiuXue-mei1,2,Dondwen-sheng1,2,ZhangShu-sheng1

(1northweasternpolytechnicalUniversity,ShanxiXian710072)

(2northChinainstituteofwaterConservancyandHydroelectricpower,HenanZhengzhou450045)

abstract

thispaperpresentsanartificialneuralnetworkapproachtosolvetheproblemofterrainsurfaceconstruction.thismethodtakesadvantageoftheglobalminimumpropertyofSimulatedprocedureonthebasisofBpalgorithm,thuscanjumpoutofthelocalminimumandconvergetotheglobalminimum..thismethodwerevalidatedbysimulatingbottomlandterrainofYellowRiver.

Keywords:terrainsurface;freeformsurface;neuralnetwork;Bpalgorithm;simulatedannealing

参考文献

[1]王铠,张彩明.重建自由曲面的神经网络算法[J].计算机辅助设计与图形学学报,1998,10(3):193-199

人工神经网络的缺点篇6

关键词:RoS;表面缺陷;图像采集;神经网络;模型训练

飞机蒙皮是包围在飞机骨架结构外且用粘接剂或铆钉固定于骨架上,形成飞机气动力外形的维形构件,在飞机正常工作状态下扮演着重要的角色,一旦飞机蒙皮出现缺陷等问题,需要及时的反馈出来并且维修。传统的飞机表面缺陷检测方式大多数是由人工来完成,会存在效率低、成本高等缺点,甚至会出现检测失误的情况。本文就针对铝合金表面缺陷检测方面,提出一种基于RoS的飞机表面缺陷检测系统,采用移动机器人底盘定位和导航技术,结合深度学习、图像处理等技术检测出存在缺陷的位置并标记出来,通过机器代替传统人工的方式,旨在提高检测效率和检测精度,为飞机表面缺陷检测提供一种方式。

1系统的总体设计

飞机表面缺陷检测系统主要由检测模块、RoS机器人模块、图像处理模块三大部分组成,系统的总体结构框图如图1所示。系统的具体工作原理为:在某一区域范围内,检测模块以树莓派为核心控制器,通过检测模块中的图像采集系统对铝合金材料表面进行图像采集,将采集到的图像通过tCp通信传输到图像处理模块上[4]。图像处理模块利用深度学习中设计的卷积神经网络进行数据训练,得到检测模型,将检测模型应用到图像预处理上。此时,openCV对检测模块得到的图像进行图像处理[5],最终得到缺陷出现的位置。当前区域检测完毕后,通过RoS机器人模块的定位和导航功能,驱动运动执行机构工作,并移动到相邻下一块检测区域,直到所有位置都检测完毕。上述工作原理可实现飞机表面缺陷检测系统,下文将对其包括的三大模块进行说明介绍。

2检测模块设计

如图2所示,系统的检测模块主要是包括树莓派和摄像头,其中树莓派作为检测模块的处理器,搭建的有Ubuntu系统,是系统实现的重要组成部分。树莓派可以提供普通计算机的功能,并且功耗低。可直接在树莓派上安装Keil进行开发,具有很好的开发效果,运行稳定。本次飞机表面缺陷检测系统实现了树莓派将摄像头拍摄的图片发送到图像处理模块上,同时也搭载RoS系统实现了移动底盘的定位和导航功能。

3RoS机器人模块设计

RoS随着机器人技术发展愈发受到关注,采用分布式框架结构来处理文件,这种方式允许开发者单独设计和开发可执行文件。RoS还以功能包的形式封装功能模块,方便移植和用户之间的共享。下面将介绍其建图和导航功能的实现。

3.1建图设计

本文在RoS系统中使用Gmapping算法软件包实现建图[7],在RoS系统中设计了建图过程中各节点及节点间的话题订阅/的关系如图3所示。在图3建图节点话题关系图上,其中椭圆形里代表节点,矩形基于RoS的飞机表面缺陷检测系统胡浩鹏(纽约大学newYorkUniversity纽约10003)框里代表的是主题,节点指向主题代表着该节点了主题消息,主题指向节点代表着该节点订阅了主题消息。在建图过程中,主要涉及激光雷达节点、键盘控制节点、底盘节点、Gmapping节点和地图服务节点。

3.2导航设计

RoS提供的navigation导航框架结构如图4所示,显然moVe_BaSe导航功能包中包括全局路径规划和局部路径规划两部分,即在已构建好的地图的基础上,通过配置全局和局部代价地图,从而支持和引导路径规划的实施。为了保证导航效果的准确,通过amCL定位功能包进行护理床的位置定位[8]。获取目标点的位置后,moVe_BaSe功能包结合传感器信息,在路径规划的作用下,控制指令,控制护理床完成相应的运动。

4图像处理模块设计

图像处理模块设计主要分为图像预处理、模型训练和卷积神经网络三大部分,通过tCp通信协议进行通信,tCp通信是一种面向连接的通信,可完成客户端(树莓派)和服务端(pC)的信息传递[9]。下面主要对卷积神经网络部分进行介绍。

4.1卷积神经网络训练流程

通过相机采集到的缺陷和问题图像作为训练样本,这部分是检测飞机表面缺陷的关键一步,然后对训练样本进行训练,具体步骤如下所示。(1)训练标记数据:首先使用图像预处理中标记好的道路故障提取出来,通过卷积神经网络对标记框内的目标数据进行训练;(2)提取特征数据:将道路故障的类型统计并归纳;(3)误差反馈学习:对测试样本进行误差反馈学习,并进行测试;(4)优化训练数据:将得到的测试结果与设定的故障分类结果进行误差对比,不断优化训练集,最终得到理想的训练数据。

4.2缺陷检测流程

缺陷检测流程如图5所示,首先输入缺陷原始图像,通过特征提取网络,将处理后的图像使用检测器进行检测,其中检测器里为卷积神经网络训练后得到的模型,最终缺陷检测后得到的识别后的图像,并反馈出来。

4.3实验测试

铝合金表面缺陷主要有碰伤、刮花、凸粉、脏点等常见的缺陷,下面将以这四种为主要对象进行检测训练,各自训练集数量为1000张。通过卷积神经网络对缺陷的特征进行提取和分类,最终实现了缺陷的检测。本次实验测试的样本为200张,每种缺陷50张,均采集自铝合金材料表面且与训练样本一致,实验结果如表1所示。由表1可知,检测脏点的准确率高达98%,刮花和凸粉的准确率也达到94%,但碰伤的准确率相对较低,只有88%。可能造成的原因是:①硬件原因导致采集的图像清晰度比较低;②碰伤缺陷不明显,无人机难以识别;③训练的数据集较少,特征学习误差大;但最后结果是满足了设计需求,还需进一步改进。

5总结与展望

人工神经网络的缺点篇7

关键词:地下水脆弱性;评价;人工鱼群算法;Bp神经网络

中图分类号:tp27文献标识码:a

众所周知,水是人类社会赖以生存和发展必不可少的宝贵资源,地下水是水资源的重要组成部分,并已被广泛开发和利用,在干旱半干旱地区则是主要的生活及工业用水来源。近年来,由于工业化、城市化进程的加快,全球范围内的地下水资源正遭受不同程度的污染和破坏,造成水资源短缺,并相继出现了一系列复杂的环境地质问题。目前应用较广泛的Bp神经网络评价算法存在着网络参数难确定、收敛速度较慢且易陷入极小值等问题。为了解决上述问题,本文应用鱼群算法对Bp神经网络进行了改进,结合地下水安全评价实例进行了测试,并将测试数据与标准Bp神经网络进行了比较与分析,取得了理想的结果。

1.基本Bp神经网络算法

Bp神经网络算法是一种采用误差反向传播的多层前馈感知器。其特点是具有分布式的信息存储方式,能进行大规模并行处理,并具有较强的自学习及自适应能力。Bp网络由输入层(感知单元)、计算层(隐藏层)、输出层3部分组成。输入层神经元首先将输入信息向前传递至隐含层节点,经过激活函数预处理后,隐层节点再将输出信息传送至输出层得到结果输出。输入层与输出层节点的个数取决于输入、输出向量的维数,隐含层节点个数目前并没有统一的标准进行参考,需通过反复试错来确定。根据Kolmogorov定理,具有一个隐层的3层Bp神经网络能在闭集上以任意精度逼近任意非线性连续函数,所以本文选择单隐层的Bp神经网络。

2.人工鱼群算法

2.1基本原理

通过对鱼类觅食的观察可知,鱼类一般能自行或者尾随其他同伴找到食物数量相对充足的地方。因此,一般鱼类数量较多的地区即为食物相对充足的区域。人工鱼群算法是指通过长期对鱼类觅食行为的观察,构造人工鱼来模拟鱼类的觅食、群聚、尾随以及随机行为,从而完成全局最优值的寻找。算法所包含的基本过程如下:

觅食行为:鱼类会利用视觉或嗅觉来感知水中食物浓度的高低,以此来选择觅食的路线。

聚群行为:鱼类一般会以群体形式进行觅食,以此来躲避天敌的伤害,并以最大概率获得准确的觅食路线。

尾随行为:当群体中的某条鱼或几条鱼寻找到食物后,其附近的其他同伴会立刻尾随而来,其他更远处的鱼也会相继游过来。

随机行为:鱼在水中的活动是不受外界支配的,基本上处于随机状态,这种随机性有利于鱼类更大范围的寻找食物及同伴。

2.2行为描述

首先假设1条人工鱼,其当前状态定义为Xr,随机选择另一个状态为Xs=[xsd](s=1,2,…,n;d=1,2,…,D,这是一个D维向量,其中状态为Xr的食物浓度为Yr=f(Xr),f(x)为目标函数,人工鱼群体中个体间的距离表示为drs=Xr-Xs,其有效视线范围(感知距离)为Visual,游行步长设置为Step,群体中的拥挤度因子为σ。

2.2.1觅食行为

鱼类觅食是以定义的游行步长为前进单元,通过在其有效视线范围内感知食物浓度的变化来确定最佳觅食路线。设人工鱼当前状态为Xr,在有效视线范围内随机选择另一个状态为Xs,通过目标函数确定两种状态下的食物浓度分别为Yr、Ys,若Yr

其中Rand为一个(0,1)的随机数。

2.2.2聚群行为

人工鱼在其有效视线范围内能够感知同伴的数目及其中心位置,假设在当前视野范围内人工鱼感知到的同伴数目及其中心位置状态为Xc,若Yc,nf>σYr,则表明该区域食物浓度较高,并且其周围并不拥挤,此时人工鱼将向此方向前进一步,否则继续执行觅食行为。其数学表达式为:

2.2.3尾随行为

若人工鱼在当前视线范围内感知到的食物浓度最大值为Xmax,如果Ymax,nf>σYr,则状态Xmax具有较高的食物浓度并且鱼群密度较低,适合人工鱼进行觅食,则朝着此方向前进一步,反之,若Ymax,nf

2.3鱼群算法优化Bp神经网络的原理

Bp神经网络在求解最优化问题时容易陷入局部极值,并且网络的收敛速度较慢。鱼群算法通过设定人工鱼个体,模拟鱼群在水中的觅食、尾随和群聚行为,通过个体的局部寻优,最终实现全局寻优。人工鱼在不断感知周围环境状况及

同伴状态后,集结在几个局部最优点处,而值较大的最优点附近一般会汇集较多的人工鱼,这有助于判断并实现全局最优值的获取。因此用人工鱼群算法来优化Bp神经网络是一种合理的尝试。

2.4具体工作步骤

人工鱼群算法用于优化神经网络时的具体步骤如下:

①设定Bp神经网络结构,确定隐层节点数目;

②设定人工鱼参数,主要包括个体间距离、有效视线范围以及移动步长等;

③人工鱼进行觅食、群聚及尾随行为来优化Bp神经网络;

④通过设定的状态参量,判断是否达到目标精度;

⑤若达到精度要求则输出网络优化权值,并执行网络循环,否则继续改化参数进行优化;

⑥输出最终优化参数并进行计算机网络安全评价。

3.算例分析

本文以文献[2]设定的评价标准作为网络的训练数据。主要包括土壤层厚度、土壤层形状、包气带厚度、包气带岩性等14项影响因素指标,因此输入层神经元数取为14。隐含层定为1层。一般而言,隐层节点数目是输入层节点数目的2倍,因此,本文将隐层节点数目定为28。

算法用matlab语言实现。通过实验分析,本文将网络隐含层节点数设为5,权值调整参数α=0.1,阈值调整参数β=0.1,学习精度ε=0.0001。网络经过2000次训练,收敛于所要求的误差,然后对检验样本及专家评价样本进行仿真,结果见表1。可以看出网络评价结果与标准Bp神经网络及模糊综合评价算法保持一致,但其网络运行时间却大幅下降,甚至比应用蚁群算法优化的效果更好。

结论

本文将鱼群算法和神经网络结合起来对地下水脆弱性进行了研究,得到了如下几个结论:

(1)基于鱼群算法优化后的Bp神经网络具有收敛速度快、拟合精度高等优点,克服了标准Bp神经网络收敛速度慢、容易陷入局部极小值的缺点。同时,优化算法编码过程简单,并具有较强的鲁棒性。

(2)本文采用的实验数据仅有12个,基于鱼群算法优化后的Bp神经网络精度有明显提高,避免了由于样本数量少造成的拟合精度低等缺点。

(3)通过将标准Bp神经网络算法与鱼群神经网络算法进行对比发现,后者的收敛速度明显加快,并且自组织能力也有一定提高,在实际的工程建设中可以将其代替传统的Bp神经网络算法来进行地下水脆弱性的评价与分析。

参考文献

[1]贺新春,邵东国.几种评价地下水环境脆弱性方法之比较[J].长江科学院院报,2005,26(3):17-21.

人工神经网络的缺点篇8

>>大规模自组织人工神经网络技术在智能建筑中的应用方法研究基于自组织增量神经网络的码书产生方法在图像分类中的应用基于matlab的自组织神经网络在油气层识别中的应用研究基于自组织竞争神经网络的地震预测自组织竞争网络在测井资料岩性识别中的应用自组织特征映射网络在探地雷达数据处理中的应用气体识别自组织神经网络一种基于自组织过程神经网络的动态样本半监督学习算法自组织灰色神经网络中的基于电力系统短期负荷预测方法应用研究基于自组织映射神经网络的边坡样本分析方法基于Som神经网络技术的区域卷烟消费状态自组织分类人工神经网络模型在水动力模型数据缺失中的应用基于人工神经网络的数据挖掘技术在临床中应用进展自组织特征映射网络在压缩编码设计中的应用液压控制系统中自组织双模糊神经网络控制模型关键点研究浅谈人工神经网络在林业中的应用人工神经网络在空调系统中的应用一种改进的动态二叉树的自组织神经网络算法基于Som神经网络技术的卷烟零售客户自组织分类基于自组织神经网络Som的汽车安全气囊装配故障诊断常见问题解答当前所在位置:百度百科移动学习2012-12-7

[2]叶成林徐福荫许骏移动学习研究综述电化教育研究2004no.3

[3]陈伟超国内移动学习研究现状及发展建议[J].中国电力教育,2009no.9

[4]词汇语义知识库浅述刘兴林福建电脑2009no.9

人工神经网络的缺点篇9

[关键词]遗传神经网络电信业务收入预测

一、引言

电信业务预测是通信网络分阶段建设规划的前提条件,同时也是规划期电信业务量和收入估算的必要条件之一。预测方法的选择直接关系到预测目标的实现和预测结果的精确程度。近年来人工神经网络技术和遗传算法逐渐得到预测科学工作者的重视,误差反向传播(Bp)神经网络已经在预测领域中得到了广泛的应用,是一种由多个神经元以某种规则连接而形成的层次网络结构,其基本原理是这些神经元之间“相互协作”,它有许多优点,对不完全信,具有良好的适应性;对非线性输入输出关系的学习更具有优越性,其描述问题的能力很强。但是Bp算法是一种基于误差函数梯度下降的学习方法,学习过程收敛速度较慢;其次,Bp神经网络训练开始时初始权值是随机给定的,这对网络的训练效果也会有极大影响,甚至导致网络陷入局部最小点。

遗传算法(Ga)有很好的全局搜索能力,能从概率的意义上以随机的方式寻求到问题的最优解。但另一方面,遗传算法应用中容易产生早熟现象,局部寻优能力较差,而遗传算法与神经网络的结合可以发挥各自的优点。本文研究采用遗传神经网络应用到电信业务的训练中,结果表明该方法是可效的。

本文其它结构安排如下:第二部分为遗传神经网络模型的结构与算法介绍;第三部分为数据来源及实证结果分析;最后为本文结论。

二、遗传神经网络模型结构及算法

1.遗传神经网络模型结构

多层前向神经网络在经济领域中是被普遍运用的一种强有力的学习系统,系统结构简单易于编程。在其具体应用中,最重要的首先就是确定网络结构,而网络结构的关键在于隐含层及其结点数。研究表明,对于学习任何函数来讲,一个隐含层足够。因此一个三层前向神经网络可以逼近任意非线性函数。在前向神经网络结构中,如果采用误差反向传播算法(Backpropagation,Bp)来对网络结构的权系数进行学习,那就是我们通常所说的Bp神经网络模型。本研究中的遗传神经网络模型结构就是建立在一个三层前向神经网络基础之上,将遗传算法与神经网络有机地结合起来的一种混合模型。

网络的具体结构如图1

该网络分为三层:第一层为输入层,共有n个节点;第二层为隐含层,共有m个节点;第三层为输出层,有一个节点。网络的目标函数为,式中y为实际输出,Y为期望输出,ep为平方误差函数。

2.遗传神经网络模型的算法

在本模型算法当中,一种改进的遗传算法,被提出来优化模型结构的权值系数。该算法首先利用遗传算法善于发现最优解区域的特点同时,找出网络参数的最优初始值,然后再利用Bp算法的寻优能力来搜索模型参数的最优解空间。算法具体步骤如下:

步骤1:初始化

用遗传算法来优化神经网络,主要是优化神经网络中神经元之间的连接权,初始化种群p(t)。由于网络的连接权是实数,因此本算法采用实数编码方案,避免权重步进变化。网络隐含层转移函数为Sigmoid函数。在编码过程中,以神经网络的所有权值和阈值作为染色体的基因,各个基因组成染色体向量V=[v1,…vk,…vL],vK为染色体中的第k个基因。

步骤2:适应度计算及评价

根据适应度函数值对个体进行评价,对每个个体进行解码得到一个Bp神经网络输入样本,计算出神经网络的输出误差值e,选择适应度函数

(1)

(2)

式中,Ymk,Ymk分别为第m个训练样本的第k个输入节点的期望输出和实际输出。适应度f越高,表明误差平方和越小,就越接近性能要求。

步骤3:遗传操作

(1)选择与复制

保留群体中适应度最高的个体,它不参与交叉和变异运算,而直接将其复制到下一代。群体中的其他个体,采用赌选择法进行选择,这样适应度小的个体也有机会进入被保留。因此保证了群体中个体的多样性,防止算法落入局部最优。如果m个个体中的第i个个体的适应度为fi,则其被选中的概率为:

(3)

(2)交叉

由于权重系数采用实数编码,故本文采用算术交叉方式,以pc的概率对选择后的个体进行交叉。设在个体Xa和个体XB之间进行交叉,交叉算子为

(4)

(5)

式中:,为父代个体基因;,为子代个体基因,a为区间[0,1]上的随机数。两个个体在交叉点后的基因进行交换,从而产生两个新个体。

(3)变异

变异是对按变异概率pm(这里取0.05)选取的个体进行变异,然后随机选取一变异点,变异的基因安=a进行变异操作。若新产生的种群个体的最大适应度小于原种群个体的最大适应度,则用原种群适应度最大的个体替换新种群中适应度最大的个体。

步骤4:产生新种群

将新个体插入到种群p(t)中,产生新的种群p(t+1),再把新种群个体的连接权赋予神经网络中,并计算新个体的适应度函数,若达到预定值εGa,则进入下一步,否则继续进行遗传操作。

步骤5再用Bp算法训练网络权值

达到所要求的性能指标或最大遗传代数后,将最终群体中的最优个体解码即可得到优化后的网络连接权系数。以Ga遗传出的优化初值作为Bp神经网络的初始权值,再用Bp算法训练直到误差平方和达到指定精度或达到设定的最大迭代次数,算法结束。

模型算法流程图见图2:

三、数据来源及实证结果

1.实验数据来源

本文采用遗传神经网络的方法对我国某地市的电信公司的业务收入进行预测。影响电信企业收入的因素可以分两大类:内部因素和外部因素;内部因素指由企业自身对收入造成影响的主要因素,如产品数量、投入成本、工程投资、固定资产、企业体制等。外部因素指当地经济发展指标、当地人口数量、相关法律法规、消费者偏好、竞争环境等。

2.网络结构确定

以1999年~2003年的数据来预测第2004~2005年的数据,取神经网络的输入层节点数为m=20个,输出量n为1个即电信业务收入,由经验公式:k=(m+n)+c结合试错法,可得隐含层节点数s1=14,输出层数s2=1。

因此建立的网络基本参数为:拓扑结构20-14-1;

3.遗传神经网络训练:

应用遗传操作(选择、交叉、变异)训练神经网络,产生新一代个体,淘汰父代个体,直至达到最大进化代数或者产生最优解。给定精度(εGa=0.005),经遗传优化训练后得到最终的初始权值和阈值。用遗传算法训练得到的初始权值和阈值建立Bp网络模型,并训练网络直至达到指定精度。

4.结果检验

用训练好的权值和阈值的遗传神经网络对2004年和2005年的电信业务进行预测,并将预测结果与一般Bp神经网络预测结果进行比较(见表2):

从表2的结果可以看出,在建模样本相同下,基于遗传算法的Bp网络模型对两年独立样本的预报精度明显优于Bp网络模型,而且预报结果稳定,收敛速度快、精度高,并且克服了以往凭经验确定网络的拓扑结构的缺陷,提高了网络的精确性和泛化能力。

四、结论

本文为克服Bp神经网络模型所存在易于陷入局部最优解等缺陷而提出了结合遗传算法和神经网络的一种混合模型――遗传神经网络模型,并利用所设计的遗传神经网络模型,选择我国某地市的电信公司数据作为数据样本,对该公司的业务收入进行预测,并对比Bp神经网络模型,实证结果表明,遗传神经网络模型,相对Bp神经网络而言,其预测效率和准确率大大得到提高,在电信业务收入预测方面具有较好的应用前景。

参考文献:

[1]wanGQ,StoCKtonDJ,BaGULeYp.Usingneuralnetworksincostmodeldevelopmentprocess[C].procofthe16thnationalConfonmanufacturingResearch,UK:professionalengineering,2000:59~63

[2]SmitHae,maSonaK.Costestimationpredictivemodeling:regressionversusneural[J].engineeringeconomist,1997,42(2):137~161

[3]何芳陈收:基于扩展卡尔曼滤波的神经网络学习算法在股票预测中的应用[J].系统工程,2003,21(6):75~80

[4]周明孙树栋:遗传算法原理及应用[m].北京:国防工业出版社,2000:56~58

[5]JatomdernD.Gupta,SextonRS.Comparingback-propagationwithageneticalgorithmforneuralnetworktraining[J].omega,1999,(27);679~684

[6]穆阿华周绍磊刘青志:利用遗传算法改进Bp学习算法[J].计算机仿真,2005,22(2):150~156

[7]俞亭超:自适应遗传-人工神经元网络模型及在城市用水量预测中的应用研究[D].杭州:浙江大学,2001

[8]玄光男程润伟:遗传算法与工程优化[m].北京:清华大学出版社,2005

人工神经网络的缺点篇10

关键词:神经网络;Bp网络;优缺点;改进算法

【中图分类号】tp183【文献标识码】B【文章编号】1671-1297(2012)09-0196-02

思维学普遍认为,人类大脑的思维分为抽象(逻辑)思维、形象(直观)思维和灵感(顿悟)思维三种基本方式。

人工神经网络(artificialneuralnetworks,nn)就是模拟人思维的第二种方式。这是一个非线性动力学系统,其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单,功能有限,但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。人工神经网络系统从20世纪40年代末诞生至今仅短短半个多世纪,但由于它具有信息的分布存储、并行处理以及自学习能力等优点,已经在信息处理、模式识别、智能控制及系统建模等领域得到越来越广泛的应用。

神经网络拓扑结构的单隐层前馈网络,一般称为三层前馈网或三层感知器,即:输入层、中间层(也称隐层)和输出层。它的特点是:各层神经元仅与相邻层神经元之间相互全连接,同层内神经元之间无连接,各层神经元之间无反馈连接,够成具有层次结构的前馈型神经网络系统。单计算层前馈神经网络只能求解线性可分问题,能够求解非线性问题的网络必须是具有隐层的多层神经网络。

一Bp网络

1986年,Rumelhart和Hinton提出了误差反向传播神经网络(errorBackpropagationneuralnetwork),简称Bp网络。它是一种能向着满足给定的输入输出关心方向进行自组织的神经网络。

1.Bp网络的原理

输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层或者多隐层结构;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程一直进行到网络输出的误差减少到可以接受的程度,或者预先设定的学习次数为止。

2.Bp网络的特点

(1)输入和输出是并行的模拟量。

(2)网络的输入输出关系是各层连接的权因子决定,没有固定的算法。

(3)权因子是通过学习信号调节的,这样学习越多,网络越聪明。

(4)隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响。

3.Bp网络的优点

(1)网络实质上实现了一个从输入到输出的映射功能,而数学理论已证明它具有实现任何复杂非线性映射的功能。这使得它特别适合于求解内部机制复杂的问题。

(2)网络能通过学习带正确答案的实例集自动提取"合理的"求解规则,即具有自学习能力。

(3)网络具有一定的推广、概括能力。

4.Bp网络的缺点

Bp算法的学习速度很慢,其原因主要有:

(1)由于Bp算法本质上为梯度下降法,而它所要优化的目标函数又非常复杂,因此,必然会出现"锯齿形现象",这使得Bp算法低效;

(2)存在麻痹现象,由于优化的目标函数很复杂,它必然会在神经元输出接近0或1的情况下,出现一些平坦区,在这些区域内,权值误差改变很小,使训练过程几乎停顿;

(3)为了使网络执行Bp算法,不能用传统的一维搜索法求每次迭代的步长,而必须把步长的更新规则预先赋予网络,这种方法将引起算法低效。

网络训练失败的可能性较大,其原因有:

(1)从数学角度看,Bp算法为一种局部搜索的优化方法,但它要解决的问题为求解复杂非线性函数的全局极值,因此,算法很有可能陷入局部极值,使训练失败;

(2)网络的逼近、推广能力同学习样本的典型性密切相关,而从问题中选取典型样本实例组成训练集是一个很困难的问题。

难以解决应用问题的实例规模和网络规模间的矛盾。这涉及到网络容量的可能性与可行性的关系问题,即学习复杂性问题。

网络结构的选择尚无一种统一而完整的理论指导,一般只能由经验选定。为此,有人称神经网络的结构选择为一种艺术。而网络的结构直接影响网络的逼近能力及推广性质。因此,应用中如何选择合适的网络结构是一个重要的问题。

新加入的样本要影响已学习成功的网络,而且刻画每个输入样本的特征的数目也必须相同。

二Bp网络的改进算法

Bp算法最优化的方向主要有权值调整、自适应学习速率调整、网络结构调整等。常用的改进方法有以下几种:

1.加入动量项

利用附加动量的作用则有可能滑过局部极小值。该方法所加入的动量实质上相当于阻尼项,它减小了学习过程的振荡趋势,改善了收敛性,这是目前应用比较广泛的一种改进算法。

2.自适应学习速率调整

对于一个特定的问题,要选择适当的学习速率并不是一件容易的事情。对训练开始初期功效很好的学习速率,不一定对后来的训练合适。为了解决这一问题,人们自然会想到在训练过程中自动调整学习速率。

3.共轭梯度算法

在各种改进算法中,共轭梯度法(ConjugateGradient)是非常重要的一种。其优点是所需存储量小,具有n步收敛性,稳定性高,而且不需要任何外来参数。

4.Levenberg-marquart算法(最小二乘拟合算法)

除了改进算法以外,通过改变神经网络结构(隐层结点数和网络层数)、调整误差等方法,也能加快Bp算法的收敛速度。

参考文献