人工神经网络优缺点(收集5篇)
人工神经网络优缺点篇1
[关键词]信用评分判别分析模型决策树分析回归分析法神经网络法
一、信用评分概况
信用评分模型作为信用风险管理的基础和核心,无论是对于建立社会征信体系还是对于金融机构的信贷资产管理,都有着不可替代的作用。其主要目的,在于尽量将能够预测借款人未来行为的指标加以整合,并统一成可以比较的单一指标,以显示借款人在未来特定时间内违约的可能性,所有的信用评分模型,无论采用什么理论或方法,其最终目的都是将贷款申请者的信用级别分类。为达到分类目的。当前,对个人信用评分模型的定义有多种,较为权威的种观点认为:“信用评分是预测贷款申请人或现有借款人违约可能性的一种统计方法。”这一观点指出了信用评分的作用和目的,不过随着信用评分模型的不断发展,信用评分已不仅是一种统计方法,也包含了运筹学,如数学规划法、非线性模糊数学(如神经网络方法)等。此外,信用评分的实际操作应用也与决策原则紧密相关,决策原则事实上决定了信用评分模型实现其目的和作用的程度。因此,对个人信用评分模型这一数学工具在金融和银行业中的应用来说,较为全面和恰当的定义应是,“信用评分是运用数学优化理论(包括统计方法、运筹方法等),依照即定原则或策略(损失最小原则或风险溢价原则),在数据分析决策阶段区分不同违约率水平客户的方法。
二、各类信用评分模型概述
1.判别分析模型
判别分析法是对研究对象所属类别进行判别的一种统计分析方法。进行判别分析必须已知观测对象的分类和若干表明观测对象特征的变量值。判别分析就是要从中筛选出能提供较多信息变量并建立判别函数,使推导出的判别函数对观测样本分类时的错判率最小。这种方法的理论基础是样本由两个分布有显著差异的子样本组成,并且它们拥有共同的属性。它起源于1936年fisher引进的线性判别函数,这个函数的目的是寻找一个变量的组合,把两个拥有一些共同特征的组区分开来。
判别分析方法的优点:适用于二元或多元性目标变量,能够判断,区分个体应该属于多个不同小组中的哪一组。自身也存在不可避免的缺点:该模型假设前提是自变量的分布都是正态分布的,而实践中的数据往往不是完全的正态分布,从而导致统计结果的不可靠性。
2.决策树方法
决策树模型是对总体进行连续的分割,以预测一定目标变量的结果的统计技术。决策树构造的输入是一组带有类别标记的例子,构造的结果是一棵二叉或多叉树。构造决策树的方法是采用自上而下的递归构造。在实际中,为进行个人信用分析,选取个人信用作为目标属性,其他属性作为独立变量。所有客户被划分为两类,即好客户的和坏客户,将客户信用状况转换为“是否好客户”(值为1或0),而后利用数据集合来生成一个完整的决策树。在生成的决策树中可以建立一个规则基。一个规则基包含一组规则,每一条规则对应决策树的一条不同路径,这条路径代表它经过节点所表示的条件的一条链接。通过创立一个对原始祥本进行最佳分类判别的决策树,采用递归分割方法使期望误判损失达到最小。
决策树模型的优点:浅层的决策树视觉上非常直观,容易解释;对数据的结构和分布不需做任何假设;可以容易地转化成商业规则。它的缺点在于:深层的决策树视觉上和解释上都比较困难;决策树对样本量的需求比较大;决策树容易过分微调于样本数据而失去稳定性和抗震荡性。
3.回归分析法
回归分析法是目前为止应用最为广泛的一种信用评分模型,这其中以著名的logistic回归为代表。除此之外,线性回归分析、probit回归等方法亦属于此类。最早使用回归分析的orgler,他采用线性回归模型制定了一个类似于信用卡的评分卡,他的研究表明消费者行为特征比申请表资料更能够预测未来违约可能性的大小。同数学规划方法中一样,假设已经通过一定的方法从样本变量中提取出了若干指标作为特征向量,回归分析的思想就是将这些指标变量拟合成为一个可以预测申请者违约率的被解释变量,自然就是违约率p,回归分析中应用最广泛的模型当属线性回归模型,它是对大量的数据点中表现出来的数量关系模拟出一条直线,回归分析的目标就是使目标变量值和实际的目标变量值之间的误差最小。因此最早将回归方法应用于信用评分研究的模型,就是简单的线性回归模型,目前基于logistic回归的信用评分系统应用最为普遍。
回归模型的优点:容易解释和使用;自变量可以是连续性的,也可以是类别性的;许多直观的统计指标来衡量模型的拟合度。缺点:不能有效处理缺失值,必须通过一定的数据加工和信息转换才能处理;模型往往呈线形关系,比较难把握数据中的非线形关系和变量间的互动关系,而且模型假定变量呈正态分布;模型受样本极端值的影响往往比较大。
4.人工神经网络法
近些年来,随着信用评分领域的研究深入,有学者将人工智能领域的一些模型算法引入到了信用评分研究中,人工神经网络模型为典型代表。人工神经网络是由大量简单的基本元件——神经元相互连接而成的自适应非线性动态系统,是一种把各种投入要素通过复杂的网络转换成产出的信息加工结构。神经网络模型本质上所解决的问题仍是分类或者说模式识别问题,但其原理却与其做方法迥然相异。人工神经网络有多种模型,比如bp神经网络、rbf神经网络、hopfield网络等。bp神经网络为目前研究最为成熟、算法最为稳定同时应用也最为广泛的一种神经网络模型。
神经网络模型的优点:有效地捕捉数据中非线性,非可加性的数量关系;适用于二元性,多元性和连续性的目标变量;能处理连续性和类别性的预测变量。缺点:基本上是一个黑箱方案,难以理解;如果不经过仔细控制,容易微调于样本数据,从而不具备充分的抗震荡性和稳定性。
三、结语
信用评分作为一种严谨的基于统计学等理论的决策手段,正在逐渐被我国商业银行重视。信用评分系统的建设在我国属于起步阶段,应逐步建设适合我国特色的、高水平的信贷决策支持制度不但需要借鉴国外已有的理论研究成果和实践方案,更需要我国学界的创新或结合我国本土数据的实证研究。
人工神经网络优缺点篇2
关键词:神经网络;应用研究
中图分类号:TP393文献标识码:A文章编号:1009-3044(2008)22-635-02
ApplicationofNeuralNetworkStudy
WANGYing1,LIBing-fu2
(1.InformationScienceandTechnologyCollege,ZhanjiangNormalCollege,Zhanjiang524048,China;2.Registry,InformationScienceandTechnologyCollege,ZhanjiangNormalCollege,Zhanjiang524048,China)
Abstract:ThestudyofthepurposeofArtificialNeuralNetwork,fromtheneuralnetworkofresearchandadvantages,andotheraspectsproceed,thestatementfocusedonneuralnetworksintheeconomicfield,thefoodindustry,environmentalscienceandengineeringapplications.
Keywords:NeuralNetworks;AppliedResearch
1引言
人工神经网络(ArtificialNeuralNetwork,ANN)简称神经网络,是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应,并利用机器模仿人类的智能是长期以来人们认识自然、改造自然和认识自身的理想。研究人工神经网络的主要目的包括:探索和模拟人的感觉、思维和行为的规律,设计具有人类智能的计算机系统;探讨人脑的智能活动,用物化了的智能来考察和研究人脑智能的物质过程及其规律。
2神经网络(ANN)的研究内容
1)理论研究:ANN模型及其学习算法,试图从数学上描述ANN的动力学过程,建立相应的ANN模型,在该模型的基础上,对于给定的学习样本,找出一种能以较快的速度和较高的精度调整神经元间互连权值,使系统达到稳定状态,满足学习要求的算法;2)实现技术的研究:探讨利用电子、光学、生物等技术实现神经计算机的途径;3)应用的研究:探讨如何应用ANN解决实际问题,如模式识别、故障检测、智能机器人等;4)基本模型如图1示。
■
图1生物神经元功能模型
3神经网络(ANN)的研究在各领域的优缺点
人工神经网络的理论研究和应用研究已取得丰硕成果,对于在各领域的应用具有以下优点:1)学习能力:人工神经网络具有学习的能力,通过学习,人工神经网络具有很好的输入-输出映射能力。学习方式可分为:有导师学习(LearningWithaTeacher)和无导师学习(LearningWithoutaTeacher);2)容错性:容错包括空间上的容错、时间上的容错和故障检测。容错性是生物神经网络所具有的特性,靠硬件或软件实现的人工神经网络也具有容错性。由于在人工神经网络中信息存储具有分布特性,这意味着局部的损害会使人工神经网络的运行适度地减弱,但不会产生灾难性的后果;3)适应性:人工神经网络具有调整权值以适应变化的能力,尤其是在特定环境中训练的神经网络能很容易地被再次训练以处理条件的变化,这反映了人工神经网络的适应性;4)并行分布处理:采用并行分布处理方法,同时由于计算机硬件的迅猛发展,使得快速进行大量运算成为可能;5)仿真软件的逐步完善:人工神经网络仿真软件的逐步完善,将人们从繁琐的编程中解放出来,同时也为人工神经网络在各领域的应用研究提供了可进行分析和预测的能力。
缺点:研究受到脑科学研究成果的限制;缺少一个完整、成熟的理论体系;研究带有浓厚的策略和经验色彩;与传统技术的接口不成熟。
4神经网络在各领域的应用研究探讨
4.1神经网络在经济领域的应用研究探讨
神经网络在经济领域的应用主要有:1)价格预测影响商品和服务:价格变动的因素是复杂、多变的,传统的统计经济学方法存在不适合动态系统、建模复杂等局限性,难以对价格变动做出科学的预测,人工神经网络容易处理不完整的、模糊不确定或规律性不明显的数据,所以用人工神经网络进行价格预测是可行的,且有着传统方法无法比拟的优势;2)风险评估:风险是由于从事某项特定活动过程中存在的不确定性而产生的经济或财务的损失、自然破坏或损伤的可能性。防范风险的最好办法就是事先对风险做出科学的预测和评估,传统的专家评估依赖于专家的经验,存在着人为和主观的因素,人工神经网络的预测思想是建立风险来源和风险评价系数的非线性映射,提供定量的解决方案,弥补了主观评估的不足。商业银行的风险管理问题是我国加入WTO后的一个突出问题。目前,信用风险仍然是我国商业银行最主要的风险。我国商业银行目前正处在转轨时期,用传统方法评估信用风险难以达到满意的效果,而神经网络学习能力强,容错性好,具有很强的鲁棒性,适合评价信息不全的系统。根据我国的具体现实,运用人工神经网络技术,构造出适合中国的信用风险模型,并对某国有银行提供的数据进行了实证研究。
4.2神经网络在食品工业中的应用研究探讨
神经网络在食品工业中的应用研究主要有:1)外来物的探测:对食品中偶尔混入极少量的外来物采用先进的仪器探测方法,如X射线衍射,可较为快速而准确地检测出食品中夹带的外来物。仪器探测法产生大量的测量数据可以利用分析运算方法能快速地从大量的数据中找出差异而判别出外来物,从而提高生产的效率。分析方法很多,但目前较为有效的是ANN法――例如对于软质外来物如木屑和塑料,在X射线数据上外来物与食品原料的差异很小,情况更为复杂,很难做出判别。根据ANN自学习自适应的特点,不是只采用一个简单的ANN,而是构造了一组子网络。让每一子网络用来识别一种外来物,各自训练子网络,然后将结果最后融合输入一个决策单元,让决策单元决定食品是否合格;2)掺假食品的鉴别:掺假物是人为地故意地加入食品中,可根据不同食品初步估计加入的掺假物的种类,选用相应的检测方法,并结合ANN算法对测量数据分析,可获得较满意的结果;3)分类与分级:果蔬外观特征很多,随季节、产地和品种不同而不同,可抽取主要特征,再运用ANN模式识别算法进行分类。颜色往往是衡量果蔬外部品质的一个重要指标,也间接反映果蔬的成熟度和内部品质,高品质的果蔬一般着色好。此外,ANN除可进行果蔬分类(分级)外,还可以对肉类分级。从肉类的图像处理数据中提取“大理石纹值”(marblingscore,表征脊肉中脂肪分布密度)来表征肉类质量,运用三层前向型ANN进行模式识别,效果令人满意;4)加工过程的仿真与控制:食品加工过程总是难以规范地操作,因为食品物料的性质与季节、产地与气候紧密地联系,同是由于缺乏合适的传感器或不足够和不精确的在线测量,以及食品的物性的时变性。在传统的过程仿真中,需要建立假设、简化和大量的参数用来建立数学模型,这有可能与实际情况相差很远。因此,具有对非线性和非稳态系统有强处理能力的ANN尤适合应用于食品加工;5)感观评价与预测、食品配方设计等:以往常用的建模方法是多元回归法,但是在多因子、非线性的条件下多元回归法并不适用。ANN则有效地解决这一问题。采用ANN先对已有的27组数据进行拟合;然后用ANN进行模拟,输入各种配方成分的含量,ANN就会输出预测结果,从中挑选出最佳的配方。
4.3神经网络在环境科学与工程中的应用探讨
神经网络在环境科学与工程中的应用主要有:1)环境质量评价;2)环境系统因素预测;3)环境因素定量关系模拟构效分析、成因分析;4)污染防治系统建模。由于BP神经网络具有优良的非线性逼近能力,1994年以来,已在环境科学与工程的环境质量评价与预测、监测点的优化布置、社会经济环境可持续发展、污染物降解与释放、水(处理、生态)系统的模拟与预测等方面获得了广泛的应用。
5结束语
由于神经网络学科的范围涉及很广泛,文中仅在那些有发展前途的领域中,列举出少数几个方向,应该说明的是,除了上述列举的以外,还有形形的、规模可观的研究工作正在进行,其未来的发展必将是激动人心的。神经网络理论的前沿问题必将渗透在21世纪科学的挑战性问题中,并将取得重大的突破。
参考文献:
人工神经网络优缺点篇3
【关键词】BP神经网络管道缺陷缺陷分类
目前,通过图像处理的方式进行模式识别已成为新的研究热点,并广泛应用于识别汽车车牌、手写汉字、水位线、水稻品质及各种工业产品等领域。在城市管道检测技术方面,现多采用由管道机器人对待测管道进行内部信息采集,再由人工进行实时的观测并进行判断。但是,由人工对管道内部问题进行判断,其判断的主观性与遗漏的可能性都是难以避免的。针对这一情况,通过人工智能算法―BP神经网络对已获取的图像信息进行处理,从而得到管道内部的缺陷类型,不仅降低了系统操作人员的劳动强度,而且从整体上提高了缺陷分类软件的易用性和可移植性。
监控中视频处理的过程如图1所示,本项目将在图像处理技术的基础上通过BP神经网络着重对分类识别的部分进行研究,以达到机器智能检测的目的。
1图像的预处理
1.1管道内部缺陷样本的采集
建立管道内部缺陷库,是进行管道内部缺陷识别的必要条件。同时也是对识别方法进行客观测试,估计其性能,评价其优缺点的根本依据。采集样本时应符合大多数管道问题的实际情况,反映各种管道材料、直径、形状的特征等。
较差的学习样本不但会导致网络的错误映射关系,而且还可能会使该网络的学习过程不收敛,因此采集学习样本对于BP神经网络系统的学习和训练尤为重要。本实验采集学习样本的原则为:
1.1.1代表性
所用样本需要起到以点带面的作用,应当体现出输入输出关系,如选用特征突出的样本,只有通过具有代表性的学习样本所训练出来的BP神经网络才能很好的映射输入输出的关系。
1.1.2广泛性
所用样本应能提供该BP网络各种情况下的输入,广泛的样本可使训练出来的BP网络具有良好的适应力,这对于管道内部缺陷识别与分类来说是非常重要的。
1.1.3紧凑性
若学习样本含有较多的无效成分会导致学习过程难以收敛,从而导致训练出来的网络会产生错误的映射,使网络输出过多偏向无效学习成分所形成的错误的映射关系。
1.2归一化处理
管道缺陷种类繁杂,缺陷特征各不相同,即使是常见缺陷也会因大小和分布的不同而有所差异,所以在进行缺陷识别前需要对其进行归一化处理。缺陷的归一化处理可分为线性和非线性两种。进行归一化处理是为了是消除由于管道自身缺陷而带来的识别问题,从而进一步的为提取特征和分类器识别打下良好的基础。
通过线性归一化的方式将其归一化为统一大小的图像,归一化后的图像可以表示为:
其中,width和height分别表示未归一化时原图像的宽与高,W与H则表示规一化后图像所对应的宽和高,A(水平)、B(垂直)分别表示原图像的左上角与规一化后矩形框左上角的距离。
线性归一化算法较为简单,即将图像按一定比例线性调整为同一尺寸,可以保有原图像的形状与特征(几乎无失真),但是无法改变图像的亮度与清晰度等属性;非线性归一化是按照管道内部的特征分布来处理、调整清晰度,削弱那些偏亮、偏暗的区域,或是像素密集的区域,压缩像素分散的区域。
1.3平滑去噪处理
各N噪声可能存在于样本图像中,如高斯噪声、白噪声等。图像的平滑化,即消除样本图像中的噪声成分,是图像增强技术中的一种。该操作可达到两个目的:
(1)按特定的需要突出图像中的特定信息;
(2)消除视频图像在输入时混入的噪声,以适应计算机的处理。
图像平滑化处理的要求有:
(1)不能损坏图像的边缘轮廓及线条等重要信息;
(2)使图像清晰。
平滑处理的方法分为:
(1)空间域法(时域),其中空间域法又分为线性和非线性滤波器;
(2)频域法一般需要对图像进行一次正向的数学变换(通常离散傅立叶变换,也可以为拉氏变换或Z变换)和一次反向的数学逆变换。
2BP神经网络的运用
许多学者对BP神经网络的算法及结构进行过优化,有人提出:神经网络好比是一种自适应机器,神经网络是一个由若干简单处理单元所共同组成的大型分布式处理器,因此具有存储经验知识(记忆性)和使之可用(有用性)的特性。神经网络与人脑的相似之处有两个:
(1)所获取的知识都由外界环境学习而来;
(2)突触权值(神经元间的相互连接强度)用于储存所获取的知识。
2.1BP神经网络的简介
人工神经网络是根据模仿动物神经网络的行为特征,进行分布式并行处理算法的一种数学模型。这种网络在处理信息时是通过调整内部大量节点之间相互连接的关系所实现的。而BP(BackPropagation)神经网络模型是由Rumelhart和Mccdknd为首的科学家小组提出是一种按误差逆传播算法训练的多层前馈网络。其凭借着强大的联想能力、容错能力以及自组织能力,成为现阶段应用最为广泛的神经网络之一。BP神经网络最大特点仅依靠样本输入、输出数据,不借助系统的基本物理定律,就能实现由Rn空间(n个输入节点)到Rm空间(m个输出节点)的高度非线性映射。
2.2BP网络模型
BP神经网络是一种反馈前向型的神经网络,也是一种典型的多层前向型网络,通过网络内各层之间的权值与结构表示出复杂的非线性1/0映射关系,BP神经网络同时具有较好的自我学习功能,能够通过误差的反馈算法,比照已有的样本进行重复训练,调整网络内各层间的权值,直到该网络的1/0关系在某个训练指标下与样本最为接近。一个典型的BP神经网络应包含输入层、中间层(也称隐层)和输出层,不同层之间相互连接,层内神经元之间无连接。其中隐含层可以为一层或多层。每一层都由互不连接的若干个神经元组成。相邻两层的每一个神经元之间的关系由权值所决定,权值的大小直观地反映了两个神经元间的连接强弱,整个BP网络的计算流程是由输入层-中间层-输出层单向前进,因而属于前向型网络。
2.3BP网络原理
典型的BP网络分为三层,即输入层、隐含层和输出层。其算法主要由以下四部分组成,即模式顺传播――误差逆传播――记忆训练――学习收敛。
2.3.1模式顺传播
2.3.2误差的逆传播
根据输出层产生的误差,经中间层向输入层传播,在这个过程中,按照梯度下降原则对各层的权值和阈值进行误差校正。
所以,按照梯度下降原则,可得到输出层各单元的阈值调整量为:
(1)中间层到输入层计算:
权值调整量计算:
按照梯度下降原则,可得到连接权值的调整量为:
阈值调整量计算:
按照梯度下降原则,可得到输出层各单元的阈值调整量为:
以上的推导为标准差逆传递的算法,其中各连接权值的改变量分别与各个学习模式所对应的误差Ek成比例变化。而相对于全局误差
的连接权调整,需要在完成m个学习模式后统一进行,这是累积误差逆传递的算法。一般来讲,当样本较少时,累积误差传递算法要比标准误差传递算法速度快。
2.3.3记忆训练
给出一组样板反复进行学习,调整权值和阈值的大小以使输出值满足一定的精度要求。
2.3.4网络收敛
经由多次训练,BP神经网络的整体误差趋向于最小值。
由于BP算法采用了按误差函数梯度下降的方向进行收敛,因此,可能使迭代陷入局部极小点,BP网络收敛依赖于样本的初始位置,适当改变隐层单元个数,或给每个权值加上一个很小的随机数,都可使收敛过程避免局部极小点。
3结语
本文提出的基于图像处理和BP神经网络技术的管道缺陷识别方法,可以通过BP神经网络完成机器视觉的学习,使管道机器人能够自主判断出管道内部是否存在缺陷,并进一步区分出管道接口渗漏、错口、管道腐蚀、管身穿孔、支管、淤积、结垢、障碍物等缺陷类型,完成整个智能检测。同时,该方法也存在一定的误识别率,这与训练样本的丰富程度与待测管道的内部环境密切相关。
参考文献
[1]张小伟,解智强,侯至群,等.一种基于BP神经网络耦合排水管线信息的城市河道风险评价研究[J].测绘通报,2014(12):93-96.
[2]彭向前.产品表面缺陷在线检测方法研究及系统实现[D].华中科技大学,2008.
[3]王雪梅.基于神经网络的冷轧带钢表面缺陷识别分类技术研究[D].电子科技大学,2006.
[4]吴斌,齐文博,何存富,等.基于神经网络的超声导波钢杆缺陷识别[J].工程力学,2013(02):470-476.
[5]童文俊.BP神经网络在板形缺陷识别中的应用[D].江南大学,2008.
[6]刘彩红.BP神经网络学习算法的研究[J].西安工业大学学报,2012,32(09):723-727.
[7]弦.基于数据并行的BP神经网络训练算法[D].华中科技大学,2008.
[8]黄良炯.供水管道表面损伤特征提取及其评价技术研究[D].哈尔滨工业大学,2008.
[9]王赓.基于BP神经网络的脱机手写汉字识别研究[D].天津师范大学,2009.
[10]余本国.BP神经网络局限性及其改进的研究[J].山西农业大学学报:自然科学版,2009,29(01):89-93.
[11]李炯城,黄汉雄.一种新的快速BP神经网络算法――QLMBP[J].华南理工大学学报:自然科学版,2006,34(06):49-54.
[12]吴凌云.BP神经网络学习算法的改进及其应用[J].信息技术,2003,27(07):42-44.
[13]彭松,方祖祥.BP神经网络学习算法的联合优化[J].电路与系统学报,2000,5(03):26-30.
人工神经网络优缺点篇4
关键词:公交车交通拥塞神经网络粒子群流量预测
中图分类号:TP301.6文献标识码:A文章编号:1007-9416(2013)12-0123-02
1引言
交通拥挤、道路阻塞正越来越严重地困扰着世界各国的大城市[1]。传统的交通流量预测是利用统计交通流量判断[2]。这些方法的优势在于实现难度低,便于操作,但是其预测精度往往难以满足需求[3]。近年来BP网络以其独特的优势被运用到交通流量与道路拥塞预测中,它针对历史的数据不确定和非线性的特点,对未来的短期交通流量与道路拥塞进行预测,发挥了较好的作用[4]。但是,传统的BP神经网络算法存在学习过程收敛速度慢、算法易陷入局部极小点和鲁棒性差等缺陷,对预测的效率与精度带来一些影响[5-6]。本文引入粒子群优化算法对其进行优化和改进,通过车载GPS实验与比较,证明了所构建的预测系统的准确度有显著的提升,在交通流量管理方面有着很好的应用价值。
2粒子群算法及优化
粒子群算法中,粒子就追随当前的最优粒子在解空间中进行搜索,在每一次迭代中,粒子通过追寻两个“极值”来更新自己的位置,用它来优化神经网络的权值,能够在全局范围内以较快的速度找到最优解,收敛速度较快,并避免其陷在局部极小值。因此粒子群算法能够很好地克服传统神经网络算法的弱点。
3优化后的神经网络结构设计
在优化算法中,将神经网络权值视为粒子群中的“粒子”,初始化粒子的初始位置、速度、惯性权重,从而实现神经网络性能的优化。选取的训练样本来自北京市某路公交车队,该路公交车的首发时间是清晨5:30,末班车为晚上23:30,途径32个站,全程25.9千米。每一辆公交车上均配置了GPS模块单元,以15s为周期,自动采集公交车的位置信息与实时速度数据,由此产生18个小时的数据,以0.5小时对其分段,共计36个时刻,作为样本数据。这些数据作为道路拥塞的数据训练样本集。
输入节点共计8个,分别是上周的同一天的t-1时刻数据、t时刻数据;2天前的t-1时刻数据、t时刻数据;1天前的t-1时刻数据、t时刻数据;当天的t-2时刻数据、t-1时刻数据.结合Kolmogorov算法,隐含层为7个节点,输出层中的神经元有1个,即8-7-1结构。以粒子群算法优化传统的神经网络方法,对BP网络进行训练,从而获取较优的权值、阈值。
对所构建的优化神经网络,以数个不同的速率进行初步训练,并统计对比不同速率之下训练之后的误差平方和值。如果此值能够快速减小,则证明所选择的学习速率比较理想。而假若此值减小较慢或者出现了无法容忍的震荡,则说明学习速率不合适。学习速率过大,会导致系统失去稳定性,过小则容易使收敛速度过于缓慢。通过反复试验和综合对比,并结合研究成果中学习速率区间为[0.01~0.7]的研究结论,将学习速率最终定位于0.6。
4仿真验证
(图1)中,横坐标是神经网络的训练次数,纵坐标为训练误差值。从基本BP网络的误差曲线可知,训练次数超过300次时,目标误差值10-4尚未达到,收敛较慢,性能不佳;而粒子群优化后的BP网络则在第19次时满足了目标误差值,可见性能有较为明显的提升,经过更少的迭代次数就使网络的性能达到了要求。
通过以上的方法,以2013年10月13-17日该路公交车数据对神经网络进行训练,并以完成训练的神经网络来预测2013年10月18日的车速。可知预测结果十分接近于实际数据,误差绝对值最大为3.33%,已经能够满通拥塞预测的需求。结果如下:
将此模型的预测值与输出值通过数理统计进行回归分析,获取预测目标对BP网络结果之间所存在的关联系数,从而以此系数体现优化BP网络的实际性能,最终仿真的拟合度R=0.997(最大值为1),可知相关性和仿真度均十分满意。
5结语
将粒子群优化的BP算法应用于公交车道路拥塞预测,克服神经网络固有的缺陷,经仿真试验,优化后的BP网络性能有较为明显的提升,预测结果十分接近于实际数据,误差绝对值最大为3.33%,最终仿真的拟合度R=0.997,可以满足短期预测的需要,对提升城市公共交通服务品质具有比较好的实践意义和理论价值。
参考文献
[1]覃运梅.城市公交调度优化方法研究[D].合肥工业大学,2006,38-39.
[2]GoldbergDE,GeneticAlgorithmsinSearch,OptimizationandMachineLearning[J].AddisonWesley.1989.
[3]王惠南.GPS导航原理与应用[M].北京:科学出版社,2013.
[4]张飞舟.晏磊.范跃祖,孙先仿.智能交通系统中的公交车辆动态调度研究.公路交通科技,2012,10(9):65-69.
人工神经网络优缺点篇5
[关键词]遗传神经网络电信业务收入预测
一、引言
电信业务预测是通信网络分阶段建设规划的前提条件,同时也是规划期电信业务量和收入估算的必要条件之一。预测方法的选择直接关系到预测目标的实现和预测结果的精确程度。近年来人工神经网络技术和遗传算法逐渐得到预测科学工作者的重视,误差反向传播(BP)神经网络已经在预测领域中得到了广泛的应用,是一种由多个神经元以某种规则连接而形成的层次网络结构,其基本原理是这些神经元之间“相互协作”,它有许多优点,对不完全信,具有良好的适应性;对非线性输入输出关系的学习更具有优越性,其描述问题的能力很强。但是BP算法是一种基于误差函数梯度下降的学习方法,学习过程收敛速度较慢;其次,BP神经网络训练开始时初始权值是随机给定的,这对网络的训练效果也会有极大影响,甚至导致网络陷入局部最小点。
遗传算法(GA)有很好的全局搜索能力,能从概率的意义上以随机的方式寻求到问题的最优解。但另一方面,遗传算法应用中容易产生早熟现象,局部寻优能力较差,而遗传算法与神经网络的结合可以发挥各自的优点。本文研究采用遗传神经网络应用到电信业务的训练中,结果表明该方法是可效的。
本文其它结构安排如下:第二部分为遗传神经网络模型的结构与算法介绍;第三部分为数据来源及实证结果分析;最后为本文结论。
二、遗传神经网络模型结构及算法
1.遗传神经网络模型结构
多层前向神经网络在经济领域中是被普遍运用的一种强有力的学习系统,系统结构简单易于编程。在其具体应用中,最重要的首先就是确定网络结构,而网络结构的关键在于隐含层及其结点数。研究表明,对于学习任何函数来讲,一个隐含层足够。因此一个三层前向神经网络可以逼近任意非线性函数。在前向神经网络结构中,如果采用误差反向传播算法(BackPropagation,BP)来对网络结构的权系数进行学习,那就是我们通常所说的BP神经网络模型。本研究中的遗传神经网络模型结构就是建立在一个三层前向神经网络基础之上,将遗传算法与神经网络有机地结合起来的一种混合模型。
网络的具体结构如图1
该网络分为三层:第一层为输入层,共有n个节点;第二层为隐含层,共有m个节点;第三层为输出层,有一个节点。网络的目标函数为,式中y为实际输出,Y为期望输出,Ep为平方误差函数。
2.遗传神经网络模型的算法
在本模型算法当中,一种改进的遗传算法,被提出来优化模型结构的权值系数。该算法首先利用遗传算法善于发现最优解区域的特点同时,找出网络参数的最优初始值,然后再利用BP算法的寻优能力来搜索模型参数的最优解空间。算法具体步骤如下:
步骤1:初始化
用遗传算法来优化神经网络,主要是优化神经网络中神经元之间的连接权,初始化种群P(t)。由于网络的连接权是实数,因此本算法采用实数编码方案,避免权重步进变化。网络隐含层转移函数为Sigmoid函数。在编码过程中,以神经网络的所有权值和阈值作为染色体的基因,各个基因组成染色体向量V=[v1,…vk,…vL],vK为染色体中的第k个基因。
步骤2:适应度计算及评价
根据适应度函数值对个体进行评价,对每个个体进行解码得到一个BP神经网络输入样本,计算出神经网络的输出误差值E,选择适应度函数
(1)
(2)
式中,Ymk,Ymk分别为第m个训练样本的第k个输入节点的期望输出和实际输出。适应度f越高,表明误差平方和越小,就越接近性能要求。
步骤3:遗传操作
(1)选择与复制
保留群体中适应度最高的个体,它不参与交叉和变异运算,而直接将其复制到下一代。群体中的其他个体,采用赌选择法进行选择,这样适应度小的个体也有机会进入被保留。因此保证了群体中个体的多样性,防止算法落入局部最优。如果M个个体中的第i个个体的适应度为fi,则其被选中的概率为:
(3)
(2)交叉
由于权重系数采用实数编码,故本文采用算术交叉方式,以Pc的概率对选择后的个体进行交叉。设在个体XA和个体XB之间进行交叉,交叉算子为
(4)
(5)
式中:,为父代个体基因;,为子代个体基因,a为区间[0,1]上的随机数。两个个体在交叉点后的基因进行交换,从而产生两个新个体。
(3)变异
变异是对按变异概率Pm(这里取0.05)选取的个体进行变异,然后随机选取一变异点,变异的基因安=a进行变异操作。若新产生的种群个体的最大适应度小于原种群个体的最大适应度,则用原种群适应度最大的个体替换新种群中适应度最大的个体。
步骤4:产生新种群
将新个体插入到种群P(t)中,产生新的种群P(t+1),再把新种群个体的连接权赋予神经网络中,并计算新个体的适应度函数,若达到预定值εGA,则进入下一步,否则继续进行遗传操作。
步骤5再用BP算法训练网络权值
达到所要求的性能指标或最大遗传代数后,将最终群体中的最优个体解码即可得到优化后的网络连接权系数。以GA遗传出的优化初值作为BP神经网络的初始权值,再用BP算法训练直到误差平方和达到指定精度或达到设定的最大迭代次数,算法结束。
模型算法流程图见图2:
三、数据来源及实证结果
1.实验数据来源
本文采用遗传神经网络的方法对我国某地市的电信公司的业务收入进行预测。影响电信企业收入的因素可以分两大类:内部因素和外部因素;内部因素指由企业自身对收入造成影响的主要因素,如产品数量、投入成本、工程投资、固定资产、企业体制等。外部因素指当地经济发展指标、当地人口数量、相关法律法规、消费者偏好、竞争环境等。
2.网络结构确定
以1999年~2003年的数据来预测第2004~2005年的数据,取神经网络的输入层节点数为m=20个,输出量n为1个即电信业务收入,由经验公式:k=(m+n)+c结合试错法,可得隐含层节点数s1=14,输出层数s2=1。
因此建立的网络基本参数为:拓扑结构20-14-1;
3.遗传神经网络训练:
应用遗传操作(选择、交叉、变异)训练神经网络,产生新一代个体,淘汰父代个体,直至达到最大进化代数或者产生最优解。给定精度(εGA=0.005),经遗传优化训练后得到最终的初始权值和阈值。用遗传算法训练得到的初始权值和阈值建立BP网络模型,并训练网络直至达到指定精度。
4.结果检验
用训练好的权值和阈值的遗传神经网络对2004年和2005年的电信业务进行预测,并将预测结果与一般BP神经网络预测结果进行比较(见表2):
从表2的结果可以看出,在建模样本相同下,基于遗传算法的BP网络模型对两年独立样本的预报精度明显优于BP网络模型,而且预报结果稳定,收敛速度快、精度高,并且克服了以往凭经验确定网络的拓扑结构的缺陷,提高了网络的精确性和泛化能力。
四、结论
本文为克服BP神经网络模型所存在易于陷入局部最优解等缺陷而提出了结合遗传算法和神经网络的一种混合模型――遗传神经网络模型,并利用所设计的遗传神经网络模型,选择我国某地市的电信公司数据作为数据样本,对该公司的业务收入进行预测,并对比BP神经网络模型,实证结果表明,遗传神经网络模型,相对BP神经网络而言,其预测效率和准确率大大得到提高,在电信业务收入预测方面具有较好的应用前景。
参考文献:
[1]WANGQ,STOCKTONDJ,BAGULEYP.Usingneuralnetworksincostmodeldevelopmentprocess[C].Procofthe16thNationalConfonManufacturingResearch,UK:ProfessionalEngineering,2000:59~63
[2]SMITHAE,MASONAK.Costestimationpredictivemodeling:regressionversusneural[J].EngineeringEconomist,1997,42(2):137~161
[3]何芳陈收:基于扩展卡尔曼滤波的神经网络学习算法在股票预测中的应用[J].系统工程,2003,21(6):75~80
[4]周明孙树栋:遗传算法原理及应用[M].北京:国防工业出版社,2000:56~58
[5]JatomderND.Gupta,SextonRS.Comparingback-propagationwithageneticalgorithmforneuralnetworktraining[J].Omega,1999,(27);679~684
[6]穆阿华周绍磊刘青志:利用遗传算法改进BP学习算法[J].计算机仿真,2005,22(2):150~156
[7]俞亭超:自适应遗传-人工神经元网络模型及在城市用水量预测中的应用研究[D].杭州:浙江大学,2001
[8]玄光男程润伟:遗传算法与工程优化[M].北京:清华大学出版社,2005




