反向传播神经网络基本原理(6篇)
反向传播神经网络基本原理篇1
[关键词]BP算法权值学习步长学习样本
BP算法采用广义的δ学习规则,是一种有导师的学习算法。它分两个阶段:正向传播阶段和反向传播阶段。正向传播阶段,将学习样本的输入信息输入前馈网络的输入层,输入层单元接受到输入信号,计算权重合,然后根据神经元的激活函数将信息传到隐含层(1层或2层),同样根据隐含层的输出计算输出层的输出。反向传播阶段,将网络的实际输出与期望输出相比较,如果误差不满足要求,将误差向后传播,即从输出层到输入层逐层求其误差(实际上是等效误差),然后相应地修改权值。
误差反向传播算法简称BP算法,现在成为人工神经网络中最引人注意应用最广泛的算法之一。该算法是一种有教师示教的训练算法,它通过对P个输入输出对(即样本)(X1,Y1),(X2,Y2),…,(XP,YP)的学习训练,得到神经元之间的连接权Wij、Wjk和阈值θj、k,使n维空间对m维空间的映射获得成功训练后得到的连接权和阈值,对其它不属于P1=1,2,…,P的X子集进行测试,其结果仍能满足正确的映射。
一、BP网络的学习结构
在神经网络中,对外部环境提供的模式样本进行学习训练,并能存储这种模式,则称为感知器;对外部环境有适用能力,能自动提取外部环境变化特征,则称为认知器。一个有教师的学习系统分成三个部分:输入部、训练部和输出部。
二、BP网络的数学模型
从第一节神经元的讨论可知,神经元是一个多输入单输出的信息处理单元。它对信息处理是非线性的。可把神经元抽象为一个简单的数学模型。
如X1,X2,…,Xn是神经元的输入,即来自前级n个神经元的轴突信息;θi是i神经元的阀值,Wi1,Wi2,…,Win分别是i神经元对X1,X2,…,Xn的权系数,也即突触的传递效率;Yi是i神经元受到输出;f[•]是激发函数,它决定i神经元受到输入X1,X2,…,Xn的共同刺激达到阀值时以何种方式输出。
数学模型表达式为:
是对应第i个样本Xi的实际输出;Yi是对应第i个样本Xi的期望输出。
求令e最小时W:
三、BP算法推导
定义误差函数e为期望输出与实际输出之差和平方和:
其中:Y为期望值,即教师信号;X为实际输出。考察权系数Wij的修改量,与e的负梯度有关。即:
四、BP算法的执行
BP算法执行分两个过程:
(1)正向传播:输入的样本从输入层经过隐单元一层一层进行处理,通过第二层,第三层,第四层之后,传出第五层――输出层;在逐层处理过程中,每一层神经元的状态只对下一层神经元的状态产生影响。在输出层把现行输出和期望输出进行比较,如果现行输出不等于期望输出,则进入反向传播过程。
(2)反向传播:反向传播时,把误差信号按原来正向传播的通路反向传回,并对每一隐层各个神经元的权系数进行修改,以使误差信号趋向最小。
实验结果表明:
(1)如改变精度要求,将影响BP算法的计算次数,当精度提高时,计算量明显加大;当精度降低时,计算量减小。
(2)当改变神经网络的结构时,意味着整个计算过程将变化。
(3)当取不同样本点组时,有的收敛较快,有的计算非常多。
(4)当取不同加速因子时,加速效果不同。有的较快,有的较慢。
(5)BP算法求函数逼近有一定的实用性。
参考文献:
[1]张立明编著.人工神经网络的模型及其应用[M].上海:复旦大学出版社,1993.42.
[2]黄凤岗,宋克鸥编著.模式识别[M].哈尔滨:哈尔滨工程大学出版社,1998.65,68,69.
[3]杨万山,陈松乔等.基于BP神经网络的工程图纸图形符号识别[J].微型电脑应用,2000,2:22-23.
[4]扬葳,韩春成.BP网络接点作用函数的改进及算法在汉字字库学习中的应用[J].
反向传播神经网络基本原理篇2
关键词:神经网络特征提取模式识别
中图分类号:U495文献标识码:A文章编号:1674-098X(2017)01(a)-0115-05
随着通信技术的飞速发展,出现了适用于不同背景环境的通信标准,每种标准都有其特定的调制方式和工作频段,为了满足人们实现不同标准间互通的需求,软件无线电技术应运而生。它利用可升级、可替代的软件来完成尽可能多的通信功能硬件模块,将多种类型的信号处理基于一体。为了能够处理不同类型的调制信号,必须首先识别出信号的调制类型,然后才能进行下一步处理。因此,调制信号的自动识别技术,就成了软件无线电技术中的关键。
神经网络具有的信息分布式存储、大规模自适应并行处理和高度的容错性等特点,是用于模式识别的基础。特别是其学习能力和容错性对不确定性模式R别具有独到之处。其中BP网络长期以来一直是神经网络分类器的热点,由于它理论发展成熟,网络结构清晰,因此得到了广泛应用。基于A.K.Nandi和E.E.Azzouz从瞬时频率、瞬时幅度和瞬时相位中提取的特征参数,我们就可以用神经网络对常用的数字调制信号进行自动分类。
1神经网络
根据T.Koholen的定义:“人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体做出交互反应。”人工神经网络是在现代神经学研究成果的基础上发展起来的模仿人脑信息处理机制的网络系统,它由大量简单的人工神经元广泛连接而成,反映了人脑功能的若干特性,可以完成学习、记忆、识别和推理等功能。
2数字调制信号特征参数的提取
计算机处理的信号都是对调制信号采样后的采样信号序列,因此设采样序列为(n=0,1,2,…,Ns),采样频率为。对采样序列进行希尔伯特变换,得如下解析表达式:
(1)
采样序列的瞬时幅度:
(2)
瞬时相位:
(3)
由于是按模计算相位序列,当相位的真值超过,按模计算相位序列就会造成相位卷叠。载波频率引起的线性相位分量,是造成相位卷叠的主要因素。因此,必须对进行去相位卷叠。去相位卷叠后的相位序列为,再对进行去线性相位运算,得到真正相位序列。瞬时频率为:
(4)
在上述基础上,提取下面5个特征参数。
(1)是被截取信号片段的零中心归一化瞬时幅度的谱密度的最大值,定义为:
(5)
其中为零中心归一化瞬时幅度在t=i/fs(i=1,2,…,Ns)时刻的值;为采样速率;为每一个信号样本采样点的样本个数。定义如下:
-1(6)
其中:
,(7)
(2)为非弱信号段中瞬时相位非线性分量的绝对值的标准偏差,定义如下:
(8)
其中为经过零中心化处理后瞬时相位的非线性分量在时刻的值;为判断弱信号段的一个幅度判决门限电平,在门限以下信号对噪声非常敏感,这里取;C为全部取样数据中大于判决门限的样本数据的个数。
(3)为非弱信号段中瞬时相位非线性分量的标准偏差,定义如下:
(9)
(4)为零中心归一化非弱信号段瞬时幅度绝对值的标准偏差,定义如下:
(10)
(5)为零中心归一化非弱信号段瞬时频率绝对值的标准偏差,定义如下:
(11)
其中,,,,rs为数字序列的符号速率。
3基于BP网络的数字调制信号的自动识别
把BP网络应用于数字调制信号的自动识别,是应用了其简单的结构和非线性映射的本质。将特征参数映射成与其对应的调制信号,是此方法的基本思路。
3.1调制信号识别的基本原理
由上述得到的5个特征参数区分多种数字调制信号的原理,可用图1简单示意。
用于区分是否包含幅度信息的信号;用于区分是否包含绝对相位信息的信号;用于区分是否包含直接相位信息的信号;用于区分是否包含绝对幅度信息的信号;用于区分是否包含绝对频率信息的信号。
3.2BP网络
BP网络结构上是一个多层感知器,其基本算法是反向传播算法,反向传播(BP)算法是一种有师学习算法,BP算法的学习过程由正向传播和反向传播两部分组成,在正向传播过程中,输入向量从输入层经过隐含层神经元的处理后,传向输出层,每一层神经元的状态只影响下一层神经元状态。如果在输出层得不到期望输出,则转入反向传播,此时误差信号从输出层向输入层传播并沿途调整各层间连接权值和阈值,以使误差不断减小,直到达到精度要求。
标准的BP算法如下(以单隐层结构为例)。
W和b分别为输入层与隐层神经元之间的权值和阈值;x为输入层的输入;u和v分别为隐层的输入和输出;为输出层的输入;为隐层与输出层之间的权值;y为网络的实际输出;d为网络的期望输出;e为误差。
(1)正向传播过程。
输入层:特征参数向量组x为网络的输入。
隐含层:其输入值u为输入层的加权和(当网络为单隐层时)。
(12)
输出为:
(13)
式中为神经元的激励函数,通常为Sigmoid函数。
(14)
输出层:输出层神经元的激励函数通常为线性函数,所以输出值为输入值的加权和。
(15)
由y和d求出误差e。若e满足要求或达到最大训练次数,则算法结束,网络完成训练,否则进入反向传播过程。
(2)反向传播过程。
首先定义误差函数:
(16)
BP学习算法采用梯度下降法调整权值,每次调整量为:
(17)
式中,η为学习率,0
①对于输出层与隐含层之间的权值修正量:
(18)
其中
②对于隐含层与输入层之间的权值修正量:
(19)
式中,则下一次迭代时:
(20)
(21)
(3)BP网络的设计。
由神经网络理论可知,具有至少一个带偏差的S形隐含层和一个带偏差的线性输出层的网络,能够逼近任意的有理函数。因此该设计采用3层网络结构。
①输入层:输入层神经元的个数就是输入向量的维数。
②隐含层:根据经验公式,隐含层神经元个数M与输入层神经元个数N大致有如下关系:M=2N+1,又考虑到计算精度的问题,因此隐层设计为5。一般说来,隐节点越多,计算精度越高,但是计算时间也会越长。
③输出层:一般说来输出层神经元的个数等于要识别的调制类型的个数,但是还要具体情况具体分析。
结合该次设计实际,网络采用1-5-2结构。
(4)神经网络方法实现自动调制识别的步骤。
在此将该文方法实现的步骤归纳如下。
①由接收到的调制信号求其采样序列,进而得到其复包络。
②由信号的复包络求其瞬时幅度,顺势相位和瞬时频率。
③由信号的瞬时参量求其5个特征参数。
④用信号的特征参数向量组训练网络。
⑤用训练好的网络对调制信号进行自动识别。
(5)MATLAB仿真。
为对用神经网络进行调制信号自动识别的方法进行性能验证,下面对2FSK和2PSK做MATLAB仿真试验:基带信号的码元速率为50kHz,载波频率为150kHz,采样速率为1200kHz,对于2FSK信号,载波之差为50kHz。将网络调整到最佳状况,对网络进行了100次的仿真训练,随机抽取了一组数据的收敛均方误差曲线如图2所示。
对训练好的网络进行性能测试。仿真识别实验分别对2FSK和2PSK信号采用SNR=10dB,15dB,20dB和∞4组数据进行。在对网络进行了100次仿真识别的基础上得到以下数据,见表1。
由表1可以看出,用标准BP算法训练出来的神经网络,对2PSK信号有着较理想的识别成功率,在信噪比等于10dB的情况下,依然可以达到99.5%以上的识别成功率。而对2FSK信号的识别成功率就不尽如人意,虽然在信噪比等于20dB的情况下可以完全识别信号,但在信噪比等于10dB的情况下,识别率较低。
4结语
基于神经网络的数字调制信号自动识别的研究虽然初见成果,但是整体上看,它未对更多的调制类型进行测试,而且对某些类型的调制信号识别的效果还不甚理想。在仿真试验中,不可避免地出现了收敛速度慢、存在局部极小值和概率极小的不收敛现象这3个BP网络本质上的缺陷。采用改进的BP算法或者其他神经网络可以改善网络性能和提高R别成功率。
神经网络用于调制识别方法的可行性已初见端倪,与其他方法相比,神经网络具有的信息分布式存储、大规模自适应并行处理和高度的容错性等特点,使其非常适合于调制识别,而且它简单有效,极易用软件或硬件实现,相信神经网络技术能够在软件无线电领域发挥它独特而重要的作用。
参考文献
[1]黄春琳,邱玲,沈振康.数字调制信号的神经网络识别方法[J].国防科技大学学报,1999(2):58-61.
[2]吴惠.数字信号调制方式识别技术研究[D].兰州交通大学,2014.
[3]飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].电子工业出版社,2005:44-58.
[4]兰雪梅,朱健,董德存.BP网络的MATLAB实现[J].微型电脑应用,2003(1):6-8.
[5]姚亚峰,黄载禄.通信信号调制识别技术[J].通信技术,2003(6):43-45,52.
[6]姜莉.利用神经网络实现调制信号的自动识别[J].电子测试,2014(7):71-73.
[7]从爽.神经网络、模糊系统及其在运动控制中的应用[M].中国科学技术大学出版社,2002:17-31.
[8]高隽.人工神经网络原理及其仿真实例[M].机械工业出版社,2003:44-53.
[9]飞思科技产品研发中心.MATLAB6.5辅助神经网络分析与设计[M].电子工业出版社,2003:64-69.
[10]李峻.基于决策理论的软件无线电信号调制样式自动识别[J].大连铁道学院学报,2002(4):50-54.
[11]赵知劲,庄婵飞,干立.调制样式BP神经网络分类器[J].现代雷达,2003(10):22-24.
[12]林华东,庞伟正.软件无线电中数字调制信号的自动识别[J].应用科技,2004(6):25-27.
[13]王康利,谢建菲,赵兰华.基于神经网络的软件无线电信号的调制识别[J].计算机测量与控制,2004,12(9):877-878.
[14]姜立芳,刘泊,施莲辉.一种改进的BP算法及其在模式识别中的应用[J].哈尔滨理工大学学报,2003(3):90-92.
反向传播神经网络基本原理篇3
【关键词】图像分割;细胞特征;人工神经网络
据统计,在各种癌症中,子宫颈癌对妇女的威胁仅次于乳腺癌。全世界每年因子宫颈癌死亡的人数为30万,确诊和发现早期症状者各为45万。虽然确诊病人的年龄一般都在35岁以上,但存在这种疾病诱因的妇女却往往远在这一年龄以下。如果及时得到诊断,早期子宫颈癌是可以治愈的。因此借助于现代先进的计算机技术结合病理专家的实践经验,开发出计算机辅助细胞学诊断系统,才是解决这一问题的关键所在。
本文从图像识别领域出发,应用人工神经网络模型对子宫颈癌细胞图像诊断进行探索。首先,对获取的子宫颈癌图像进行灰度转换。由原来的24位彩色图像转化为灰度图像。在对灰度图像进行分割,主要采取基于门限阈值化的分割方法。分别对细胞,细胞核进行了分割。分割后转化成为二值图像,采用八向链码算法对包括周长,面积似圆度,矩形度,核浆比等15个主要形态学参数进行测量。在取得了大量的数据样本后进行人工神经网络的训练。
人工神经网络是在对人脑神经网络的基本认识的基础上,从信息处理的角度对人脑神经网络进行抽象,用数理方法建立起来的某种简化模型[1]。通过模仿脑神经系统的组织结构以及某些活动机理,人工神经网络可以呈现出人脑的许多特征,并具有人脑的一些基本功能[2]。1988年,Rinehart等人提出了用于前向神经网络学习训练的误差逆传播算法(Backpropagation,简称BP算法),成功解决了多层网络中隐含层神经元连接权值的学习问题[3]。BP算法是由教师指导的,适合于多层神经网络的学习训练,是建立在梯度下降算法基础上的。主要思想是把学习过程分为两个阶段:第一阶段(信号正向传播过程),输入信号通过输入层经隐含层逐层处理并计算每个节点的实际输出值;第二阶段(误差修正反向传播过程),若在输出层未得到期望的输出值,则逐层递归地计算实际输出与期望输出之间的误差,并已据此误差来修正权值。在学习过程中,对于每一个输入样本逐次修正权值向量,若有n个样本,那么一次学习过程中修正n次权值。
但是BP算法也存在一定的缺陷,如多解问题、学习算法的收敛速度慢以及网络的隐含节点个数的选取尚缺少统一而完整的理论指导。为了优化BP算法,我们采用加入动向量的方法对BP算法进行改进。基于BP算法的神经网络,在学习过程中,需要不断地改变权值,而权值是和权值误差导数成正比的。通常梯度下降方法的学习速率是一个常数,学习速率越大,权值的改变越大。所以要不断地修改学习速率,使它包含有一个动向量,在每次加权调节量上加上一项正比例与前次加权变化量的值(即本次权值的修改表达式中引入前次的权值修改量)。设计模型时,人工神经网络的输入输出变量是两个重要的参数。输入变量的选择有两个基本原则:其一必须选择对输出影响大并且能够检测或提取的变量,其二要求各个输入变量之间互不相关或相关性很小。我们将细胞的形态学特征值作为人工神经网络的输入变量。输出变量代表系统要实现的功能目标,这里以TBS分类法为依据,确定了人工神经网络的三个输出变量NORMAL(正常细胞),LSIL(低度鳞状上皮内病变),HSIL(高度鳞状上皮内病变)[4]。在人工神经网络的输入、输出确定后,就可以得到网络的结构图,从而对测得的细胞特征值进行分类。
本文中所设计的神经网络分类器,输入层15个节点、隐含层30个节点、输出层2个节点。细胞样本共161例,使用87例细胞样本数据对人工神经网络的权值进行训练。当误差小于规定值后,再用剩余的74例数据样本对人工神经网络进行测试。主要采取的算法是增加动量的BP算法。经实验,应用人工神经网络模型识别每张图片每个细胞,选出128个最有可能的异常细胞图。通过大量实验对比训练样本识别率最高达96.6%,测试样本识别率最高达87.8%,总体样本识别率最高达92.5%。
由实验可以看出增加动量的BP算法(BP标准算法)的学习次数适中,分类基本准确。增加学习速率可以加快收敛的速度,但同时也看到由于学习速率过大,而导致系统的不稳定,引起震荡。所以在增加学习不长的同时,动向量不能够过大,否则会引起震荡,影响分类的准确率。使用增加动量的BP算法对子宫颈癌细胞的识别效果比较理想,这在医学研究以及临床诊断方面具有一定的现实意义及比较广阔的应用背景。
参考文献
[1]何苗.径向基人工神经网络在宫颈细胞图像识别中的应用[J].中国医科大学学报,2006,35(1).
[2]刑仁杰.计算机图像处理[M].浙江:浙江大学出版社,1990:32-67.
[3]时淑舫.计算机辅助细胞检测方法在宫颈细胞学检查中的应用价值[J].临床和实验医学杂志,2003,2(2).
反向传播神经网络基本原理篇4
关键词:神经网络;上证综合指数;Clementine;股价
中图分类号:F830.9文献标识码:A文章编号:1001-828X(2013)05-0-01
证券市场是一个资源重新配置的市场,在我们国家经济建设中起着非常重要的作用,和我们广大人们群众的生活息息相关。股价预测有着很大的应用价值,具有动态性、强非线性等特点。人工神经网络是一种模拟人脑神经网络结构,通过对研究对象的不断学习、训练,从而实现预测模型的方法。在股价预测方面,人工神经网络方法可以通过股票历史数据进行学习,从而找出股票价格的规律,实现对股票价格的准确预测。
一、神经网络模型简介
1.神经网络基本概念
神经网络模型是一种数学模型,它试图模拟人类大脑的功能。它由大量的人工神经元通过适当的方式互连构成,是一个非线性的自适应系统,用于智能决策和推断。
2.BP神经网络
目前神经网络有很多种,BP神经网络模型是用的比较多的一种模型。BP神经网络是一种基于有监督的学习、使用非线性的可导函数作为传递函数的前馈神经网络,由信息的正向传播和误差的反向传播两个过程组成,包括一个输入层、一个输出层以及一个或者多个隐层。输入层收到输入信号,传递给中间隐层各神经元,由最后一个隐层神经元传递到输出层各神经元的信息,经过进一步处理,完成一次正向传播处理过程,由输出层向外界输出信息处理结果。当实际输出与期望输出不相符时,进入误差的反向传播过程。误差通过输出层,按照误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,一直进行到网络输出的误差减少到可以接受的程度。BP神经网络模型包括其输入模型、输出模型、作用函数模型、误差计算模型和自学习模型。
二、神经网络模型在股票分析预测中的应用
1.初始数据选取
本文拟以A股市场上证综合指数为研究对象,选取2012年1月4日至2013年4月17日期间每个工作日的上证综合指数的相关数据,利用Clementine软件的BP神经网络方法进行建模,对上证综合指数的走势进行分析和预测。在建模过程中,选取的变量为:开盘价、最高价、最低价、成交量、收盘价。
2.BP神经网络建模
3.分析与结论
下图为通过神经网络模型得到的次日收盘价格与次日预测结果之间的拟合图,从图中可以看出,尽管预测结果与真实值之间的变化趋势基本一致,但还是有一定的预测误差,这是因为股票价格不仅跟成交价和成交量有关系,还受政策因素、市场供应关系、季节因素、突发事件等影响。根据价量关系,对短期预测效果比较有效,如果希望对股票进行长期有效的分析,我们还需要考虑很多因素,包括宏观因素、上市公司财务状况及内部其他因素等。
参考文献:
[1]史忠植.神经网络[M].北京:高等教育出版社,2009:48-65.
[2]薛薇,陈欢歌.基于Clementine的数据挖掘[M].北京:中国人民大学出版社,2012:1-132;275-305.
[3]元昌安.数据挖掘原理与SPSSClementine应用宝典[M].北京:电子工业出版社,2009:234-257;550-555.
[4]杨富勇.神经网络模型在股票投资中的应用[J].计算技术与自动化.2010,29:108-112.
[5]范明,孟小峰,译.HanJ,KamberM.数据挖掘:概念与技术[M].北京:机械工业出版社,2012.
[6]张娴.数据挖掘技术及其在金融领域的应用[J].金融教学与研究,2003,6(04):15-18.
反向传播神经网络基本原理篇5
关键词:BP神经网络,房地产价格评估,研究方向
一、BP神经网络定义
1.概念:BP(BackPropagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input)、隐层(hidelayer)和输出层(outputlayer)。
二、BP神经网络研究方向
1.人工神经网络应用系统。在网络模型与算法研究的基础上,利用人工神经网络组成实际的应用系统。如完成模式识别或者某种信号处理的功能,制成机器人和构建专家系统等。
2.网络模型与算法研究。这也可以叫做技术模型研究,包括网络学习算法研究。基于理论模型研究构作神经网络模型,以实现准备制作硬件或者计算机模拟目的,
3.生物原型研究。从生物科学如病理学、心理学、生理学和脑科学等方面研究神经网络、神将细胞和系统的生物原型结构及其功能机理。
4.建立理论模型。在生物原型研究的基础之上,建立神经网络和神经元理论模型,主要包括只是模型、数学模型、物理化学模型和概念模型等。
三、BP神经网络结构与算法
1.结构:BP神经网络模型拓扑结构包括输入层、隐层和输出层,信息的录入从输入层开始,通过隐层再到输出层。其中,输入层及输出层的神经元个数分别为输入信号和输出信号的维数,隐层及其神经元个数要根据具体的实际情况来确定。每一个神经元的激活函数都是双曲正切函数或可微的Sigmoid函数的一种。
2.算法:BP神经网络算法是一种有教师的学习算法,属于A学习规则,即通过实际输出Yp1与Tp1的误差来不断修正连接权和阐值,直至达到最大训练次数或者满足一定的允许误差。(1)信号正向传播:即输入信号依次通过输入层、隐层和输出层,并在终端产生输出信号。网络权值在信号传递过程当中是不变的。加入最终在输出层没有得到预期的输出结果,则会自动转入误差信号反向传播。(2)误差信号反向传播:误差信号即是实际输出和期望输出之间的差值,它的反向传播即信号自输出端依次往回传播,在此过程中,误差反馈调节网络权值变动,通过对权值的不断修正使网络实际输出与期望输出值更加接近。当达到最大训练次数或者满足允许误差时训练结束,相反则转入信号正向传播。
四、神经网络的房地产估价模型
针对住宅、商铺、别墅等不同类型的房地产,因为影响其价格的各种因素大不相同,所以应该分别构建不同的模型来进行估价,但是每一种模型所采用的神经网络模型却是可以一样的。房地产估价的神经网络模型主要由输入模块、测试模块、输出模块、数据库模块、评估模块和学习模块组成。
1.输入模块。主要负责当地产特征描述、交易情况、坐落位置和交易日期等影响其价格的资料信息,这些数据本身是固定不变得,但其影响因素是不确定的,对模型和整个评价结果起着重要的作用。在实际的应用过程中,一定要仔细分析房地产的具体情况和其价格影响因素,为模型的成功创建和数据的准确性打好基础。一般情况下,为了提高网络收敛速度,适应神经网络数据处理要求,尽量获得较为准备的数据值,要对输入和输出向量进行归一化预处理。
2.测试模块。在实际运用评估模型之前,一般都要对模型的泛化能力进行测试。泛化能力即经训练后的网络对未在训练中集中出现的样本做出正确反应的能力。一般来说,正确训练的网络即使对训练样本存有一点误差,但依然能够对没有出现过的输入做出正确的反应。如果用训练样本以外具有典型意义的数据构成测试样本集测试网络得出的结果是符合预期的,那么可以表明该估价模型是比较成功的,具有很强的推广应用能力。
3.输出模块。包括神经网络的输出数据,即神经网络计算值输出,并将其转化成实际估价结果,供用户参考使用。
4.数据库模块。这部分模块主要是对已交易的房地产案例信息,如交易情况、交易时间、特征描述、影响因素和评估价格等信息的存储与处理。此模块要具有基本的数据信息转换功能,能够将一些定性描述通过相应的处理转换成定量描述,并赋予相应的分值。待估房地产也可以通过此模块的转换功能进行相应的数据转换。
5.学习模块。神经网络学习是利用某种算法对网络权值与闭值进行不断的调整,目的是通过对有限案例的归纳总结找某种隐藏的客观规律。BP神经网络的学习既可以通过VisualBasic,C语言等来实现,也可以通过MATLAB提供的神经网络工具箱实现。
6.评估模块。在输入模块输入待估项目基本特征因素,然后利用通过测试的学习模块运行结果,采用某种计算方法得出待估房地产估价。
五、BP神经网络模型的房地产估价流程
神经网络地房地产价格评估的过程主要包括数据准备、神经网络设计、学习样本输入、网络学习和评估计算等部分,具体分析如下:
1.数据信息准备。分析总结影响房地产价格的各种因素,然后收集整理各种房地产交易信息,找出能够量化的直接影响因素并进行具体的量化。
2.神经网络设计。这部分设计主要包括网络参数的设定和网络拓扑结构的设计。网络学习与结构参数主要包括网络层数、网络权值、网络输入输出层参数、隐层单元个数、网络最大期望误差等等。其中,输入和输出层参数包括神经元维数和每个神经元所代表的具体物理量。
3.学习样本输入。学习样本的各数据资料信息都要转化成量化值,并使其标准化成系统识别的具体数值。学西样本可以采用收集整理到的市场交易案例或者已有的历史数据信息。
4.网络训练。也叫网络学习,就是对网络权值和闭值进行不断调整的过程。利用已经输入的学习样本信息进行训练,在网络最大训练次数和最大期望误差范围以内,检查误差是否达到精度要求,如果达标则保存训练结果即权值闽值矩阵,不达标则继续调整学习参数与网络结构。
5.估价计算。输入各种影响待估房地产价格因素的量化值,运用已经设定好的网络模型和学习结果,进行评估以得到相应价格。
结语BP神经网络估价使用范围非常广泛,只要在房地产市场上能够找出类似的交易案例,就可以使用此方法。基于BP神经网络的房地产几个评估模型,可以利用神经网络自身极强的学习能力,从已有交易案例中找出房地产成交价格与其影响因素之间的客观规律,从而提高评估工作效率,为房经营、发展和管理提供更好的服务。
参考文献:
[1]韩力群.人工神经网络理论、设计及应用〔M].北京:化学工业出版社,2002.
[2]王洪元,史国栋.人工神经网络技术及其应用[MJ.北京:中国石化出版,2005.
反向传播神经网络基本原理篇6
【关键词】神经网络;Matlab;图像压缩
1引言
BP神经网络归类于前馈型神经网络,原始信息由输入单元输入,经输入单元分配到隐含层的各神经元,除输入层以外,每个神经元的信息是由上一层神经元状态与相对应的连接权值决定的,输出层可以认为是最后一层隐含层。除输出层外,每一个神经元都与下一层的各神经元相连,而同一层的神经元之间没有连接。
BP神经网络主要应用于非线性函数的逼近、数据压缩、模式识别、分类等领域。
在BP神经网络中选择合适的网络层数、各层神经元个数及训练函数就可以实现从输入到输出的非线性映射。其学习过程可分为工作信号的正向传播和误差的反向传播两个过程,传播过程如图1所示。
(1)工作信号的正向传播
信号由输入经过隐含层到输出层,在信号向前传播的过程中,网络的各层权值是固定不变的,每一层神经元的信息只影响下一层的神经元而不会影响同层或者上一层神经元。如果输出层的输出结果与期望值不同就转入误差的反向传播。
(2)误差的反向传播
网络的输出与期望值之间的差值就是误差信号。误差信号由输出层开始逐层向前传播,并且将误差分摊给各层的所有神经元,再由此获得各个层的误差信号,通过修正各神经元之间的连接权值,使误差减小。这个通过信号的正向传播和误差的反向传播来不断修正各神经元之间的连接权值的过程是不断进行的,一直运行到预先设定的训练步数或者达到设定的误差就停止。
2BP神经网络的应用
2.1基于BP神经网络函数逼近的实现
2.1.1BP神经网络的函数逼近能力
BP神经网络是一个输入到输出的高度非线性映射,即F:RnRm,f(x)=Y。对于样本集合:输入xi和yi输出都可认为存在某一映射g使得g(xi)=yi(i=1,2,3...)成立。求出一个映射f,使得在某种意义下,f是g的最佳逼近。
2.1.2基于BP神经网络函数逼近的Matlab实现
设要逼近的非线性函数是:y=5+2e(1-x)cos(2πx),-0.4?x?3.6。建立一个三层网络,设置隐含层神经元个数为20,最小误差为0.01最大训练步数为50。编写Matlab程序,得到误差曲线如图2所示。
由仿真结果图可以得出,经过训练后的曲线和原函数曲线非常接近,由此说明,训练后的神经网络函数逼近效果很好。
2.2BP神经网络在图像压缩中的应用
图像是最重要的一种信息传递方式,然而,图像数据量大给信息传递带来了困难,当前的硬件技术所能提供的存储资源和网络宽带远不能满足日益增长的图像传递要求。图像作为一种重要的资源,对它进行压缩处理在一定程度上能够减缓它对硬件的要求。
2.2.1图像冗余
图像数据压缩的根本方法是减小图像冗余,数据图像的冗余主要表现在以下几种形式:空间冗余、时间冗余、结构冗余、视觉冗余、知识冗余等,有了图像的这些冗余信息,就找到了图像压缩的根据。此外,根据大面积着色原理,图像必须在一定面积内存在相同或相近的颜色,图像中相邻像素间存在的相似性产生了图像预测编码。
2.2.2图像压缩的分类及图像性能指标
图像压缩的实质就是去除多余数据,依据在压缩过程中是否有信息损失,可以将图像压缩分为两种,有损压缩和无损压缩。无损压缩没有信息的损失,解压后可以完全恢复,例如一些文件的压缩都可以完全恢复。有损压缩则不能完全恢复,有一定的信息损失,但不会影响对信息的理解。
目前比较流行的压缩方式有JPEG压缩,基于小波变换的图像压缩算法,分型压缩,矢量量化压缩。依据BP神经网络对非线性能够无限逼近的能力,可以保证在比较高的图像质量下尽可能实现较高的压缩比。
图像性能指标有图像的信噪比及峰值信噪比。
(1)图像的信噪比(SNR)是衡量图像质量高低的重要指标,见公式(5),其中M和N是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,信噪比越高说明图像质量越高。
SNR=10log
(1)
(2)峰值信噪比经常用作图像压缩等领域中信号重建质量的测量方法,见公式(6),其中M和N是图像长和宽上的像素点数,f(i,j)和g(i,j)分别是原始图像和重构图像在点(i,j)处的灰度值,其值越大,表示图像失真越小。
PSNR=10log
(2)
2.3BP神经网络实现图像压缩
由上述可知,BP神经网络可以逼近非线性函数,而图像的各像素点之间是非线性关系,故运用BP神经网络,通过选取合适的网络层数和训练函数就可以实现图像压缩。
2.3.1网络层数的选择
神经网络设计中,隐含层层数的确定要根据实际应用的需要。虽然隐含层层数多可以降低误差,提高精确度,但是也增加了神经网络的训练时间,而误差完全可以通过改变隐含层神经元个数或者使用合适的训练函数来减小。本文选择三层神经网络,实践证明,三层神经网络可以达到很好的效果。
2.3.2训练函数的选取
针对不同的应用,BP神经网络提供了多种训练方法。不同的训练函数对应结果如表1。
由此可见,traincgp(Polak-Ribiere变换梯度法)有较快的收敛速度,本文选择此训练函数。
2.3.3基于BP神经网络图像压缩原理及仿真结果
网络结构的确定包括输入层、隐含层和输出层,隐含层的节点数小于输入节点数,输入节点数和输出节点数相同[8]。网络在进行学习时,输入会将网络数据通过隐含层映射到输出作为导师信号,在这个学习的过程中,输入层到隐含层称为网络的编码过程,隐含层到输出层称之为网络的解码过程。
将训练用图像的所有像素点作为压缩网络的输入,为控制网络的规模,对图像进行划分。设训练用图像由N×N个像素点构成,将其划分为M个子图像块,每个子图像块分别由p×p的子像素块构成。为了加快收敛速度,保证性能的稳定性,对图像进行归一化处理。归一化可以使用mapminmax函数进行,但是考虑到图像数据的特殊性,像素点灰度值为整数,且处于0-255之间,因此归一化处理就可以统一将数据除以255。
用Matlab创建一个三层网络,函数如下:
net=newff(minmax(P),[32,64],{'tansig','logsig'},'traindx','learngd','mse')。
其中,应用的激活函数为tansig和logsig,采用trainoss训练函数网络初始权值和阈值均取随机数,然后开始训练网络,最小误差设置为0.001,最大训练步数设为10000。运行结果如下,Matlab程序流程图如图5所示,仿真结果如图7所示。
TRAINOSS-srchbac,Epoch16997/20000,MSE0.000998813/0.001,Gradient0.00206669/1e-006
TRAINOSS,Performancegoalmet.
PSNR=29.9979
SNR=22.8039
由运行结果可得,图像压缩后峰值信噪比是29.997,信噪比是22.8039,误差已经达到要求。
训练网络误差曲线如图3所示。
由误差曲线可得,在训练步数达到1000左右的时候,误差下降趋势趋于平缓,因此选择训练步数为1000,然后改变隐含层神经元个数,比较不同的压缩比情况下的误差、信噪比及峰值信噪比,不同压缩比下的结果如表2。
由表可得,随着压缩比的增大,信噪比和峰值信噪比减小,误差增大。
2.4BP网络的局限性
在实际应用中,BP神经网络存在的几个问题:(1)误差下降慢,训练次数多,影响收敛时间;(2)隐含层神经元个数是靠经验得来的,没有可靠的理论依据;(3)没有考虑到测试样本或者训练样本对算法的影响。
参考文献
[1]钟珞,饶文碧,邹承明.人工神经网络及其融合应用技术[M].北京:科学出版社,2007:23-27.
[2]高隽.人工神经网络原理及仿真实例[M].北京:机械工业出版社,2007:2-78.
[3]倪志伟,李锋刚,毛雪岷.智能管理技术与方法[M].北京:科学出版社,2007:12-33.
[4]AndreaGoldsmith.WirelessCommunications[M].CambrigdeUniversityPress,2005:1-5.
[5]MartinT.Hagan,HowardB.Demuth,MarkH.Beale.神经网络设计[M].北京:机械工业出版社出版社,2002:3-17.
[6]张立明.人工神经网络的模型及其应用[M].上海:复旦大学出版社,1993:7-99.
[7]徐丽娜.神经网络控制[M].北京:电子工业出版社,2003:10-80.
[8]钱海军.基于BP神经网络的图像压缩的Matlab实现[J].电脑开发与应用,2011,24(12):77-79.
[9]刘春艳.基于遗传算法―BP神经网络的主汽温控制系统的研究[D].太原:太原理工大学硕士研究生学位论文,2006.
基金项目:
山东省教育科学“十二五”规划课题,课题编号:2011GG256。




