神经网络的含义(收集3篇)

神经网络的含义范文篇1

关键词：Elman神经网络；松散回潮；出口含水率；预测

中图分类号S572文献标识码A文章编号1007-7731（2016）08-118-03

1引言

在卷烟制造过程中，制叶丝的过程含水率控制是制丝生产中的关键参数，在烘丝前的含水率控制主要通过松散回潮工序中加水比例调节。不同的加水比例下松散回潮机的出口片烟含水率不同，最终将导致烘丝入口叶丝含水率的差异。因此，调节松散回潮加水比例控制松散回潮出口含水率在制丝过程中具有重要意义。董伟等[1]采用PID反馈控制修正加水量，曹正良[2]将反馈控制改进为前馈控制方式，二者均从控制的角度出发，优化控制算法，调节加水比例。李秀芳等[3-5]则采用过程参数优化的方式，通过过程参数优化，调节加水比例。以上2种方法均对松散回潮机出口片烟含水率的调节作出了一定优化，但2种方法均从内部角度考虑，而忽略了环境温湿度等外部条件对出口片烟含水率的影响。

为此，本研究通过对历史生产数据的分析，采用基于双隐含层的Elman神经网络建立松散回潮机加水比例预测模型，然后再获取当前环境温湿度下，通过大量模拟加水比例输入，找出相应输出中与设定出口含水率设定值最接近的加水比例作为生产过程参考加水比例，利用该加水比例进行生产，保障出口片烟含水率与设定值的误差得到改善。

2Elman神经网络算法

Elman神经网络是J.L.Elman于1990年首先提出来一种典型的局部回归网络[6]。Elman网络是一个具有局部记忆单元和局部反馈连接的前向神经网络。Elman神经网络的网络结构如图1所示，由输入层、中间层（隐含层）、承接层和输出层构成，其中输入层、中间层和输出层和传统BP神经网络相同，但Elman神经网络多了一个承接层，用于保存上次输入后中间层的状态连同输出数据[7-9]。增加承接层后，Elman网络比传统BP神经网络具有更复杂的动力学特性，因而具有更强的计算能力，稳定性也优于BP神经网络。隐层的传递函数仍为某种非线性函数，一般为Sigmoid函数，输出层为线性函数，承接层也为线性函数[10]。

3基于双隐含层Elman神经网络的松散回潮出口含水率控制预测模型

3.1网络参数选择以松散回潮加水比例、相应环境温湿度为输入，出口烟叶含水率为输出，设定训练目标0.05，训练速度0.01，最大训练步数100，以Sigmoid函数为传递函数，进行神经网络训练。对于Elman神经网络的神经元个数及隐含层个数的确定，首先通过对不同神经元个数分别进行10次运行，结果如表1，选取10次运行对应的决定系数平均值作为评价标准，从结果可知选取8个隐含节点的测试集决定系数平均值最大。再对不同层数的隐含层各进行10次运行，结果如表2，同样采用10次运行对应的决定系数平均值作为评价标准，从结果可知选取2个隐含层的测试集决定系数平均值最大。

3.2模型预测效果检验采用该神经网络对松散回潮机出口烟叶含水率进行预测，预测结果如图3。由图3可知，采用该神经网络模型预测120个样本的松散回潮机出口烟叶含水率预测曲线和实际数据曲线吻合度较高。且从误差数据计算可知，预测误差为0.149%。所有预测结果误差均控制在0.5%以内，准确预测（误差在±0.3%）比例为89.171%，能满足松散回潮工序出口含水率为（设定值±0.5）%的允差要求。

3.3与多元回归分析拟合模型相比较图4为采用多元回归分析方法建立的松散回潮机出口片烟含水率线性模型，用于预测的效果。预测误差为0.268%，大于本文方法的0.149%，存在个别预测误差大于0.5%，且准确预测比例为77.5%低于本方法的89.171%。

3.4松散回潮加水比例预估方法建立松散回潮出口含水率预测模型后，由于神经网络模型为非显性模型，因此可以考虑采用逼近法，不断尝试不同加水比例输入，比较输出与设定值的误差，取满足要求的加水比例作为加水比例预测结果即可，方法如图5。

4结论

采用基于Elman神经网络模型建立松散回潮机出口片烟含水率预测模型，该方法建立的预测模型预测效果优于传统多元回归分析建立线性模型的预测效果。再通过逼近法给出了当前环境温湿度下，指定松散回潮机出口含水率所对应的加水比例预测值。采用该方法所确定的松散回潮加水比例生产，提高了松散回潮机片烟出口含水率的控制效果。

参考文献

[1]董伟，李坤，王健，等.HAUNI松散回潮滚筒含水率控制系统的改进[J].烟草科技，2012（11）：20-22.

[2]曹正良.片烟松散回潮含水率控制方式的改进[C]//2010年中国烟草学会工业专业委员会烟草工艺学术研讨会论文集，2010.

[3]李秀芳.烟片松散回潮关键工艺参数过程控制系统的优化设计[J].中国烟草学报，2015（3）：34-41.

[4]俞仁皓，宋家海，王建，等.松散回潮工序回风温度PID控制参数的优化[J].烟草科技，2010（7）：8-10.

[5]赵国庆，米强，钟青，等.因素筛选试验在松散回潮和筛分加料工序质量评价中的应用[J].烟草科技，2007（11）：24-27.

[6]王俊松.基于Elman神经网络的网络流量建模及预测[J].计算机工程，2009，35（9）：190-191.

[7]钱家忠，吕纯，赵卫东，等.Elman与BP神经网络在矿井水源判别中的应用[J].系统工程理论与实践，2010，30（1）：145-150.

[8]周云龙，陈飞，刘川，等.基于图像处理和Elman神经网络的气液两相流流型识别[J].中国电机工程学报，2007，27（29）：108-112.

[9]王宏伟，杨先一，金文标，等.基于Elman网络的时延预测及其改进[J].计算机工程与应用，2008，44（6）：136-138.

[10]范燕，申东日，陈义俊，等.基于改进Elman神经网络的非线性预测控制[J].河南科技大学学报（自然科学版），2007，28（1）：41-45.

神经网络的含义范文篇2

关键词：部分连接神经网络；序列数据；分类算法；方形基函数

中图分类号：TN915?34文献标识码：A文章编号：1004?373X（2016）09?0111?03

Abstract：Thedefinitionofsequencedataisstudied.The5kindssequencedataisanalyzed.Incombinationwiththecha?racteristicsofthepartiallyconnectedneuralnetwork，theclassificationalgorithmofthesequencedatabasedonpartiallyconnectedneuralnetworkisstudied.Thealgorithmusedtocalculationhasfastlearningandconvergencerate，andisespeciallysuitableforadaptivemodelingandcontrol.Whenthesquareprimaryfunctionisusedtocalculate，thesquarefunctioncanbeonlyusedtoapproachthesmoothfunctioninnetworkoutputprocess.Thesequencedataclassificationoperationhasgreatadvantageindatamining，sotheresearchofthesequencedataclassificationalgorithmhasthehightheoryandapplicationvalue.

Keywords：partiallyconnectedneuralnetwork；sequencedata；classificationalgorithm；squareprimaryfunction

0引言

计算机科学技术的发展，丰富和发展了数的概念，见图1。数据类型在数据结构中的定义是一个值的集合以及定义在这个值集上的一组操作。序列数据就是其中一种非常重要的数据类型，它应用的领域也十分广泛，如计算机科学文本中的单词（word）序列、互联网技术中网页日志中的用户访问事件（AccessEvent）序列以及在生物科学中的DNA序列和蛋白质序列等。通过对序列数据进行分类运算，可以发现大量无规律数据的内在结构，从而获得关于这些数据深层次的内涵知识，例如，大型电商平台每日都产生大量的交易数据，对这些数据中的交易序列数据进行分类运算，就可以对平台购物的用户进行细分，进而根据不同类型的用户制作有针对性的市场广告，并且点对点的推送，这样就会大大提高广告投放的效率；在生物学领域，对生物体蛋白质序列进行分类运算，就能够找出各个簇中序列共享的子结构，进而可以推测共有的生物学功能。序列数据通常由两个部分组成，这两个部分是值元素和对应的序关系，这两个部分缺一不可，正是由于序列数据具有非数值类型、高维且长度不一以及特有的序关系等特征，使得对其进行分类运算成为一个研究难点。

1序列数据的基本概念

序列数据的分类运算具有如此重要的作用，首先要清楚序列数据的概念。序列数据最主要的特点就是具有序关系信息，这一信息通过元素的空间位置或时间先后来体现。序列数据的概念是序列数据分类运算的基础，因此需要着重讨论。

1.1序列数据的定义

1.2序列数据的类型

根据数据产生的领域不同，序列数据包含五种类型：

（1）文本型序列数据，日常使用的电子邮件，天天浏览的网页新闻以及各种文字类的信息等，这些海量的各种语言的文本就是一类序列数据，它们都是单词序列的集合；

（2）生物序列数据，目前最基本的两种生物序列数据就是细胞中的DNA（RNA）和蛋白质。DNA是由核苷酸排列组成的，蛋白质是由氨基酸排列组成的，因此DNA和蛋白质都可以看作是很长的“单词”，生物序列中有一定生物学功能的序列片段就相当于一个个“字母”，可以用来表征“单词”；

（3）事件序列数据，我们平时看电视或者听广播，这些视频流和音频流就是事件序列，此序列所隐含的序信息是时间序，且各序列元素值是某时刻所发生事件的描述信息；

（4）时间序列数据，其在银行金融和天气预测等与人们日常生活息息相关的地方中广泛存在，该类型序列数据的序信息也是时间序，但是与事件序列不同，时间序列数据的各个元素一般是数值类型，这样就可以进行各种运算和变换，产生的数据价值会更大；

（5）数据流序列数据，是指高速到达的数据和信息，由于其传递的速度极快，因此需要处理的速度也很快，一般对到达数据处理时只是扫描一遍，并且没有机会和时间把数据保存在本地，但同时，在处理的过程中要保持序信息在数据流中。

1.3序列数据分类的应用

（1）广告精准投放。如今网购在年轻人中已经十分普遍，一些大型的网购平台，如天猫、京东等，每日都会产生大量的交易数据，平台可以在后台对这些数据中的交易序列数据进行分类运算，对平台购物的用户进行细分，进而根据不同类型的用户制作有针对性的市场广告，并且点对点的推送，这样就会大大提高广告投放的效率，提高网购的平台销量，增加收益；

（2）推测生物学功能。在生物学领域，生物细胞中的DNA（RNA）和蛋白质，DNA是由核苷酸排列组成的，蛋白质是由氨基酸排列组成的，因此DNA和蛋白质都可以看作序列数据，对生物体蛋白质序列进行分类运算，就能够找出各个簇中序列共享的子结构，进而可以推测共有的生物学功能，对生物多样性的保护可以做出很大的贡献。

2部分连接神经网络结构及性能

20世纪80年代以来，神经网络的发展取得了很大的进步，这给数据发掘带来了巨大的利益，在理论上形成了一大批可以实际应用的模型和算法，并把它应用在一些自动控制系统、指挥系统中。现阶段，神经网络可分为部分连接神经网络与全连接神经网络两大类，但是在使用部分连接网络时，对于每组输出/输入数据只能列出少数甚至是一个权值进行调整。目前，神经网络在数据模式识别与分类、非线性建模的分析、方案数据的优化、知识的联想记忆以及非线性建模的自动化控制设计等方面有着突出的贡献。

2.1部分连接神经网络结构特点

图2是一个3层神经网络结构图，[q]组[r]维输入向量[Xl=x1，x2，x3，…，xr，l=1，2，…，q，]数据首先通过输入层，随后进入含有[m]个节点的隐含层内，经过预先设定的特定基函数的运算后，形成隐含层的数据输出，随后与训练数据后的权值相乘，最终得到网络值数[s]维。

通过函数式（1）可以看出，在部分神经网络中，隐含层内的所有节点对输出层内相对应的节点都有影响，但是通过合理的预设对基函数进行选择，或者通过设置部分连接神经网络的主要结构参数获得不同的网络连接形式，假设施加一个输入值，可以使[αj（xi）]中不是零的元素达到极少数，也就是说绝大部分的元素都是零。因此，在实际的运算过程中，对任何的初始输入值，在输出过程中通常只会对隐含层内部分非零节点的输出采用加权求和的方式获得数值，因此属于局部神经网络的局部连接。

2.2基于部分连接神经网络的序列数据分类算法

在对部分连接神经网络进行设定时，在输入层到隐含层的间隙处设定一个类似于查表结构的特定映射，其对应关系要根据具体网络设计情况进行预定。通过这样的设计能使上部输入层中的输入矢量根据序列串数据之间的空间距离或时间长短来进行计算，最终产生影响，实现将映射输入到隐含层当中。隐含层是一个类似“黑箱”的计算处理器，是由一族摄化感知器组成，这些感知器用于对数据的分类和分析，可以感知序列数据在时间距离和空间距离上的相似度，因此在输入层中每输入一个矢量值都会计算出一个阈值与之匹配，也可以理解为与隐含层中的[C]个感应器相互对应，这个[C]也叫做感知野，感知野是算法的一个重要参数。输入的每一个矢量值只会对隐含层当中的[C]个感应器造成影响，并且使它的输出值为1，其他感应器的输出值数是0，因此在设计时只需要考虑与[C]个感知器相对应的权值进行预设。

在网络调试过程中，设计者只需考虑对输出层的局部连接权值进行调整。与其他计算方法相比，利用这样的运算方式进行计算，学习收敛速度较快，在自适应建模与控制中很实用，除此之外，本算法选择较为简单的方形基函数进行函数预设，在网络输出过程中只能利用方形函数来逼近光滑函数，虽然局限性较强，但是精确度很高，在计算过程中如果设计者想要提高分辨率，可以利用增大[C]值的方式计算。

2.3算法训练结果分析

本文提出的基于部分连接的神经网络序列数据分类算法，在对序列数据进行分类计算时存在两点优势：一是速度快，二是结果精确度高。为了验证算法的可靠性，设计了算法的训练。通过利用样本数据，进行分析，对上面两个标准进行衡量。

训练分为监督式和无监督式两种，监督式就是在训练的过程中有人员的随时调整，无监督式就是完全自动的训练。从对样本数据训练的过程中可见，这两种方式的训练模式，对序列数据的训练结果都是相近的，在不同的时刻，两种模式都会出现网络在对序列数据分析快速的响应结果，有部分的耗时极大值，在监督式的训练情况下，通过对数据反复多次地反复输入，使得算法对样本十分熟悉，这样一来，使用该算法进行计算，可以快速而稳定的达到要求。

若进行无监督训练，在对应较大文本的序列数据时，对于新的数据分类运用将会采用对某种已经产生结果的典型矢量进行修改来实现，这样就会自动对已有的分析结果进行修正，修正的结果不会对旧的结果加以记录学习，分类的结果一直是最新有效的。

3结语

本文研究梳理了序列数据的定义，并且分析了5种类型的序列数据，结合局部连接神经网络的特点，研究了基于局部连接神经网络的序列数据的分类算法，通过以上分析，不难看出利用本算法进行计算，学习与收敛速度较快，若将其运用到自适应建模与控制当中，利用方形基函数进行处理，其网络输出也只能用方形函数来逼近光滑函数，虽具有一定的局限性，但是准确度高。由于序列数据分类运算在数据挖掘中存在巨大的优势，因此对序列数据算法的研究具有很高的理论与应用价值。

参考文献

[1]朱扬勇，熊S.DNA序列数据挖掘技术[J].软件学报，2007，18（11）：2766?2781.

[2]朱扬勇，戴东波，熊S.序列数据相似性查询技术研究综述[J].计算机研究与发展，2010（2）：264?276.

[3]丛爽，郑毅松.几种局部连接神经网络结构及性能的分析与比较[J].计算机工程，2003，29（22）：11?13.

[4]程起才，王士同.基于模糊系统的新型CMAC神经网络及学习算法[J].江南大学学报（自然科学版），2005，4（1）：27?32.

[5]刘晓军，阎朝鼎.一种新型的CMAC神经网络[J].中国科技信息，2005（14）：45.

[6]王明h，高渠，陈婷婷.基于神经网络的DNA序列分析[J].通讯世界，2015（13）：55?56.

[7]戴东波，汤春蕾，熊S.基于整体和局部相似性的序列聚类算法[J].软件学报，2010，21（4）：702?717.

[8]韩忠明，陈妮，乐嘉锦，等.面向热点话题时间序列的有效聚类算法研究[J].计算机学报，2012，35（11）：2337?2347.

神经网络的含义范文篇3

电力系统负荷预测实质是对电力市场需求的预测，短期电力负荷预测是电力部门的重要工作之一。目前主要的负荷预测方法有传统预测、灰色预测、混沌理论预测、智能技术预测、优选组合预测等，其中智能预测中最典型的就是人工神经网络。

人工神经网络是一个极其复杂的非线性动力学系统。它的自学习功能对预测有着重要的意义，能通过学习已存在的历史负荷数据，来反映出输入变量和输出变量之间的非线性关系。由于很多因素都会对电力负荷造成影响，所以可以把神经网络算法引用到负荷预测中来，提高电力负荷的预测精度。本文针对短期电力负荷预测的问题，采用了一种增加动量项改进BP算法的负荷预测方法，并对某城市的有功负荷进行短期负荷预测仿真。

2传统BP算法及其改进

2.1传统BP模型及其学习过程

传统BP算法的实质是求均方误差函数的最小值问题，常选择Sigmoid型函数作为激励函数。如图2-1所示即为典型的三层BP神经网络的结构图，从左至右依次为输入层、隐含层、输出层。一般情况下，输入层单元数与输出层相等，隐含层比输入层多，一般多取2n-1，其中n为输入层单元数。

[图2-1三层BP神经网络结构图]

令输入模式向量为Xk=（x，x，…，x）T，（k=1，2，…，m），m是学习模式对的个数，n为输入层单元数；对应输入模式的期望输出模式向量为Yk=（y，y，…，y）T，q为输出层单元数；中间隐含层的净输入向量为Sk=（S，S，…，S）T，输出向量为Bk=（b，b，…，b）T，p为隐含层单元数；输出层净输入向量为Lk=（l，l，…，l）T，实际输出向量为Ck=（c，c，…，c）T；输入层至隐含层的连接权值为W={wij}（i=1，2，…，n，j=1，2，…，p），隐含层到输出层的连接权值为V={vjt}，（j=1，2，…，p，t=1，2，…，q）；隐含层各个单元的阈值为θ={θj}（j=1，2，…，p），输出层各个单元的阈值为γ={γt}（t=1，2，…，q）。

中间隐含层各个神经元的净输入和输出：

S=wijs-θjj=1，2，…，pb=f（s）j=1，2，…，p

输出层各个神经元的净输入和实际输出：

l=vjtb-γtt=1，2，…，qc=f（l）j=1，2，…，q

依据给定的期望输出值，得到输出层各个神经元的校正误差：

d=（y-c）f′（l）t=1，2，…，q；隐含层各个神经元的校正误差：

e=[vjtd]f′（S）j=1，2，…，p修正隐含层和输出层神经元之间的阈值γ，其中α为学习速率，0

Δvjt=αddi=1，2，…，p，t=1，2，…，qΔvjt=αdbi=1，2，…，p，t=1，2，…，q

Δγt=αdt=1，2，…，q

修正输入层与隐含层的连接权值和隐含层神经元的阈值θ，其中β为学习速率，0

Δwij=βexi=1，2，…，n，j=1，2，…，pΔθj=βej=1，2，…，p

直到全部m个学习模式对训练完毕，然后判断该神经网络的全局误差E是否满足训练精度要求。

2.2BP算法的改进

传统BP算法在调整连接权值时，只考虑了此次调整的误差梯度下降方向，因而经常会使训练过程发生振荡，收敛速度缓慢。本文通过增加动量项调整连接权值来改进传统BP算法，进而克服这些缺点。

为了提高神经网络的训练速度，可以在对连接权值进行调整时，以一定的比例加上前一次学习时的调整量，即动量项，带有动量项的连接权值调整公式为：

Δwij（n）=-β+ηΔwij（n-1）

其中ηΔwij（n-1）为动量项，n为学习次数，η为动量系数，0

3基于BP算法的短期电力系统负荷预测及其仿真分析

3.1负荷预测的基本思想

利用BP神经网络预测未来时日的数据，主要思想是以过去的历史数据作为网络的训练数据，当网络训练完毕，就可通过输入新的时序数据来预测未来数据。因各种因素都会对短期负荷造成一定影响，于是便可建立如图3-1所示的电力系统负荷预测的模型。

3.2BP神经网络的设计

将一星期内的每一天看成是相同的负荷类型，每隔两小时对电力负荷进行一次测量，得12组整点测量的负荷数据，记为输入变量，输出变量为预测日当天的12个整点的电力负荷值，中间层取神经元位数为25。网络中间层和输出层神经元的激励函数均采用S型函数。

3.3实例分析

参考文献[2]中的数据，以某城市2009年6月13日到6月23日的12个整点电力负荷值，作为该网络的样本数据，预测6月24日的电力负荷值。分别采用传统和改进的BP算法对这些数据用matlab进行编程仿真，预测结果如表1所示，预测结果仿真图及误差曲线图分别如图3-2、3-3所示。

由以上仿真结果可知，传统BP算法电力负荷预测的最大误差为0.4857%，平均绝对值相对误差为0.0760%；改进BP算法电力负荷预测的最大误差为0.0548%，平均绝对值相对误差为0.0213%。综合图3-2和3-3的比较可得，加入动量项改进后的BP算法在预测精度上明显优于传统BP神经网络算法，故该神经网络满足应用要求。