和自适应性
学习和适应要求在时间过程中系统内部结构和联系方式有改变,神经元网络是一种变结构系统,恰好能完成对环境的活应和对外界事物的学习能力。神经元之间的连接有多种多样,各神经元之间连接强度具有一定的可塑性,相当于突触传递信息能力的变化,这样,网络可以通过学习和训练进行自组织以适应不同信息处理的要求。
神经元网络是大量神经元的集体行为,并不是各单元行为的简单的相加,而表现出一般复杂非线性动态系统的特性。如不可预测性、不可逆性、有各种类型的吸引子(信息正是"存储"在定点吸引子)和出现混沌现象等。
正是由于神经网络具有这些特点,所以可以处理一些环境信息十分复杂、知识背景不清楚和推理规则不明确的问题。例如语音识别和识别、医学诊断以及市场估计等,都是具有复杂非线性和不确定性对象的控制。在那里,信源提供的模式丰富多彩,有的互相间存在矛盾,而判定决策原则又无条理可循。通过神经元网络学习(按照学习法则),从典型事例中学会处理具体事例,给出比较满意的解答。
2.3 人工神经网络的基本原理
2.3.1神经细胞以及人工神经元的组成
神经系统的基本构造单元是神经细胞,也称神经元。它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息,轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。简单神经元网络及其简化结构如图2-2所示。
从信息的传递过程来看,一个神经细胞的树突,在突触处从其他神经细胞接受信号。这些信号可能是兴奋性的,也可能是抑制性的。所有树突接受到的信号都传到细胞体进行综合处理,如果在一个时间间隔内,某一细胞接受到的兴奋性信号量足够大,以致于使该细胞被激活,而产生一个脉冲信号。这个信号将沿着该细胞的轴突传送出去,并通过突触传给其他神经细胞.神经细胞通过突触的联接形成神经网络。
(1)细胞体(2)树突(3)轴突(4)突触
图2-2 简单神经元网络及其简化结构图
人们正是通过对人脑神经系统的初步认识,尝试构造出人工神经元以组成人工神经网络系统来对人的智能,甚至是思维行为进行研究:尝试从理性角度阐明大脑的高级机能。经过几十年的努力与发展,己涌现出上百种人工神经网络模型,它们的网络结构、性能、算法及应用领域各异,但均是根据生物学事实衍生出来的。由于其基本处理单元是对生物神经元的近似仿真,因而被称之为人工神经元。它用于仿效生物神经细胞最基本的特性,与生物原型相对应。
人工神经元的主要结构单元是信号的输入、综合处理和输出,其输出信号的强度大小反映了该单元对相邻单元影响的强弱。人工神经元之间通过互相联接形成网络,称为人工神经网络。神经元之间相互联接的方式称为联接模式,相互之间的联接度由联接权值体现在人工神经网络中,改变信息处理过程及其能力,就是修改网络权值的过程。
目前多数人工神经网络的构造大体上都采用如下的一些原则:
1、由一定数量的基本单元分层联接构成;
2、每个单元的输入、输出信号以及综合处理内容都比较简单;
3、网络的学习和知识存储体现在各单元之间的联接强度上。
2.3.2人工神经元的模型
神经元是人工神经网络的基本处理单元,它一般是一个多输入/单输出的非线性元件。神经元输出除受输入信号的影响外,同时也受到神经元内部其它因素的影响,所以在人工神经元的建模中,常常还加有一个额外输入信号、称为偏差(bais),有时也称为阈值或门限值。一个具有r个输入分量的神经元如图2-2所示。其中,输入分量通过与和它相乘的权值分量相连,以的形式求和后,形成激活函数f()的输入。激活函数的另一个输入是神经元的偏差b,权值Wj和输入分量的矩阵形式可以由W的行矢量以及P的列矢量来表示:
(2.1)
2.4神经网络的结构与学习规则
2.4.1神经网络的联接形式
人脑中大量的神经细胞都不是孤立的,而是通过突触形式相互联系着,构成结构与功能十分复杂的神经网络系统。为了便于从结构出发模拟智能,因此必须将一定数量的神经元适当地联接成网络,从而形成多种神经网络模型。
通常所说的神经网络的结构,主要指它的联接方式。神经网络按照拓扑结构属于以神经元为节点,以及节点间有向连接为边的一种图,其结构大体上可分为层状和网状两大类。
层状结构的神经网络是由若干层组成,每层中有一定数量的神经元,相邻层中神经元单向联接,一般地同层内的神经元不能联接,网状结构的神经网络中,任何两个神经元之间都可能双向联接。
下面介绍几种网络结构:
1、前向网络
前向网络通常包含许多层,如图2-3所示为3层网络。这种网络特点是只有前后相邻两层之间神经元相互联接,各神经元之间没有反馈。每个神经元可以从前一层接收多个输入,并只有一个输出送给下一层的各神经元。三层前向网络分为输入层、隐层和输出层。在前向网络中有计算功能的节点称为计算单元,而输入节点无计算功能。
2、反馈网络
反馈网络从输出层到输入层有反馈。即每一个节点同时接收外来输入和来自其它节点的反馈输入,其中也包括神经元输出信号引回到本身输入构成的自环反馈,如图2-4所示。这种反馈网络每个节点都是一个计算单元。
图2-3前向网络 图2-4反馈网络
3、相互结合型网络
相互结合型网络如图2-5所示,它是属于网状结构。构成网络中各个神经元都可能相互双向联接,所有的神经元既作输入,同时也用于输出。在这种网络中,如果在某一时刻从神经网络外部施加一个输入,各个神经元一边相互作用,一边进行信息处理,直到使网络所有神经元的活性度或输出值,收敛于某个平均值为止作为信息处理的结束。
图2-5网状结构网络 图2-6混合型网络
4、混合型网络
上述的前向网络和相互结合型网络分别是典型的层状结构网络和网络结构网络,介于这两种网络中间的一种联接方式,如图2-6所示,在前向网络的同层间神经元有互联的结构,称为混合型网络。这种在同一层内的互联,目的是为了限制同层内神经元同时兴奋或抑制的神经元数目,以完成特定的功能。
2.4.2神经网络的学习和训练
人脑中一个典型神经元通过许多树突的精细结构,收集来自其它神经元的信息,神经元又通过轴突发出电活性脉冲。轴突分裂上千条分支,在每条分支末端,通过突触的结构把来自轴突的电活性变为电作用,从而使与之相连的各种神经元的活性受到抑制或兴奋。
当一个神经元收到兴奋输入,而兴奋输入又比神经元的抑制输入足够大时,神经元把电活性脉冲向下传到它的轴突,改变轴突的有效性,从而使一个神经元对另一个神经元的影响改变,便发生了学习行为。因此,可以认为神经网络学习的本质特征在于神经细胞特殊的突触结构所具有的可塑性连接,而如何调整连接权重就构成了不同的学习算法。
神经网络按学习方式分为有教师学习和无教师学习两大类。
1、有教师学习
为了使神经网络在实际应用中解决各种问题,必须对它进行训练,就是从应用环境中选出一些样本数据,通过不断地调整权值矩阵,直到得到合适的输入输出关系为止,这个过程就是对神经网络的训练过程,这种训练的过程需要有教师示范,提供训练数据,又称样
上一篇:
基于VC++的数字识别系统的论文(2)(2003doc)
下一篇:
采用VC的伺服电机控制毕业论文(2003doc)