人工记忆神经元

科技工作者之家 2020-11-17

人工神经网络是在现代神经生物学研究基础上提出的模拟生物过程,反映人脑某些特性的一种计算结构。它不是人脑神经系统的真实描写,而只是它的某种抽象、简化和模拟。在人工神经网络中,人工记忆神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工记忆神经元是对生物神经元的一种形式化描述,它对生物神经元的信息处理过程进行抽象,并用数学语言予以描述;对生物神经元的结构和功能进行模拟,并用模型图予以表达。

简介在人工神经网络中,一个人工记忆神经元的功能是求得输入向量与权向量的内积后,经一个非线性传递函数得到一个标量结果。单个神经元的作用:把一个n维向量空间用一个超平面分区成两部分(称之为判断边界),给定一个输入向量,神经元可以判断出这个向量位于超平面的哪一边。神经元及其联接;神经元之间的联接强度决定信号传递的强弱;神经元之间的联接强度是可以随训练改变的;信号可以是起刺激作用,也可以是起抑制作用;一个神经元接受的信号的累积效果决定该神经元的状态;每个神经元可以有一个“阈值”。神经元是构成神经网络的最基本单元(构件)。人工记忆神经元的各种不同数学模型的主要区别在于采用了不同的变换函数 ,从而使神经元具有不同的信息处理特性 。 神经元的信息处理特性是决定人工神经网络整体性能的三大要素之一,因此变换函数的研究具有重要意义。神经元的变换函数反映了神经元输出与其激活状态之间的关系。最常用的变换函数有以下4种形式:阈值型变换函数、非线性变换函数、分段线性变换函数和概率型变换函数。

生物神经元生物神经元结构

细胞体: 细胞核、细胞质和细胞膜。

树突:胞体短而多分枝的突起。负责接收来自其他神经元的输入信号,相当于细胞体的输入端(input)

轴突:胞体上最长枝的突起,也称神经纤维。端部有很多神经末稍传出神经冲动。

突触:神经元间的连接接口,每个神经元约有1万~10万个突触。神经元通过其轴突的神经末稍,经突触与另一神经元的树突联接,实现信息的传递。由于突触的信息传递特性是可变的,形成了神经元间联接的柔性,称为结构的可塑性。突触使神经细胞的膜电位发生变化,且电位的变化是可以累加的,单个神经元可以与多达上千个其他神经元的轴突末梢形成突触连接,接受从各个轴突传来的脉冲输入。这些输入可到达神经元的不同部位,输入部位不同,对神经元影响的权重也不同。输入部位不同,该神经细胞膜电位是它所有突触产生的电位总和,当该神经细胞的膜电位升高到超过一个阈值时,就会产生一个脉冲,从而总和的膜电位直接影响该神经细胞兴奋发放的脉冲数。神经元的信息是宽度和幅度都相同的脉冲串,若某个神经细胞兴奋,其轴突输出的脉冲串的频率就高;若某个神经细胞抑制,其轴突输出的脉冲串的频率就低,甚至无脉冲输出。因此,突触可以分为兴奋性和抑制性两种,兴奋性的突触可能引起下一个神经细胞兴奋,抑制性的突触使下一个神经细胞抑制。脉冲的传递是正向的,不允许逆向传播。另外,突触传递信息需要一定的延迟。

细胞膜电位:神经细胞在受到电的、化学的、机械的刺激后,能产生兴奋与抑制。

功能

兴奋与抑制:当传入神经元冲动,经整和使细胞膜电位升高,超过动作电位的阈值时,为兴奋状态,产生神经冲动,由轴突经神经末稍传出。当传入神经元的冲动,经整和,使细胞膜电位降低,低于阈值时,为抑制状态,不产生神经冲动。

学习与遗忘:由于神经元结构的可塑性,突触的 传递作用可增强与减弱,因此,神经元具有学习与遗忘的功能。

人工神经网络基本模型自从西班牙解剖学家Cajal于19世纪末创立了神经元学说以来,关于神经元的生物学特征和相关的电学性质在之后被相继发现1。1943年,McCulloch和Pitts根据神经元传递中的“ 0,1律”和神经传递中信号不但有不同的强度,而且有兴奋和抑制两种情况,第1次提出了神经元的数学模型,即M-P模型,它在多个方面都显示出生物神经元所具有的基本特性。其次,其它形式的人工神经元已有很多,但大多数都是在M-P模型的基础上经过不同的修正,改进变换而发展起来。因此M-P人工神经元是整个人工神经网的基础。对M-P人工神经元进行改进的主要方式有如下几个方面:神经元的内部改造:对人工神经元取不同的非线性函数;对输入和输出做不同的限制:离散的(某些离散点)和连续的(整个实数域)。神经网络的结构上的改造:人工神经元之间的联接形式不同。算法的改进:在人工神经网络权值和阈值取求的方法上 不同。其它形式的改造。

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在这一模型中,大量的节点(或称“神经元”,或“人工记忆神经元”)之间相互联接构成网络,即“神经网络”,以达到处理信息的目的。一种模仿动物神经网络行为特征的分布式并行信息处理算法结构的动力学模型。它用接受多路输入刺激,按加权求和超过一定阈值时产生“兴奋”输出的部件来模仿动物神经元的工作方式,并通过这些神经元部件相互联接的结构和反映关联强度的权系数使其“集体行为”具有各种复杂的信息处理功能。特别是这种宏观上具有鲁棒、容错、抗干扰、适应性、自学习等灵活而强有力功能的形成不是由于元部件性能不断改进,而是通过复杂的互联关系得以实现,因而人工神经网络是一种联接机制模型,具有复杂系统的许多重要特征。人工神经网络适用于信号处理、数据压缩、模式识别、机器人视觉、知识处理及其应用,预测、评价和决策问题,调度排序、路由规划等组合优化问题。在控制系统设计中它可用于模拟被控对象特性、搜索和学习控制规律、实现模糊和智能控制。

本词条内容贡献者为:

陈红 - 副教授 - 西南大学

科技工作者之家

科技工作者之家APP是专注科技人才,知识分享与人才交流的服务平台。