神经元模型简单制作方法 神经网络学习之M-P神经元模型

神经网络中最基本的信息处理单元就是M-P神经元模型 。一个M-P神经元模型接受来自其他m个神经元传递过来的输入信号 。输入信号通过带权重的连接进行传递 。到达神经元 。神经元对其加权和 。得到总输入值 。然后将其与神经元的阈值进行比较 。如果神经元的总输入值大于它的阈值 。神经元就会被唤醒 。通过唤醒函数的映射形成输出 。具体的计算模型如下图所示:

神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
目前神经元接受外面的世界信号x1 。x2 。... 。xm,一共有m个信号的输入 。这m个输入信号通过传递分别获得了权重w1 。w2 。... 。wm 。然后对其加权累和得到了总输入值 。最后将其与目前神经元的阈值进行比较 。如果总输入值大于它的阈值 。神经元被唤醒 。通过唤醒函数的映射形成输出 。具体的计算公式如上图所示 。
其实M-P神经元模型的本质就是一个广义的线性回归模型 。而唤醒函数就相当于广义线性回归模型中的g函数 。要解决M-P神经元模型的计算问题 。还要有一个具体的唤醒函数 。理论上 。唤醒函数可以是任意的函数形式 。通常使用的有:线性函数、非线性斜面函数、阈值函数、逻辑斯蒂函数 。
【神经元模型简单制作方法 神经网络学习之M-P神经元模型】线性函数f(net)=k*net+c
线性函数只能进行线性变化 。不适合用来处理非线性问题 。
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
非线性斜面函数
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
γ为大于0的常数 。被称为饱和值 。是神经元的最大输出 。
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
阈值函数
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图

神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
逻辑斯蒂函数f(net)=a+b/(1+exp(-d*net))
a 。b 。d为常数 。它的饱和值为a和a+b 。
a=0 。b=1 。d=1时 。简化为最简单的形式:
f(net)= 1/(1+exp(-net))
如下图所示 。此时的M-P函数神经元模型就是一个逻辑斯蒂回归函数 。
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图
逻辑斯蒂函数形如S 。也叫S形函数;将较大范围变化的输入值挤压到(0 。1)的输出值范围内 。因此也叫挤压函数;有较好的增益控制能力 。也叫增益控制函数 。
神经元模型简单制作方法 神经网络学习之M-P神经元模型

文章插图

    推荐阅读