BP神经网络激活函数

激活函数最初是纯粹模拟生物特征，从数学上讲激活函数表征了一个回归形式，很多激活函数的并联和串联结构通过改变参数会呈现出对任意非线性函数的逼近。你说的基函数就是激活函数的形式吧。高斯径向基，logist，线性基..

个人从数学的角度（虽然激活函数本身有生物意义）是这么理解的：激活函数是把一个空间映射到另一个空间（一般是非线性映射，否则就没有意义了，因为权值的线性叠加已经做了一次线性变换），而径向基函数是赋予空间一个度量准则，即定义了空间中每两个点的距离，这样可以根据这个距离来分类。说白了，就是先对空间做一些非线性变换，再用超平面根据距离来划分点。