神经网络又称人工神经网络(artificial neural network,ANN),神经网络是一种人类由于受到生物神经细胞结构启发而研究出的一种算法体系.

人的神经细胞就像图上这样,枝枝杈杈很多,远远看上去一边比较粗大,一边比较纤细.最上端粗大的这一边是细胞体的所在,细胞体上有一些小枝杈叫做树突,细长的这一条像尾巴一样的东西叫轴突.不同细胞之间通过树突和轴突相互传递信息,他们的接触点叫突触,准确说是由一个细胞的轴突通过突触将信号传递给另一个细胞的树突.

神经细胞在信号传递中用的是化学信号传递,化学信号就是靠一些有机化学分子的传输来传递信息,但是有机化学分子太复杂了,到现在为止人类对于这些化学分子所具体承载的信息仍旧是一知半解,还没有形成完整的体系性的解释.而人类从这种通过神经细胞之间的刺激来传递信息的方式中获得了启迪–是否我们也可以设计这样一种网络状链接的处理单元,让他们彼此之间通过某种方式互相刺激,协同完成信息处理呢?

我们可以追溯到1957年rosenblatt提出的感知器模型,这种模型和现在最新应用框架中的神经网络单元形式上还确实是非常接近的.我们要想了解神经网络,就应该先看看它最基本的组成单元–神经元