什么事神经网络或者微粒群算法所说的陷入 局部极小值？..。

什么事神经网络或者微粒群算法所说的陷入 局部极小值？局部极小值是什么？

Answer 1

[nimelop]

以一元函数为例，对自变量求导，使导数等于零，可求得极值点，这大家都知道。

现在我们只考察极小值点。那么对于一个函数而言，可以存在多个极小值点，每一个导数等于零，都会对应一个波谷，那这这个极小值点相对于这一段波形来说就是极小值。然而从全局来看，在多个极小值中，还存在最小值，即极小值中的极小值。然而一般的神经网络和遗传算法会从波峰向波谷前进，如果其初值落在某个不是最小值的极小值波形段，那么就有可能陷入局部最小值，即此波形段的最小值，但不是全局的最小值。

遗传算法因其随机性和变异性，一定程度上是能避免陷入局部最小值的，但事实上很多情况下他还是会陷入局部最小值。