我正在寻找神经网络优化中的 4 种最佳算法。 我需要名称和任何描述，学习方法和拓扑对我有很大帮助。我认为多层感知器（MLP）就是其中之一，但我不确定。
谢谢大家。
你的问题真的很广泛。这很难回答，因为不同的优化器各有利弊。我想说的是，在当今最好的优化器中，您会发现具有Nestov动量的ADAM，RMSPROP，ADAGRAD和SGD。您可以在此处阅读有关这些方法（以及其他方法）的信息。
首先，我同意这个问题确实太宽泛了，但是，我想添加一些我个人认为对帮助我回答这个问题有用的资源。在这样做的过程中，我希望这些资源能像帮助我一样帮助其他人。他们在这里：
- Sebastian Ruder Mod Yu Zeng的博客文章。
- 阿尼什·辛格·瓦利亚（Anish Singh Walia）关于这个话题的讨论。
- 《深度学习》第8章，作者是一位好人，Yoshua Bengio和Aaron Courville。
- 这篇文章来自Adrian Colyer的晨报。
我希望这对某人有所帮助。