如何选择最优的深度学习算法？

Question

我一直在训练CNN对4种错误信号(声发射/250 CNN)进行分类。我在使用tensorflow库实现算法方面没有问题，但我对选择哪一个优化器感到困惑。我一直在尝试不同的优化器，对于Adam优化器和梯度下降优化器算法在k倍交叉验证的测试分类准确率(~84%~ 85%)方面给出了相同的结果。这两个优化器的结果是相同的，是由于数据的原因，还是由于对大量数据的培训(64000个样本/故障条件)？

是否有任何特定的准则来为数据选择特定的优化器？否则，这是随机的试错吗？

Answer 1

我发现这很有帮助。

我通常坚持亚当，很少尝试SGD。简单的话:尝试与最近在流行数据集上实现的优化器并驾齐驱，这个框架已经被这个框架实现了，这个框架声称比其他的更好。

具体地说，这个优化器对这类数据是最好的，这是主观的，而且我还没有读过任何与此相关的材料。将来，如果有人发现了，请评论或编辑这篇文章。

希望这能有所帮助。