机器学习中的凸和非凸问题

Question

在卷积神经网络(CNNs)中，我读到像tanh这样的激活函数只适用于凸问题/优化。它的真正含义是什么？什么是凸优化和非凸优化？为什么凸问题“更容易”解决？

Answer 1

我不太清楚你的第一句话是什么意思。简而言之，凸优化和非凸优化之间的区别取决于描述目标函数和约束的函数的凸性。凸优化问题有许多优点，包括:最优点的唯一性和问题的计算可处理性。我希望这能给你一个初步的概述。