测试凸优化代码

Question

我想为我已经实现的一套凸优化方法(梯度下降、共轭梯度、BFGS等)创建一套测试问题。

理想情况下，我会知道问题的确切解决方案，然后检查这些算法是否获得了足够接近的答案。

目前，我正在对多变量高斯进行最大似然估计(并使用上述基于梯度的方法，而不是封闭形式的答案)。

你还有什么推荐的吗？

Answer 1

查找x以最小化||A*x-b||。如果b是A* y，A是1-1，则唯一解是y。如果范数是通常的范数，那么这只是线性最小二乘问题，但对于任何范数，问题都是凸的。通过选择具有较大条件数的A，可以在数值上使问题变得困难。