如何使用autograd查找最小/最大点

Question

假设我们有一个简单的函数y=sin(x**2)，我如何使用autograd查找所有一阶导数值为0的X:s？

Answer 1

下面的代码可以找到一阶导数为零的点。然而，根据随机初始化，它只会找到一个点。如果你想找到所有的点，你可以尝试在一些想要的网格上迭代大量的随机初始化。

import torch 
import numpy as np
# initialization
x = torch.tensor(np.random.rand(1)).requires_grad_(True)

while (x.grad is None or torch.abs(x.grad)>0.01):
    if (x.grad is not None):
        # zero grads
        x.grad.data.zero_()
    # compute fn
    y = torch.sin(x**2)
    # compute grads
    y.backward()
    # move in direction of / opposite to grads
    x.data = x.data - 0.01*x.grad.data
    # use below line to move uphill 
    # x.data = x.data + 0.01*x.grad.data

print(x)
print(y)
print(x.grad)

另请参阅how to apply gradients manually in pytorch