强化学习-动作数

Question

读取https://towardsdatascience.com/reinforcement-learning-temporal-difference-sarsa-q-learning-expected-sarsa-on-python-9fecfda7467e epsilon_greedy的定义如下：

def epsilon_greedy(Q, epsilon, n_actions, s, train=False):
    """
    @param Q Q values state x action -> value
    @param epsilon for exploration
    @param s number of states
    @param train if true then no random actions selected
    """
    if train or np.random.rand() < epsilon:
        action = np.argmax(Q[s, :])
    else:
        action = np.random.randint(0, n_actions)
    return action

参数n_actions是否为座席可用操作的数量？因此，如果一个智能体正在学习踢足球，并且可用的动作是{kick，don't kick} n_actions =2

Answer 1

是的，你是对的。通常，您定义一个字典，其中包含整数和您的代理可以执行的每个操作之间的映射。您可以看到，在函数中，当您没有选择最优的动作索引时，n_actions恰好用于对随机动作索引进行采样。