我想监测斜率变化与角角,以决定梯度是否消失或爆炸。我该怎么办?
发布于 2018-04-26 16:43:35
要可视化Tensorboard中的培训,将keras.callbacks.TensorBoard回调添加到model.fit函数中。不要忘记将write_grads=True设置为查看渐变。训练开始后你就可以跑了..。
tensorboard --logdir=/full_path_to_your_logs..。并将浏览器指向htttp://localhost:6006。请参阅this question中的示例代码。
若要检查渐变/爆炸梯度,请注意感兴趣层(“分配”选项卡)中的梯度分布和绝对值:
NaN的输出值。https://stackoverflow.com/questions/50033312
复制相似问题