在tf.layers.Dense的TensorFlow网站上的documentation中,它将kernel_initializer和kernel列为其属性。据我所知,kernel_initializer是一个可以传递权重矩阵的参数。然而,kernel也是一个权重矩阵。
tf.layers.Dense
kernel_initializer
kernel
这两者之间的区别是什么?为什么在初始化权重时选择一个而不是另一个?
发布于 2019-07-16 00:16:04
简而言之,您可以使用kernel_initializer进行快捷初始化,如0、1、random_normal等(您可以查看完整的列表here)。
kernel将接受设置的权重作为内核使用。而kernel_initializer将接受由框架调用以初始化权重的function。这两个函数看起来相似的原因是,当您将一个矩阵传递给kernel_initializer时,它会被转换为一个constant初始化器,它所做的工作与将相同的矩阵传递给kernel参数完全相同。
constant
https://stackoverflow.com/questions/57043401
相似问题