R_squared vs epochs

Question

早上好，我是python初学者，我正在尝试构建我的第一个神经网络。有没有一种方法可以绘制R2的演变与时代的关系？我用以下方式评估R2：r2_score(y_test_pred, y_test)。我用这种方式构建了一个完全连接的神经网络：

optimizer = tf.keras.optimizers.Adam(lr=0.001)
model = Sequential()

# ,kernel_regularizer=l2(c), bias_regularizer=l2(c)
model.add(Dense(100, input_shape = (X_train.shape[1],), activation = 'relu',kernel_initializer='glorot_uniform'))
model.add(Dropout(0.2))
model.add(Dense(100, activation = 'relu',kernel_initializer='glorot_uniform'))
model.add(Dropout(0.2))
model.add(Dense(100, activation = 'relu',kernel_initializer='glorot_uniform'))

model.add(Dense(1,activation = 'linear',kernel_initializer='glorot_uniform'))

model.compile(loss = 'mse', optimizer = optimizer, metrics = ['mse'])

history = model.fit(X_train, y_train, epochs = 100,
                    validation_split = 0.1, shuffle=False, batch_size=250
                    )

history_dict = history.history
`

数据集由18个特征和1个标签组成，这是一个回归任务。

Answer 1

您只需将其添加到您的compile行中。

model.compile(loss = 'mse', optimizer = optimizer, metrics = ['mse', r2_score])

如果你想这样做，你需要创建一个keras可以理解的指标，

import tf.keras.backend as K

def r2_score(y_true, y_pred):
    SS_res =  K.sum(K.square(y_true - y_pred)) 
    SS_tot = K.sum(K.square(y_true - K.mean(y_true))) 
    return ( 1 - SS_res/(SS_tot + K.epsilon()) )

代码取自kaggle

对不起，我忘了添加Tensorboard部分。

如果你想在训练过程中看到损失/度量的演变，你可以使用Tensorboard，就像在the doc中一样

logdir = "logs/" + datetime.now().strftime("%Y%m%d-%H%M%S")
tensorboard_callback = tf.keras.callbacks.TensorBoard(log_dir=logdir)


history = model.fit(X_train, y_train, epochs = 100,
                    validation_split = 0.1, shuffle=False, batch_size=250, calllbacks=[tensorboard_callback])

然后在终端中使用以下行访问Tensorboard

tensorboard --logdir logs

然后你可以通过访问localhost:6006在浏览器上访问tensorboard