不同活化函数的NN

Question

如何简单地调整一个流行的NN包并使用我自己的编码激活函数，而不是它的内部激活函数(如ReLU或sigmoid )？首选项是R代码的调整，如果不是，则使用Python。

Answer 1

下面是喀拉斯和Python中的一个示例：

from keras.models import Sequential
from keras.layers import Dense

def custom_activation(x):
    return abs(x)

model = Sequential()
model.add(Dense(64, 
            input_dim=20,
            activation=custom_activation))