文章/答案/技术大牛

发布

社区首页 >问答首页 >为什么使用sigmoid“激活函数”的多标签分类的准确性比使用"softmax“要高得多？

问为什么使用sigmoid“激活函数”的多标签分类的准确性比使用"softmax“要高得多？
EN

Data Science用户

提问于 2022-02-14 08:40:08

回答 1查看 420关注 0票数 0

我使用Bi分类器进行多标签文本分类，这意味着11个类的数据集中有超过一个标签的实例。当我使用乙状结肠激活函数和"binary_crossentropy“损失函数时，比使用"categorical_crossentropy”损失函数的"softmax“激活函数具有更高的精度。为什么？

classification

nlp

machine-learning

deep-learning

回答 1

Data Science用户

发布于 2022-02-15 07:23:21

你在做多标签分类。

Softmax函数强制输出概率之和等于1，所以不能有像[0, 1, 0, 1]这样的最终输出(对于多标签分类来说是这样)。Sigmoid没有这样的约束。Softmax不适用于多标签分类.

这可能是你结果的原因。

你应该进一步研究交叉熵损失：

分类的交叉熵

我应该使用绝对交叉熵还是二进制交叉熵损失来进行二进制预测？

票数 1

页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://datascience.stackexchange.com/questions/108138

复制

相似问题

问为什么使用sigmoid“激活函数”的多标签分类的准确性比使用"softmax“要高得多？
EN

回答 1

Data Science用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问为什么使用sigmoid“激活函数”的多标签分类的准确性比使用"softmax“要高得多？EN

回答 1

Data Science用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问为什么使用sigmoid“激活函数”的多标签分类的准确性比使用"softmax“要高得多？
EN