在CRF++中使用的边际概率公式是什么？

Question

CRF++说它可以：

“可以输出所有候选人的边际概率”的页面：http://crfpp.sourceforge.net/

但是，在条件随机场中，用于寻找这些概率的公式的表示法是什么？

有人告诉我，这不是简单的p(a|b)，因为条件随机场使用来自相邻观测的上下文。

这些边际概率究竟是多少？

Answer 1

条件概率就是p(y|x)，其中y是一个标签序列，x是相关联的观察序列。

这个概率的表达式就是softmax函数\exp( a_i ) / \sum_{i'} \exp ( a_{i'})。

对于CRF，a_i是标签序列a_i = w \cdot \phi(x,y)的函数，其中\phi(x,y)是从序列及其标签派生出来的特征向量。

这意味着分母中的和大于可能的标签()的指数数\mathcal{Y}。

\sum_{y' \in \mathcal{Y}} \exp ( w \cdot \phi(x,y) )