GOLEM算法的似然降低原因

Question

我使用GOLEM算法进行临时推断，使用python，但由于某些原因，由于某些原因，我的可能性分数正在下降。这一切为什么要发生？

我有一个很大的数据集，有310127104行。我不能这样做，因为这个方法不适合这个特定的任务？

输出如下所示：

[2022-06-28 19:18:02,137][golem.py - line 204] - INFO - Started training for 1200 iterations.
[2022-06-28 19:18:04,794][golem.py - line 217] - INFO - [Iter 0] score=142.987, likelihood=142.987, h=0.0e+00
[2022-06-28 20:46:41,095][golem.py - line 217] - INFO - [Iter 100] score=141.733, likelihood=141.655, h=9.5e-04
[2022-06-28 22:07:21,093][golem.py - line 217] - INFO - [Iter 200] score=140.727, likelihood=140.475, h=2.0e-02
[2022-06-28 23:27:34,371][golem.py - line 217] - INFO - [Iter 300] score=139.868, likelihood=139.517, h=3.2e-02
[2022-06-29 00:48:43,334][golem.py - line 217] - INFO - [Iter 400] score=138.987, likelihood=138.560, h=4.0e-02
[2022-06-29 02:06:52,349][golem.py - line 217] - INFO - [Iter 500] score=137.903, likelihood=137.324, h=4.9e-02
[2022-06-29 03:28:45,860][golem.py - line 217] - INFO - [Iter 600] score=136.425, likelihood=135.597, h=7.0e-02
[2022-06-29 04:53:14,669][golem.py - line 217] - INFO - [Iter 700] score=135.297, likelihood=134.317, h=8.3e-02
[2022-06-29 06:19:03,769][golem.py - line 217] - INFO - [Iter 800] score=134.337, likelihood=133.297, h=8.3e-02

提前谢谢你！

Answer 1

我将继续假设您是在引用Ignavier等人2020年中的"GOLEM“因果结构学习算法。

在它们的优化中，它们将由负对数似然和附加惩罚项组成的损失最小化(例如，参见等式3)。在约束优化中，常用的做法是使用损失(必须尽量减少损失)，而不是必须最大化的分数。这主要是出于惯例和一致性的原因。对于GOLEM，您可以在第85行的正式执行中看到这一点。因此，您的模型似乎正在按预期进行培训(输出中的“得分”和“可能性”两个词可能有点不精确)。

注意事项：

考虑到您可能在现实世界的数据上运行GOLEM，重要的是要考虑GOLEM的出色的经验结果(以及一系列类似的算法)似乎是由基准测试中的模式造成的，并且很可能不会像里萨奇岛2021年中所示的那样转换到现实世界。