用于协同过滤的RBM

Question

我的协作过滤算法RBM不会收敛。我认为用于协作过滤的RBM的思想是

1. 初始w，b，c和0,1随机
2. 用于用户钳位数据->可见(softmax) 隐藏=乙状结肠(b+W*V) 在隐藏的-> Hidden_gibbs上运行Gibbs 正=隐藏*可见 隐->重构-> reconstruct_visible 在reconstruct_visible -> reconstruct_visible_gibbs上运行Gibbs 负= Hidden_gibbs*reconstruct_visible_gibbs 终结于
3. 更新 W=w+(正-负)/Number_User B=b+(有形- reconstruct_visible_gibbs)/Number_User C=c+(Hidden-Hidden_gibbs)/Number_User

我看过很多论文或讲座，不知道哪里出了问题。

Answer 1

这不是一个容易的问题！你对学习过程的描述看上去很好。但是，从描述到实际代码，有很大的错误空间。另外，对于CF来说，“香草”RBM是行不通的。

• 您是如何实现可见的"softmax“单元的？
• 您是否按照原始work1中的建议，使用“单用户”数据集来培训您的RBM？

有关体重更新和预测过程的更多细节与香草的RBM略有不同

萨拉库蒂诺夫http://www.machinelearning.org/proceedings/icml2007/papers/407.pdf