NLP -字表示

Question

我正在研究一种单词表示算法，类似于Word2Vec和GloVe.I，它被要求使其更具动态性，这样就可以将新单词添加到词汇表中，甚至在创建表示(向量)之后也可以向程序提交新的文档。

问题是，我怎么知道我的代理是否有效？我怎么知道它是否真的捕捉到了每个词的意思？如何将我的表示与现有的向量空间模型进行比较？

到目前为止，我正在做以下测试来检查我的单词向量的质量：

距离测试：

向量之间的余弦距离是否反映了词之间的语义距离？

类比试验：

这个表示法能用来解决诸如“国王对女王就像男人是________”这样的问题吗？(答案应该是女人)。

挑出一个奇怪的：

向量可以用来选择给定的单词列表中的奇数词吗？如果输入是{“猫”，“狗”，“电话”}，输出应该是“电话”吗？

我应该做哪些其他测试来检查向量的质量？文字向量还能完成哪些其他任务？向量空间模型有基准吗？

Answer 1

你的测试听起来很合理--它们是研究论文中常用的评估任务，用来测试单词嵌入的质量。

此外，网站www.wordvectors.org可以给你一个好的想法，你的向量如何衡量。它允许你上传你的嵌入，生成情节，给出相关的词对相似性排名，并比较你的嵌入与预先训练向量从以前的研究。您可以在附纸中找到更详细的描述。