首页
学习
活动
专区
圈层
工具
发布

推荐系统里,可以用蒸馏吗?

对于一个已经训练好的复杂的模型,如果要集成的话要带来很大的计算开销,而使用蒸馏模型可以用复杂模型指导一系列简单模型学习,根据复杂的大网络和一系列简单模型的输出作为目标,训练一个最终的模型,可不用对复杂模型进行集成...hard loss;λ是超参数,控制teacher模型对student的指导程度;L_soft是teacher模型输出概率与student模型输出概率的交叉熵,记为soft loss,形式如下所示: 也可以用带温度的...softmax函数控制teacher信号的传输: Lsoft也可以用logit直接的mse loss进行学习。...说到这肯定有人要问了,召回可以学精排,预排序(粗排)可以学精排吗?,当然可以,而且肯定也会有收益。那召回为啥不学预排序(粗排)?毕竟召回直接相连的就是预排序模型。当然也是可以的尝试的。

2K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Odoo系统介绍和对比

    5、客户端各种展示模块 image.png image.png 21.数据库 数据库采用PostgreSQL image.png 22.数据库市场占有率 1、MySQL还是主流 2、PostgreSQL...2、MongoDB非关系型数据库,没有事务,跟金钱相关,对事务性要求比较严格的场景不太合适 3、PostgreSQL相当于MySQL+MongoDB,既是关系型数据库,又保障性能 4、Odoo为小微企业服务...,保障部署和业务简单,只选择一个数据库,综合起来,首选就是PostgreSQL Odoo对PostgreSQL的介绍: image.png 25.开源数据库选择 1、数据量支持的规模,MySQL<PostgreSQL...<MongoDB<HBase 2、互联网企业,最开始一般选MySQL和PostgreSQL;当业务量飙升,开始考虑分布式系统,一般选用MongoDB;当业务量继续增加,则考虑大数据产品,一般选择Hbase...image.png 26.Odoo/SalesForce技术栈 Odoo SalesForce 备注 针对对象 小微企业 中大型企业 开发语言 Python Java 二次开发语言 Python

    4.8K20

    ​薛定谔高级总监|AlphaFold模型可以用于基于结构的药物设计吗

    问:AlphaFold结构可以作为基于结构的设计的起点吗? 答:自AlphaFold2发布以来,这已成为药物发现中最紧迫的问题之一。...问:AlphaFold结构可用于查找hit化合物吗? 答:我们对这个问题进行了回顾性调查,似乎AlphaFold结构确实可以为hit发现提供一些效用,但有一些非常重要的警告。...问:AlphaFold模型可以用于基于结构的GPCR设计吗? 答:由于某些基于GPCR的2型糖尿病和肥胖症药物最近取得了爆炸性的成功,因此GPCR目前特别受到药物发现行业的关注。...我们的研究结果表明,一旦应用基于物理的技术对AlphaFold模型进行了适当的改进,它们就可以用于基于结构的GPCR设计。

    74110
    领券