首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏DeepHub IMBA

    2022 年 2 月 arXiv 论文推荐

    只需更换数据加载器,然后…… 本篇文章选择了 10 篇论文,这些论文展示了各种 AI 子领域的关键发展:自动强化学习 (AutoRL)、多模态语言模型 (LM)、计算机视觉 (CV) 中的ConvNets 最近在强化学习和语言模型的交叉点上可能有趣的另一篇论文是Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents. 2、Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied 这篇论文还深入探讨了什么设计选择能让moe人学得更好。例如,浅层的专家多一些,还是深层的专家多一些?增加模型容量,是增加每个专家的容量还是增加专家的数量?

    77540编辑于 2022-03-12
  • 来自专栏图与推荐

    IJCAI 2020 | 2 篇 基于会话推荐 相关论文

    本文介绍 IJCAI 2020 中 2 篇基于会话推荐论文。分别为: 基于会话推荐的协同自注意力网络 基于增量式会话推荐的记忆增广神经模型 1. https://www.ijcai.org/Proceedings/2020/0359.pdf 基于会话的推荐因其能够为匿名用户提供推荐而成为研究热点。 (2)它们假设项目的表示是静态的,并且在每个时间步对所有用户是固定的。 文章认为,即使是相同的项目,也可以在相同的时间步长上为不同的用户提供不同的表示。 文章生成推荐的前5个项目。粗体表示最好的结果(越高越好),次好的用下划线表示 2. 文章表明,现有的神经推荐系统可以用于具有较小增量更新的增量SR场景,以减轻计算开销和灾难性遗忘。

    65820发布于 2020-08-10
  • 来自专栏DeepHub IMBA

    2024年2月深度学习的论文推荐

    我们这篇文章将推荐2月份发布的10篇深度学习的论文 Beyond A*: Better Planning with Transformers via Search Dynamics Bootstrapping 这是一个很有意思的研究,对寻路算法感兴趣的可以仔细研究一下 LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. https:/ 论文在在不同llm和各种长上下文任务中进行的大量实验强调了LongRoPE的有效性。 Self-Play Fine-Tuning (SPIN) https://github.com/uclaml/SPIN 论文提出了一种新的微调方法,称为Self-Play Fine-Tuning(SPIN alpha 阶段,但它已被证实可以与各种原生CUDA应用程序一起工作:Geekbench, 3DF Zephyr, Blender, Reality Capture, LAMMPS, NAMD, waifu2x

    52110编辑于 2024-03-01
  • 来自专栏桃花源记

    推荐论文阅读之多任务建模ESM2

    这两个问题在阿里的上一篇论文ESMM中有提到,这里介绍一下。 2 i y_{2i} y2i​表示第i个曝光点击样本发生D行为的概率:点击->D Action。 论文指出,数值特征离散onehot转化后进行embedding训练会影响模型的表现效果。因此,对数值特征进行正则化,然后进行tanh函数转化,这部分特征不进行embedding训练表示。 ? 这部分特征转化后直接拼接离散特征的embedding表示,然后送到esm2模型进行训练、评估。 ----

    1.5K10发布于 2020-11-24
  • 来自专栏深度学习自然语言处理

    论文】本周论文推荐(11.23-11.29)

    来自:RUC AI Box 导读 下面论文列表为本小组同学推荐和整理,关于论文细节请联系论文作者。内容涵盖以下研究方向:文本生成、知识库问答、对话系统、推荐系统、情感分析、风格迁移。 本周论文推荐 1 文本生成 code2seq: Generating Sequences from Structured Representations of Code. SIGIR 2019 2 知识库问答 Asking Clarification Questions in Knowledge-Based Question Answering. SIGIR 2019 4 推荐系统 Adversarial Training for Review-Based Recommendations.

    90730发布于 2019-12-05
  • 来自专栏用户6881919的专栏

    论文阅读2-----基于强化学习的推荐系统

    Reinforcement Learning with a Disentangled Universal Value Function for Item Recommendation AAAI 强化学习应用到推荐系统的三个主要问题 2.High-variance environment 不想游戏中environment比较固定,推荐系统的环境更加的难以观察,并且reward来源于human更难得打分。 3.unspecific reward setting in recommendation: 不像GYM中reward已经由环境设定好了,推荐系统中的reward来源于human的评分。

    1.1K70发布于 2021-01-14
  • 来自专栏CreateAMind

    GAN论文解读推荐

    今天开篇就来介绍我一直很关注也一直在做的 GAN 方面的部分论文(不是全部,分批介绍吧)。 今天会介绍的论文有(全部来自 ICLR 2017 submissions): 1. Tong Che, Yanran Li, Athul Jacob, Yoshua Bengio, Wenjie Li 2. Junbo Zhao, Michael Mathieu, Yann LeCun ................为此,这篇论文[1] 提出一种 mode-regularized 的思想,来增加对 GAN 所以,这篇论文[1] 给出的是一种 rugularizer for GAN,而用这样的 regularizer 的 GAN 就被作者叫做 Regularized-GAN(在实验中)。..........

    61530发布于 2018-07-25
  • 来自专栏AI 算法笔记

    【每周CV论文推荐】 CV领域中数据增强相关的论文推荐

    欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 数据增强在每一个深度学习项目中都是必要的操作,今天给大家推荐在计算机视觉中常用的数据增强相关的论文。 convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014. 2 往期精选 【每周论文推荐】 初入深度学习CV领域必读的几篇文章 【每周CV论文推荐】 掌握残差网络必读的10多篇文章 【每周CV论文推荐】 初学者必须精读的5篇深度学习优化相关文章 【每周NLP论文推荐 】从预训练模型掌握NLP的基本发展脉络 【每周NLP论文推荐】 NLP中命名实体识别从机器学习到深度学习的代表性研究 【每周NLP论文推荐】 介绍语义匹配中的经典文章

    1.2K30发布于 2019-08-21
  • 来自专栏DeepHub IMBA

    论文推荐:Rethinking Attention with Performers

    重新思考的注意力机制,Performers是由谷歌,剑桥大学,DeepMind,和艾伦图灵研究所发布在2021 ICLR的论文已经超过500次引用 传统的Transformer的使用softmax 注意力 Performer 几乎达到线性时间和次二次的内存消耗(因为显式O(L2)注意矩阵没有存储)。通过比较“X”,Performer实现了几乎最佳的加速和内存效率。 根据硬件(TPU 或 GPU),还发现通过针对 (U) 设置的 Jax 优化,Performer 可以比 Reformer 快 2 倍。 论文地址: [2021 ICLR] [Performer]Rethinking Attention with Performers https://openreview.net/forum?

    77130编辑于 2023-02-01
  • 来自专栏数据挖掘与AI算法

    【翻译】经典推荐算法论文

    上周有粉丝私信老shi想要找推荐系统相关的论文,刚好这两天老shi无意中在b站上观看了国内某知名大学教授关于目前博士生就业问题相关论文解说的视频,感觉很有意思,就萌生了给大家翻译一篇经典的推荐系统论文的想法 这篇论文可谓是一篇比较早的经典的基于Item-to-Item(商品-商品)的协同过滤论文了。 如图2所示,即我们的购物车推荐,以其购物车中的商品为基础,向顾客给出产品建议。这一特性与超市结账台路线上的冲动购买类商品很类似,但我们的冲动购买类商品定向到每位顾客。 ? I1 和I2 For 每件商品I2 计算相似度 在 I1 与 I2 之间 计算两个商品之间的相似性可以有多种方法,但通常的方法是利用我们前面描述的余弦值,其中每个向量对应于一件商品而不是一位顾客,并且向量的 由于该算法能推荐高度关联的相似商品,推荐的质量就很出色。与传统的协同过滤不同,该算法在用户数据有限的情况下也能运行良好,在少至2到3件商品的基础上,产生高质量的推荐

    1.4K30发布于 2021-04-09
  • 来自专栏量化投资与机器学习

    近期因子研究论文推荐

    公众号拥有来自公募、私募、券商、期货、银行、保险、高校等行业30W+关注者,荣获2021年度AMMA优秀品牌力、优秀洞察力大奖,连续2年被腾讯云+社区评选为“年度最佳作者”。 论文打包带走!!! 后台回复:因子研究论文

    84410编辑于 2022-08-26
  • 来自专栏数据派THU

    论文推荐:Rethinking Attention with Performers

    重新思考的注意力机制,Performers是由谷歌,剑桥大学,DeepMind,和艾伦图灵研究所发布在2021 ICLR的论文已经超过500次引用。 Performer 几乎达到线性时间和次二次的内存消耗(因为显式O(L2)注意矩阵没有存储)。通过比较“X”,Performer实现了几乎最佳的加速和内存效率。 根据硬件(TPU 或 GPU),还发现通过针对 (U) 设置的 Jax 优化,Performer 可以比 Reformer 快 2 倍。 论文地址: [2021 ICLR] [Performer]Rethinking Attention with Performers https://openreview.net/forum?

    58820编辑于 2023-03-29
  • 来自专栏有三AI

    【每周NLP论文推荐】 聊天机器人中FAQ相关的论文推荐

    今天推荐FAQ相关的论文,FAQ是聊天机器人的一种,它主要是基于用户的question,匹配相应的答案,返回给用户answer,没有太多的多轮交互。FAQ有较多的应用,如天猫精灵,小度等。 本篇论文还介绍了The Ubuntu Dialogue Corpus数据集,可以用于FAQ的研究。 文章引用量:100+ 推荐指数:✦✦✦✦✦ ? Computer Science, 2015. 2 基于LSTM和CNN的匹配模型 随着NLP的发展,LSTM和CNN开始引入,作为特征提取层。如下图所示,特征提取之后,再计算相似度。 因为BERT是趋势,这里介绍一篇基于BERT的FQA论文。 文章引用量:80+ 推荐指数:✦✦✦✦✧ ? ? [2] Tan M , Santos C D , Xiang B , et al. 如下图所示,基本的模式类似,只是在特征提取时,用了BERT,具体细节,感兴趣的同学可以看论文。 文章引用量:较少 推荐指数:✦✦✦✦✧ ?

    1.4K10发布于 2019-09-03
  • 来自专栏GAN&CV

    值得精读的GAN论文推荐

    前言 本文主要推荐一些生成对抗网络(GAN,generative adversarial networks)相关的值得精读的论文,主要涉及GAN的优化,图像翻译,视频预测三个领域,可以作为GAN 2. 网络完成训练后,足以生成2K分辨率真假难辨的图像。 图像翻译 图像翻译任务是指将图像从一个域转到另一个域,比如:风格迁移,图像上色,图像转换等等,代表作主要是pix-2-pix系列。 论文推荐顺序既可以用来快速查找,也可以用来作为进阶的阅读顺序,人力有时穷,还有更多未提到的较好工作,欢迎补充。

    73920发布于 2019-02-25
  • 来自专栏深度学习自然语言处理

    本周论文推荐(12.14-12.20)

    导读 下面论文列表为本小组同学推荐和整理,关于论文细节请联系论文作者。内容涵盖以下研究方向:对抗生成网络、知识图谱补全、推荐系统、文本生成、元学习。 来自:RUC AI Box 实验室 本周论文推荐 1 对抗生成网络 Social-BiGAT: Multimodal Trajectory Forecasting using Bicycle-GAN NeurIPS 2019 2 知识图谱补全 Collaborative Policy Learning for Open Knowledge Graph Reasoning. EMNLP 2019 3 推荐系统 Reinforcement Knowledge Graph Reasoning for Explainable Recommendation.

    89910发布于 2019-12-26
  • 来自专栏量化投资与机器学习

    AQR:机器学习相关论文推荐

    公众号拥有来自公募、私募、券商、期货、银行、保险、高校等行业30W+关注者,连续2年被腾讯云+社区评选为“年度最佳作者”。 今天的推荐来自AQR,是关于机器学习论文推荐。 一共五篇论文,每篇都是经典,都值得仔细阅读:文末附下载。 获奖者是从The Journal of Investment Management 2020年发表的论文中选出的。   资产管理中,机器学习面临着一系列独特的挑战,与机器学习擅长的其他领域明显不同。 论文下载方式 后台回复:AQR2022

    1.2K20编辑于 2022-03-03
  • 来自专栏机器学习算法与Python学习

    论文推荐 | 生成对抗网络GAN论文TOP 10

    for Training GANs Conditional GANs Progressively Growing GANs  BigGAN StyleGAN CycleGAN  Pix2Pix  StackGAN Networks Alec Radford, Luke Metz, Soumith Chintala https://arxiv.org/abs/1511.06434 2、改进 GAN 训练的技术 — Efros https://arxiv.org/abs/1703.10593 8、Pix2Pix — Isola et al. (2016) Pix2Pix 是另一种图像到图像转换的 GAN 模型。 Pix2Pix 有很多很酷的应用,比如将草图转换成逼真的照片。 ? 这篇论文定义了 GAN 框架,并讨论了 “非饱和” 损失函数。论文还给出了最优判别器的推导,这是近年来 GAN 论文中经常出现的一个证明。

    2.3K30发布于 2019-07-04
  • 来自专栏有三AI

    【每周NLP论文推荐】 知识图谱重要论文介绍

    欢迎来到《每周NLP论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 知识图谱是NLP中非常重要的底层基础建筑。 [2] 黄恒琪, 于娟, 廖晓, et al. 知识图谱研究综述[J]. 计算机系统应用, 28(6). 2 OWL OWL是一种本体描述语言,广泛应用于知识图谱的本体描述架构中,感兴趣的同学可以看以下。 文章引用量:100+ 推荐指数:✦✦✦✦✧ ? 目前的趋势都是采用联合抽取的方式,这里介绍2篇比较典型的论文。 文章引用量:20+ 推荐指数:✦✦✦✦✦ ? [5] Zheng S , Wang F , Bao H , et al. 文章引用量:10+ 推荐指数:✦✦✦✦✦ ? [7] Bosselut A , Rashkin H , Sap M , et al.

    1.1K40发布于 2019-10-10
  • 来自专栏机器学习与推荐算法

    最新推荐系统论文速递

    检索到了两篇关于推荐系统的论文,一篇是关于在知识图上改进负采样策略的,另一篇是在图上进行对抗学习的综述。 Reinforced Negative Sampling over Knowledge Graph for Recommendation 关键字:强化学习+知识图+矩阵分解 概述:正确处理缺失数据是推荐场景中的一项基本挑战 目前的大多数工作都是从未观察到的数据中进行负采样,从而为推荐模型的训练提供负样本。但是,现有的静态或自适应负采样策略不足以产生高质量的负采样,也不利于模型训练和反映用户的实际需求。 具体而言,通过执行设计的探索操作,它可以从目标正互动中导航,自适应地接收具有知识意识的负信号,并最终产生潜在的负样本来训练推荐系统。

    93221发布于 2020-04-21
  • 来自专栏null的专栏

    推荐系统——(论文阅读笔记)YouTube的视频推荐系统

    《The YouTube video recommendation system》是一篇详细介绍YouTube视频推荐论文,在整个系统中没有复杂的算法,使用了一些简单有效的策略,这也符合工业界的应用, 以下是论文的核心内容: 目标 帮助用户找到高质量且符合用户兴趣的视频,最终实现的是Top-N推荐。 总的思想 利用用户的互动行为数据,推荐与互动过视频相似的视频。 相似视频的挖掘 1、概念 相似视频指的是:当给定视频 后,用户更有可能观看的视频组成的集合 ,公式如下所示: 其中: :种子视频 :与视频 相似的视频的集合 2、方法 关联规则 ,即推荐的视频与种子视频相似度极高,这对推荐来说不能满足多样性的要求。 2、二级 以一级产生的候选 作为种子,产生 。

    2.1K31编辑于 2022-03-04
领券