首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏数据派THU

    ICLR 2022的10论文推荐

    来源:DeepHub IMBA本文约4800字,建议阅读10+分钟本文与你分享ICLR 2022的机器学习研究相关论文。 消息传递的神经网络(MPNN)的表现力有限,所以论文提出了一个基于将图表表示为多组子图并使用一种等变结构对其进行处理。 如何知道两个图是否相同? 论文提出了一种叫Perceiver IO通用架构,可以处理来自任意设置的数据,同时随输入和输出的大小进行线性缩放。 我们经常强调论文,因为这无疑是该领域必须解决的重要问题之一:在哪里添加参数和数据就不再有用了?结论差不多就是“当我们增加上游的准确性时,下游任务的表现就会饱和”。 论文研究了上游任务(如大规模ImageNet标签)的训练前表现如何转移到下游(DS)任务(如鲸鱼检测)。

    61240编辑于 2022-05-18
  • 来自专栏DeepHub IMBA

    ICLR 2022的10论文推荐

    它是世界机器学习研究世界上最大,最受欢迎的会议之一:它包含超过一千篇有关主题的论文,包括ML理论,强化学习(RL),计算机视觉(CV),自然语言处理(NLP),神经科学等。 消息传递的神经网络(MPNN)的表现力有限,所以论文提出了一个基于将图表表示为多组子图并使用一种等变结构对其进行处理。 如何知道两个图是否相同? 论文提出了一种叫Perceiver IO通用架构,可以处理来自任意设置的数据,同时随输入和输出的大小进行线性缩放。 论文研究了上游任务(如大规模ImageNet标签)的训练前表现如何转移到下游(DS)任务(如鲸鱼检测)。 id=uxxFrDwrE7Y 10、Autonomous Reinforcement Learning: Formalism and Benchmarking Archit Sharma, Kelvin

    44320编辑于 2022-06-04
  • 来自专栏机器学习算法与Python学习

    论文推荐 | 生成对抗网络GAN论文TOP 10

    新智元报道 来源:towardsdatascience 作者:Connor Shorten 编辑:肖琴 本文选择的 10 篇 GAN 论文包括:  DCGANs  Improved Techniques 不过,这篇论文对构成当前最先进技术水平的基础论文的思想提供了很好的概述,因此非常值得阅读。 ? Li, Shaoting Zhang, Xiaogang Wang, Xiaolei Huang, Dimitris Metaxas https://arxiv.org/abs/1612.03242 10 这篇论文定义了 GAN 框架,并讨论了 “非饱和” 损失函数。论文还给出了最优判别器的推导,这是近年来 GAN 论文中经常出现的一个证明。 论文还在 MNIST、TFD 和 CIFAR-10 图像数据集上对 GAN 的有效性进行了实验验证。 论文: Generative Adversarial Networks Ian J.

    2.3K30发布于 2019-07-04
  • 来自专栏DeepHub IMBA

    2022年8月的10论文推荐

    很久没有推荐论文了,但是在推荐论文之前,首先推荐一个新闻: 谷歌分享了公司内部如何使用代码生成案例,3%的新代码是由语言模型(Language Model)、DeepSpeed (DeepSpeed) 我们回到正题,本次推荐10论文包括:强化学习(RL)、缩放定律、信息检索、语言模型等。 他们在这篇论文中提出了一个新的衡量标准,可以与现有的需要标记数据的工作相媲美。 这篇论文中最有趣的贡献是他们关于无标签数据修剪的部分。 Calibration 是机器学习中的概念,用于表明一个模型的预测置信度有多好(例如,一个具有90%确定性输出的完美校准模型应该是正确的9/10次,不少也不会不多)。 10、ZeroC: A Neuro-Symbolic Model for Zero-shot Concept Recognition and Acquisition at Inference Time

    42620编辑于 2022-11-11
  • 来自专栏DeepHub IMBA

    2021 年 10推荐阅读的10篇精选ML论文

    幸运的是,学者们经常关注这一点,传统上大多数揭示事实的论文都来自大学,就像我们很快就会看到的那篇。 下面进入到我们的推荐环节: A Battle of Network Structures: An Empirical Study of CNN, Transformer, and MLP By Yucheng 这篇论文的缺点也是它的优点:为进一步优化他们的实验而付出的有限的范围和努力。 另一篇相关的推荐 :Sparse MLP for Image Recognition: Is Self-Attention Really Necessary? 这本纸质书包含了很多内容:概述、介绍和论文,内容涉及在大量数据的监督下训练的大型神经模型的新兴领域,为此,它们被称为基础模型。

    57120发布于 2021-10-09
  • 来自专栏DeepHub IMBA

    2022 年 4 月 10篇 ML 研究论文推荐

    NVidia 的新 H100 GPU已经发布了,我们也很久没有发论文推荐了,这是4月份的论文推荐:Google 的 5400 亿参数 PaLM、Pathways、Kubric、Tensor Programs 论文的这项工作展示了如何更有效地完成超参数调整。 为了训练神经网络,必须选择合适的超参数。 例如,作者展示了一个比GPT-3小10倍的模型如何在足够大的语料库上训练时实现性能均等。 由此产生的模型系列被命名为 Chinchilla。 10、Make-A-Scene: Scene-Based Text-to-Image Generation with Human Priors By Oran Gafni et al. Transformers for High-Resolution Image Synthesis” by Patrick Esser, Robin Rombach, and Björn Ommer; 2020. [10

    63020编辑于 2022-04-14
  • 来自专栏深度学习自然语言处理

    论文】本周论文推荐(11.23-11.29)

    来自:RUC AI Box 导读 下面论文列表为本小组同学推荐和整理,关于论文细节请联系论文作者。内容涵盖以下研究方向:文本生成、知识库问答、对话系统、推荐系统、情感分析、风格迁移。 本周论文推荐 1 文本生成 code2seq: Generating Sequences from Structured Representations of Code. SIGIR 2019 4 推荐系统 Adversarial Training for Review-Based Recommendations.

    90730发布于 2019-12-05
  • 来自专栏CreateAMind

    GAN论文解读推荐

    今天开篇就来介绍我一直很关注也一直在做的 GAN 方面的部分论文(不是全部,分批介绍吧)。 今天会介绍的论文有(全部来自 ICLR 2017 submissions): 1. Junbo Zhao, Michael Mathieu, Yann LeCun ................为此,这篇论文[1] 提出一种 mode-regularized 的思想,来增加对 GAN 所以,这篇论文[1] 给出的是一种 rugularizer for GAN,而用这样的 regularizer 的 GAN 就被作者叫做 Regularized-GAN(在实验中)。..........

    61530发布于 2018-07-25
  • 来自专栏arXiv每日学术速递

    ⾃然语⾔处理——文本匹配必读论⽂推荐10篇【附论文PDF】

    今天给大家整理的10篇自然语言处理经典论文——文本匹配的,希望对大家的学习有所帮助! Convolutions SemBERT使用BERT融合上下文语义信息实现文本匹配的模型 Semantics-aware BERT for Language Understanding 那么,这些文本匹配的论文怎样才能又好又快地吃透呢

    93221编辑于 2022-05-23
  • 来自专栏DeepHub IMBA

    10月发布的5篇人工智能论文推荐

    而这篇论文介绍了MDM (Matryoshka Diffusion),一个用于高分辨率图像和视频合成的端到端框架。 Transformers at Scale https://arxiv.org/pdf/2310.16764.pdf 与普遍认为Vision transformer主要在网络规模的数据集上优于ConvNets的观点相反,论文通过评估在 论文还提出了一个基准ALCUNA来评估LLM在知识理解、区分和关联方面的能力。基准测试结果也显示,当引入新知识时,LLM的性能并不令人满意。 这篇论文引入了一种新的不需要训练的框架——Woodpecker 来解决这个问题。值得注意的是,它是第一个提出使用这种方法下对视幻觉采用矫正的论文。这个框架每个步骤的都清晰和透明,增强了可解释性。

    44241编辑于 2023-11-06
  • 来自专栏AI 算法笔记

    【每周CV论文推荐】 CV领域中数据增强相关的论文推荐

    欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 数据增强在每一个深度学习项目中都是必要的操作,今天给大家推荐在计算机视觉中常用的数据增强相关的论文。 作者&编辑 | 言有三 1 裁剪缩放增强 在AlexNet中采用了四个角加中心裁剪以及翻转的方法,在测试的时候使用了10个不同的输入图最后将结果平均,这是很简单而且很重要的融合技巧。 往期精选 【每周论文推荐】 初入深度学习CV领域必读的几篇文章 【每周CV论文推荐】 掌握残差网络必读的10多篇文章 【每周CV论文推荐】 初学者必须精读的5篇深度学习优化相关文章 【每周NLP论文推荐 】从预训练模型掌握NLP的基本发展脉络 【每周NLP论文推荐】 NLP中命名实体识别从机器学习到深度学习的代表性研究 【每周NLP论文推荐】 介绍语义匹配中的经典文章

    1.2K30发布于 2019-08-21
  • 来自专栏有三AI

    【每周CV论文推荐】 掌握残差网络必读的10多篇文章

    欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 文章引用量:较少 推荐指数:✦✦✦✧✧ ? [1] Schraudolph N. Technical report/IDSIA, 1998, 98. 2 早期残差网络探索 既然残差思想早就诞生了,不可能没有大佬注意这个问题,2012年的时候Raiko,LeCun等人就在论文[2]中更加细致地研究了 文章引用量:较少 推荐指数:✦✦✦✦✧ ? [7] Orhan A E, Pitkow X. Wide residual networks[J]. arXiv preprint arXiv:1605.07146, 2016. [10] Xie S, Girshick R, Dollár P, et

    70820发布于 2019-08-06
  • 来自专栏AI 算法笔记

    【每周CV论文推荐】 掌握残差网络必读的10多篇文章

    欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。 文章引用量:较少 推荐指数:✦✦✦✧✧ ? [1] Schraudolph N. Technical report/IDSIA, 1998, 98. 2 早期残差网络探索 既然残差思想早就诞生了,不可能没有大佬注意这个问题,2012年的时候Raiko,LeCun等人就在论文[2]中更加细致地研究了 文章引用量:较少 推荐指数:✦✦✦✦✧ ? [7] Orhan A E, Pitkow X. Wide residual networks[J]. arXiv preprint arXiv:1605.07146, 2016. [10] Xie S, Girshick R, Dollár P, et

    91830发布于 2019-08-16
  • 来自专栏DeepHub IMBA

    论文推荐:Rethinking Attention with Performers

    重新思考的注意力机制,Performers是由谷歌,剑桥大学,DeepMind,和艾伦图灵研究所发布在2021 ICLR的论文已经超过500次引用 传统的Transformer的使用softmax 注意力 论文地址: [2021 ICLR] [Performer]Rethinking Attention with Performers https://openreview.net/forum?

    77130编辑于 2023-02-01
  • 来自专栏数据挖掘与AI算法

    【翻译】经典推荐算法论文

    上周有粉丝私信老shi想要找推荐系统相关的论文,刚好这两天老shi无意中在b站上观看了国内某知名大学教授关于目前博士生就业问题相关论文解说的视频,感觉很有意思,就萌生了给大家翻译一篇经典的推荐系统论文的想法 本期课程老shi决定给大家带来一篇2003年亚马逊曾经发表过的论文《Amazon.com Recommendations Item-to-Item Collaborative Filtering》翻译, 这篇论文可谓是一篇比较早的经典的基于Item-to-Item(商品-商品)的协同过滤论文了。 我们的算法实时产生推荐,适用于海量数据集,并产生高质量的推荐推荐算法 大多数推荐算法都从找顾户数据集开始,他们买过和评论过的商品,与当前用户买过和评论过的商品有重叠。 点击“你的推荐”链接,会把顾客引导到一个区域,在那里顾客可以通过产品线和主题领域,进行推荐的筛选,为被推荐的商品进行评级,为以前的购买进行评级,并查看为什么这些商品被推荐了(见图1)。 ?

    1.4K30发布于 2021-04-09
  • 来自专栏量化投资与机器学习

    近期因子研究论文推荐

    论文打包带走!!! 后台回复:因子研究论文

    84410编辑于 2022-08-26
  • 来自专栏数据派THU

    论文推荐:Rethinking Attention with Performers

    重新思考的注意力机制,Performers是由谷歌,剑桥大学,DeepMind,和艾伦图灵研究所发布在2021 ICLR的论文已经超过500次引用。 论文地址: [2021 ICLR] [Performer]Rethinking Attention with Performers https://openreview.net/forum?

    58820编辑于 2023-03-29
  • 来自专栏有三AI

    【每周NLP论文推荐】 聊天机器人中FAQ相关的论文推荐

    今天推荐FAQ相关的论文,FAQ是聊天机器人的一种,它主要是基于用户的question,匹配相应的答案,返回给用户answer,没有太多的多轮交互。FAQ有较多的应用,如天猫精灵,小度等。 本篇论文还介绍了The Ubuntu Dialogue Corpus数据集,可以用于FAQ的研究。 文章引用量:100+ 推荐指数:✦✦✦✦✦ ? 因为BERT是趋势,这里介绍一篇基于BERT的FQA论文。 文章引用量:80+ 推荐指数:✦✦✦✦✧ ? ? [2] Tan M , Santos C D , Xiang B , et al. 文章引用量:较少 推荐指数:✦✦✦✦✦ ? [4] Xiangyang Zhou , Daxiang Dong, et al . 如下图所示,基本的模式类似,只是在特征提取时,用了BERT,具体细节,感兴趣的同学可以看论文。 文章引用量:较少 推荐指数:✦✦✦✦✧ ?

    1.4K10发布于 2019-09-03
  • 来自专栏GAN&CV

    值得精读的GAN论文推荐

    前言 本文主要推荐一些生成对抗网络(GAN,generative adversarial networks)相关的值得精读的论文,主要涉及GAN的优化,图像翻译,视频预测三个领域,可以作为GAN 在损失函数的优化论文方面,效果比较突出且使用较多的主要有三篇论文,分别是:lsgan, wgan-gp, 谱归一化GAN: Improved training of Wasserstein GANs : pose knows: Video forecasting by generating pose futures. : https://arxiv.org/abs/1705.00053 总结 本文主要推荐了一些 论文推荐顺序既可以用来快速查找,也可以用来作为进阶的阅读顺序,人力有时穷,还有更多未提到的较好工作,欢迎补充。 ,就可以查找希望看到的论文

    73920发布于 2019-02-25
  • 来自专栏深度学习自然语言处理

    本周论文推荐(12.14-12.20)

    导读 下面论文列表为本小组同学推荐和整理,关于论文细节请联系论文作者。内容涵盖以下研究方向:对抗生成网络、知识图谱补全、推荐系统、文本生成、元学习。 来自:RUC AI Box 实验室 本周论文推荐 1 对抗生成网络 Social-BiGAT: Multimodal Trajectory Forecasting using Bicycle-GAN EMNLP 2019 3 推荐系统 Reinforcement Knowledge Graph Reasoning for Explainable Recommendation.

    90010发布于 2019-12-26
领券