- 综合排序
- 最热优先
- 最新优先
- 来自专栏自然语言处理(NLP)论文速递
谷歌DeepMind发布Gecko：专攻检索，与大7倍模型相抗衡
不同于以往，最近的研究重点不是为每个下游任务构建单独的嵌入模型，而是寻求创建支持多个任务的通用嵌入模型。 然而，通用文本嵌入模型面临这样一个挑战：这些模型需要大量的训练数据才能全面覆盖所需的领域，研究主要集中在使用大量的训练示例来解决所面临的挑战。 为了回答这一问题，本文来自谷歌 DeepMind 的研究者提出了 Gecko，这是一种从 LLM 中蒸馏出来的多功能文本嵌入模型，其在 LLM 生成的合成数据集 FRet 上进行训练，并由 LLM 提供支持 具有 768 个嵌入维度的 Gecko 的平均得分为 66.31，在与 7 倍大的模型和 5 倍高维嵌入进行比较时，取得了相竞争的结果。 值得注意的是，这些模型都使用 3-4k 嵌入维度并且参数均超过 7B。此外，该研究还观察到 Gecko 在分类、STS 和摘要方面达到了新的 SOTA 水平。 多语言检索结果。
28310编辑于 2024-04-12 - 来自专栏机器之心
谷歌DeepMind发布Gecko：专攻检索，与大7倍模型相抗衡
不同于以往，最近的研究重点不是为每个下游任务构建单独的嵌入模型，而是寻求创建支持多个任务的通用嵌入模型。 然而，通用文本嵌入模型面临这样一个挑战：这些模型需要大量的训练数据才能全面覆盖所需的领域，研究主要集中在使用大量的训练示例来解决所面临的挑战。 为了回答这一问题，本文来自谷歌 DeepMind 的研究者提出了 Gecko，这是一种从 LLM 中蒸馏出来的多功能文本嵌入模型，其在 LLM 生成的合成数据集 FRet 上进行训练，并由 LLM 提供支持 具有 768 个嵌入维度的 Gecko 的平均得分为 66.31，在与 7 倍大的模型和 5 倍高维嵌入进行比较时，取得了相竞争的结果。 值得注意的是，这些模型都使用 3-4k 嵌入维度并且参数均超过 7B。此外，该研究还观察到 Gecko 在分类、STS 和摘要方面达到了新的 SOTA 水平。 多语言检索结果。
44510编辑于 2024-04-12 谷歌transformer模型简单介绍
谷歌的Transformer模型（2017年提出）是一种基于自注意力机制的神经网络架构，取代了传统的RNN和CNN，能并行处理序列数据。 该模型成为BERT、GPT等现代NLP技术的基础，并扩展至多模态领域。 RNN: 循环神经网络，Recurrent Neural NetworkCNN: 卷积神经网络，Convolutional Neural NetworkBERT: 谷歌2018年提出的预训练语言模型 7. 实际应用中需扩展解码器、添加掩码机制和训练循环才能构建完整模型。
1.1K10编辑于 2025-07-04谷歌AI模型解码海豚通信
这个约4亿参数的模型经过优化，可直接在WDP野外使用的Pixel手机上运行。该模型基于Gemma系列的见解，并在WDP的声学数据库上进行了广泛训练。 DolphinGemma作为一个音频输入、音频输出的模型，处理自然海豚声音序列以识别模式和结构，最终预测序列中接下来可能出现的声音，类似于人类语言大语言模型预测句子中的下一个词。 下一代以Pixel 9为中心，通过集成扬声器/麦克风功能，并使用手机的高级处理同时运行深度学习模型和模板匹配算法。 与研究社区共享DolphinGemma计划在今年夏天将DolphinGemma作为开放模型共享。 虽然该模型是在大西洋斑海豚声音上训练的，但预计它对研究其他鲸类物种（如宽吻海豚或长吻飞旋海豚）的研究人员也有用。针对不同物种的发声可能需要进行微调，而模型的开放性有助于这种适应。FINISHED
9410编辑于 2026-04-07- 来自专栏DeepHub IMBA
谷歌新语言模型Switch Transformer
Switch Transformer发布前，谷歌的T5模型一直是多个NLP基准上的记录保持者，但是最近被它自己的Switch Transformer超越。 并非所有的知识一直都是有用的。 在项目总结时这种观察在某种程度上是显而易见的，根据这个观点，谷歌大脑创建了新的Switch Transformer 。 Switch Transformer因其一万亿参数而得到媒体的报道。 对于谷歌的公司规模，这一成就并不难预料;主要的基础模块(Tensorflow, Mesh, Tensorflow, TPUs)已经存在了一段时间。 复制FFN权重而不是模型的其他参数(如自我注意中的键/查询/值矩阵)的决定似乎是实验性的。作者论文说，他们试图在模型的其他部分增加专家，结果导致训练不稳定。 模型如何决定启用哪位专家? 例如，Switch-Base模型在缩短约7倍的时间内即可达到完全融合的T5-Base模型的LM性能。
1.2K20发布于 2021-02-12 - 来自专栏学习笔记持续记录中...
处理模型数据（7）
Spring MVC提供了以下几种途径输出模型数据： ModelAndView 控制器处理方法的返回值是ModelAndView，则其既包含视图信息，也包含模型数据信息 // success.jsp 返回的目标页面 ; return modelAndView; } } Map&Model Spring MVC 在内部使用了一个org.springframework.ui.Model接口存储模型数据 ，具体步骤： 1）SpringMVC在调用方法前会创建一个隐含的数据模型，作为模型数据的存储容器， 成为”隐含模型” 2）如果方法的入参类型为Map或Model，会将隐含模型的引用传递给这些入参。 3）在方法体内，可以通过这个入参对象访问到模型中的所有数据，也可以向模型中添加新的属性数据 Spring Web MVC 提供Model、Map或ModelMap让我们能去暴露渲染视图需要的模型数据。 @SessionAttributes 除了可以通过属性名指定需要放到会话中的属性处，还可以通过模型属性的对象类型指定哪些模型属性需要放到会话中 @SessionAttributes(types=User.class
50500发布于 2020-03-18 - 来自专栏大数据文摘
因为这个模型，谷歌要完？
直到这几天，一个重磅看似与搜索无关的AI模型的诞生，却大有撼动谷歌搜索地位的趋势... 这是一个在Twitter上特别火的帖子，目前已获得3千多次转推： Google is done. 谷歌时代结束了。 这条Twitter的博主搜索了一些它日常请教谷歌的问题（query），却发现OpenAI刚刚发布的“AI对话模型ChatGPT”的回答，完爆了谷歌搜索结果。。。 ChatGPT模型Demo测试地址： https://chat.openai.com/chat 推特用户@jdjkelly的推文 [1] 还表示，它发现对于代码开发类的搜索query，ChatGPT的回答强势的完爆了谷歌 这篇文章的作者将预训练大模型类比为人脑和传统的数据库，都是数据储存的一个媒介。而在进行数据检索的时候，人脑依靠的是思考，数据库依靠的是 SQL 语言，而预训练大模型则依靠的是 prompt。 短短2个月前学界还在质疑 prompt 是否能够完全达到“所查即所得”的效果，也就是说，下游任务并不知道使用何种 prompt 可以更好地从大模型中获取想要的结果。
40620编辑于 2023-04-10 - 来自专栏云云众生s
谷歌Gemini语言模型入门指南
本文向您介绍两种访问谷歌Gemini语言模型的途径:Vertex AI和Google AI Studio，并详细阐述每种方法的使用入门指南。 在我之前的文章中，我介绍了谷歌的多模态生成 AI 模型 Gemini 的关键功能。在这篇文章中，我将带领大家了解如何访问这个模型。 $ gcloud init $ gcloud auth application-default login 您会看到浏览器窗口弹出，要求您的谷歌凭据来完成认证过程。 通过 Google AI Studio 访问 Gemini Google AI Studio 是一个探索谷歌提供的生成式 AI 模型的游乐场。任何拥有谷歌账户的人都可以登录进行模型实验。 print(response.text) 计算令牌数以估计成本 根据谷歌的说法，文本输入的费用是根据输入(提示 prompt)的每个 1，000 个字符和输出(响应 response)的每个 1，000
1.8K10编辑于 2024-03-28 - 来自专栏云云众生s
Go中使用谷歌Gemini模型
这篇文章是如何使用 Go SDK 快速入门，以向模型提出混合文本和图像的问题的概述。 译自 Using Gemini models from Go。作者 Eli Bendersky 。 任务 我们将要求模型解释两张龟的图像之间的区别，这张： 和这张： 使用 Google AI SDK 使用 Google AI SDK，您只需生成一个 API 密钥（与 OpenAI 的 API 类似）即可访问模型 当我们运行此示例时，模型的响应会以 JSON 对象的形式输出。
65810编辑于 2024-03-28 - 来自专栏Java面试教程
谷歌大模型-Gemini快速开始
引言 近期相信大家和了不起一样，都听说了谷歌大模型：Gemini Gemini官网 访问官方网站 官网地址：https://ai.google.dev 官方已经提供了体验入口，大家可以很方便地体验谷歌发布的最大且能力最强的 在右侧列的模型字段中，选择支持图像的模型，例如 Gemini Pro Vision 模型。 第 3 步 - 用模型参数进行实验 在对提示进行原型设计时，您还可以在应用右侧试用模型运行设置。以下是需要了解的关键设置： 模型 - 选择您要回答问题的模型。 如需详细了解可用的模型和功能，请参阅模型。 温度 - 控制模型响应可以允许多大程度的随机性。提高此值可让模型生成更意外且更具创造性的响应。 最大输出 - 增加模型为每个请求返回的响应数。 总结 今天了不起带大家看了下谷歌大模型Gemini，有条件的可以试一下。 参考：https://ai.google.dev/tutorials/ai-studio_quickstart
8.3K11编辑于 2023-12-20 - 来自专栏量子位
谷歌计划今年实现“量子霸权”，使用7×7量子位阵列
现在，来自加州Goleta谷歌实验室的研究人员正准备使用数十个量子位来证明这一点。谷歌想要今年就实现“量子霸权”。 这支团队计划，在今年年底之前，将集成电路中的超导量子位数量提升至7x7阵列。 凭借这种量子集成电路，谷歌研究员希望展示，最强大的超级计算机能带来什么样的性能，从而证明“量子霸权”。 他于2014年加入了谷歌。 49个超导量子位距离物理学家设想中用于实际计算的规模还有很远，而这也是长期以来驱动量子计算研究的动力。 在49个量子位的系统中，谷歌并没有开发额外的基础设施。这意味着，如果希望证明量子霸权，那么必须采取不同的计算方式。 谷歌则希望明确展示“量子霸权”，而不是纠缠于无意义的争论。
69290发布于 2018-03-29 - 来自专栏python前行者
Centos7 安装谷歌浏览器
google-chrome-stable_current_x86_64.rpm warning: google-chrome-stable_current_x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID 7fac5991 epel-release (the "extras" must be enabled) yum install libappindicator-gtk3 你还可以epel-release-7- 11.noarch.rpm从https://mirrors.dotsrc.org/fedora-epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm
4.7K41发布于 2019-03-25 - 来自专栏机器之心
7 Papers & Radios | 谷歌推出DreamBooth扩散模型；张益唐零点猜想论文出炉
机器之心 & ArXiv Weekly Radiostation 参与：杜伟、楚航、罗若天 本周论文包括：谷歌提出 DreamBooth 扩散模型，只需 3-5 个样本和一句提示，AI 就能生成高质量图像 推荐：只需 3 个样本一句话，AI 就能定制照片级图像，谷歌在玩一种很新的扩散模型 论文 2：Discrete mean estimates and the Landau-Siegel zero 作者： 来自谷歌的研究团队近日做了一项名为「Infinite Nature」的研究工作，该研究表明计算机可以通过观看自然视频和照片来学习生成丰富的 3D 视觉体验。 谷歌将主要研究问题称为「永久型视图生成（perpetual view generation）」，即给定场景的单个输入视图，按照给定的相机路径，合成照片级真实的输出视图集。 Mooney) 7. Soft Augmentation for Image Classification.
1K30编辑于 2022-12-16 - 来自专栏新智元
解读谷歌最强NLP模型BERT：模型、数据和训练
---- 新智元专栏 作者：潘晟锋（追一科技算法高级研究员） 【新智元导读】近日，谷歌AI团队新发布的BERT模型，在NLP业内引起巨大反响，认为是NLP领域里程碑式的进步。 最近谷歌研究人员通过新的BERT模型在11项NLP任务中夺得STOA结果，这在自然语言处理学界以及工业界都引起了不小的热议。 而谷歌提出的BERT就是在OpenAI的GPT的基础上对预训练的目标进行了修改，并用更大的模型以及更多的数据去进行预训练，从而得到了目前为止最好的效果。 除了模型结构，模型大小和数据量都很重要 以上的描述涵盖了BERT在模型结构和训练目标上的主要创新点，而BERT的成功还有一个很大的原因来自于模型的体量以及训练的数据量。 谷歌用了16个自己的TPU集群（一共64块TPU）来训练大号版本的BERT，一共花了4天的时间。
1.2K20发布于 2018-11-08 - 来自专栏AI研习社
博客 | 谷歌最强 NLP 模型 BERT 解读
雷锋网 AI 科技评论按：本文是追一科技潘晟锋基于谷歌论文为 AI 科技评论提供的解读稿件。 最近谷歌研究人员通过新的BERT模型在11项NLP任务中夺得STOA结果，这在自然语言处理学界以及工业界都引起了不小的热议。 而谷歌提出的BERT就是在OpenAI的GPT的基础上对预训练的目标进行了修改，并用更大的模型以及更多的数据去进行预训练，从而得到了目前为止最好的效果。 ? 除了模型结构，模型大小和数据量都很重要 以上的描述涵盖了BERT在模型结构和训练目标上的主要创新点，而BERT的成功还有一个很大的原因来自于模型的体量以及训练的数据量。 谷歌用了16个自己的TPU集群（一共64块TPU）来训练大号版本的BERT，一共花了4天的时间。
65020发布于 2018-12-05 - 来自专栏机器学习与推荐算法
谷歌 | 物品-语言大模型推荐系统
TLDR: 当前将大语言模型用于推荐系统存在三方面问题：1）大语言模型不在推荐系统数据上训练，并且推荐数据通常不公开可用。 为解决以上限制，本文提出了一个物品语言模型，其由一个物品编码器和一个冻结的大语言模型组成，前者对用户交互信息进行编码以生成与文本对齐后的物品表示，后者用保留的预训练知识理解这些物品表示。 虽然可以使用矩阵分解算法计算物品和用户协同过滤嵌入，然后通过映射模块将这些嵌入馈送给大语言模型。但其会在协同嵌入和预训练大语言模型的词元嵌入间引入模态差异，仍需微调以对齐。 为了解决上述困难，本文提出了用于会话推荐任务的物品语言模型。 其语义嵌入采用Sentence-T5 11B模型计算得到。将带有两层MLP的CoLLM作为基准对比方法，还对比了带有随机初始化Q-Former编码器的ILM模型。
69410编辑于 2024-07-05 - 来自专栏机器之心
7 Papers & Radios | Transformer新变体∞-former；谷歌1370亿参数模型比GPT-3更强
（LTM）的 Transformer 模型，可以处理任意长度的上下文；谷歌提出具有 1370 亿参数的新模型 FLAN 等研究。 Zhao 等 论文链接：https://arxiv.org/pdf/2109.01652.pdf 摘要：本文中，Quoc Le 等来自谷歌的研究者探索了一种简单的方法来提高大型语言模型在零样本情况下的性能 推荐：谷歌 1370 亿参数新模型比 GPT-3 更强。 (from Kai Chen) 7. Square Root Marginalization for Sliding-Window Bundle Adjustment. Gummadi, Gerhard Weikum) 7.
47020编辑于 2023-03-29 - 来自专栏AI科技评论
学界 | 谷歌最强 NLP 模型 BERT 解读
AI 科技评论按：本文是追一科技潘晟锋基于谷歌论文为 AI 科技评论提供的解读稿件。 最近谷歌研究人员通过新的BERT模型在11项NLP任务中夺得STOA结果，这在自然语言处理学界以及工业界都引起了不小的热议。 而谷歌提出的BERT就是在OpenAI的GPT的基础上对预训练的目标进行了修改，并用更大的模型以及更多的数据去进行预训练，从而得到了目前为止最好的效果。 ? 除了模型结构，模型大小和数据量都很重要 以上的描述涵盖了BERT在模型结构和训练目标上的主要创新点，而BERT的成功还有一个很大的原因来自于模型的体量以及训练的数据量。 谷歌用了16个自己的TPU集群（一共64块TPU）来训练大号版本的BERT，一共花了4天的时间。
87120发布于 2018-11-08 - 来自专栏机器学习算法与Python学习
Torch7模型训练
Torch7搭建卷积神经网络详细教程已经详细的介绍啦Module模块，这里再次基础上再给出一些上Container、 Transfer Functions Layers和 Simple Layers模块的理解 并在后面给出一些简单的模型训练方法。下述程序在itorch qtconsole下运行。 上一篇博文讲到Module主要有四个函数(详细见Torch7搭建卷积神经网络详细教程)，但是注意以下几点：forward函数的input必须和backward的函数的input一致，否则梯度更新会有问题 上述函数的具体使用方法可以看Torch7的官方API以及帮助文档。接下来仅介绍一些模型训练所需要的关键函数。 将image包导入当前运行环境，随机生成一张1通道32x32的彩色图像，如下 ?
1K130发布于 2018-04-08 - 来自专栏人工智能快报
谷歌推出通用机器学习模型
据外媒报道，谷歌的研究人员已经运用多种类型的训练数据创立了他们所谓的“一个模型解决所有问题”，以此在不同的任务中训练人工智能模型。 研究人员和专注于人工智能的谷歌大脑团队已将该模型与其它工具及模块化组件打包在其新的Tensor2Tensor（T2T）程序库中，他们希望该程序库将帮助促进深度学习研究。 谷歌公司所创建的模型在各种各样的任务中都得到了训练，包括图像识别、翻译任务、图像说明以及语音识别。 研究人员声称，单一模型能够同时在多项领域中学习很多任务，且该模型能够传递知识。 由谷歌大脑研究人员和工程师共同维护的T2T程序库，是一个用于在TensorFlow上训练深度学习模型的一套开源系统。 T2T的发布也包括谷歌大脑研究人员从近期论文中借鉴的数据集库和模型库。
1.2K30发布于 2018-03-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号