首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏计算机视觉战队

    ViT杀疯了,10+视觉Transformer模型详解

    课程亮点 全面的内容讲解:涵盖当今应用和科研领域最热门的Transformer,包括10+Transformer模型串讲+应用案例。 项目内容描述:作为Transformer在视觉领域的一个经典应用案例,ViT模型第一次将NLP领域中Transformer思想应用到图像领域,为后续的一系列Transformer in Vision 追根溯源,我们将以ViT模型做图像分类任务为例,开启一段如何将Transformer思想应用到视觉领域之旅。 项目二:基于SwinTransformer 模型的图像分类,目标检测任务 项目内容描述:我们在上一个项目中学习了ViT模型,一个成功将Transformer应用到视觉分类问题的视觉Transformer 在本项目中,我们将学习另一个进阶版的视觉Transformer模型: SwinTransformer模型。

    1.3K20编辑于 2022-07-12
  • 来自专栏机器学习AI算法工程

    ViT杀疯了,10+视觉Transformer模型详解

    课程亮点 全面的内容讲解:涵盖当今应用和科研领域最热门的Transformer,包括10+Transformer模型串讲+应用案例。 项目内容描述:作为Transformer在视觉领域的一个经典应用案例,ViT模型第一次将NLP领域中Transformer思想应用到图像领域,为后续的一系列Transformer in Vision 追根溯源,我们将以ViT模型做图像分类任务为例,开启一段如何将Transformer思想应用到视觉领域之旅。 项目二:基于SwinTransformer 模型的图像分类,目标检测任务 项目内容描述:我们在上一个项目中学习了ViT模型,一个成功将Transformer应用到视觉分类问题的视觉Transformer 在本项目中,我们将学习另一个进阶版的视觉Transformer模型: SwinTransformer模型。

    1.3K10编辑于 2022-06-24
  • 来自专栏人工智能

    使用10几行Python代码,快速建立视觉模型识别图像

    视觉 进化的作用,让人类对图像的处理非常高效。 这里,我给你展示一张照片。 如果我这样问你: 你能否分辨出图片中哪个是猫,哪个是狗? 你可能立即会觉得自己遭受到了莫大的侮辱。 电脑会利用训练集合的数据自己建立模型。但是模型的效果(例如分类的准确程度)如何?我们需要用测试集来进行验证测试。 这就如同老师不应该把考试题目都拿来给学生做作业和练习一样。 下面,我们用获得的图片分类模型,来对测试集做预测。 虽然不过写了10几行代码,但是你构建的模型却足够复杂和高大上。它就是传说中的卷积神经网络(Convolutional Neural Network, CNN)。 它是深度机器学习模型的一种。 你可能会想,咱们只编写了10几行代码而已,使用的卷积神经网络一定跟上图差不多,只有4、5层的样子吧? 不是这样的,你用的层数,有足足50层呢!

    2.7K90发布于 2018-01-11
  • 来自专栏机器之心

    10亿参数、多项SOTA,智源开源视觉基础模型EVA

    机器之心专栏 机器之心编辑部 智源开源了简单又强大、具有 10 亿参数的视觉基础模型 EVA,将最强语义学习与最强几何结构学习相结合,在 ImageNet 分类、COCO 检测分割、Kinetics 视频分类等广泛的视觉感知任务中取得当前最强性能 然而,在十亿参数量级别的视觉预训练模型中,最具竞争力的模型例如 ViT-g、SwinV2、CoCa 等仍然严重依赖有监督或弱监督训练,以及不可公开访问的数亿级有标签数据。 理想的视觉预训练应当只需简单的操作:譬如抓好语义学习和几何结构学习这两个关键点,基本可以搞定绝大部分的视觉任务。 智源曹越团队最新开源的视觉预训练模型 EVA,将最强语义学习(CLIP)与最强几何结构学习(MIM)结合,仅需使用标准的 ViT 模型,并将其规模扩大到十亿参数(1-Billion)进行训练,即可得到当前最强大的十亿级视觉基础模型 如下图所示,CLIP 模型输入为完整的图像,而 EVA 模型的输入为有遮盖的图像,训练过程是让 EVA 模型遮盖部分的输出去重构 CLIP 模型对应位置的输出,从而以简单高效的方式让 EVA 模型同时拥有了最强语义学习

    1.4K10编辑于 2022-12-16
  • 视觉决策模型来了,机器视觉要变天?

    从Jev1.14到开源视觉决策模型,我开始重新思考机器视觉的未来。最近看到一条AI新闻,让我确实有些兴奋。 10月14日,TypeSafeAI发布了Jev1.14.0,开放了实验性的图像输入、目标边界框(Box)和最长262KToken上下文能力。乍一看,好像就是一个模型增加了视觉功能。 一个月巨变二、短短一个月,视觉决策模型已经开始出现Jev于今年9月引起广泛关注,到了10月14日,TypeSafe就正式公布了图像输入能力。 10月1日,Cloudflare已经发布了Clef和Clef-Flash两个开源决策模型。 视觉决策模型能否实现类似的实时性,还需要考虑图像编码、推理延迟、吞吐量和实际检测效果。但至少现在,我们不必再把视觉业务完全局限在传统目标检测和生成式视觉大模型这两条技术路线上。

    15310编辑于 2026-10-16
  • 来自专栏深度学习和计算机视觉

    视觉词袋模型简介

    简介 视觉单词袋是一种描述计算图像之间相似度的技术。常用于用于图像分类当中。该方法起源于文本检索(信息检索),是对NLP“单词袋”算法的扩展。 在“视觉单词袋”中,我们的输入是图像而不是文本文档,并且我们使用视觉单词来描述图像。 ? 文字文档袋 ? 图像视觉词袋 ? 视觉单词 在BovW中,我们将图像分解为一组独立的特征,特征由关键点和描述符组成,关键点与兴趣点是同一件事。它们某些是空间位置或图像中的点,这些位置定义了图像中的突出部分。 每个聚类的中心(质心)都充当一个视觉单词,所有这些K组的重心构成了我们的字典。 ? K均值聚类 03. 直方图的创建 ? 检测视觉单词 现在我们将创建一个(N,K)的二维数组,我们将在接下来的几行中看到如何填充此数组。

    1.9K10发布于 2021-01-06
  • 来自专栏OpenCV与AI深度学习

    10个预训练模型开始你的深度学习(计算机视觉部分)

    导读 对于希望学习算法或尝试现有框架的人来说,预训练的模型是一个很好的帮助。由于时间限制或计算资源的限制,不可能总是从头构建模型,这就是为什么存在预训练模型! 你可以使用预训练的模型作为基准来改进现有的模型,或者用它来测试对比你自己的模型。这个的潜力和可能性是巨大的。 在本文中,我们将研究在Keras中具有计算机视觉应用的各种预训练模型。 目标检测 目标检测是计算机视觉领域中最常见的应用之一。它在各行各业都有应用,从自动驾驶汽车到计算人群中的人数。本节讨论可用于检测对象的预训练模型。 正如你上面所看到的,MobileNet的应用不仅仅局限于对象检测,它还跨越了各种计算机视觉任务,如人脸属性、地标识别、细粒度分类等。 它使用了NLP和计算机视觉的结合来产生字幕。长期以来,该任务一直是一个具有挑战性的任务,因为它需要具有无偏置图像和场景的大型数据集。考虑到所有这些约束条件,该算法必须对任意给定的图像进行推广。

    2.6K20发布于 2021-10-09
  • 来自专栏大模型应用

    大模型应用:轻量化视觉语言模型(VLM):基于多模态视觉大模型实践.87

    一、前言 随着大模型技术从单一文本交互迈向多模态智能时代,视觉语言模型(VLM)已成为连接图像感知与语言理解的关键载体。 超紧凑视觉语言模型的出现,正是大模型技术走向普惠化、轻量化与端侧化的重要突破。 二、核心概念 首先要了解轻量级VLM的本质,我们可以把视觉语言模型(VLM)理解为能看懂图片的聊天机器人,它既具备视觉感知能力,能看懂图片内容,又具备自然语言理解与生成能力,能用文字回答关于图片的问题 而超紧凑、轻量级 VLM(如 Qwen2-VL-2B) 则是这类模型的迷你版:传统的大规模视觉语言模型(VLM)通常参数规模达数十亿甚至数百亿,依赖高性能计算集群才能运行,模型体积动辄数百GB,推理延迟在秒级 视觉编码器:采用轻量化视觉模型(如MobileNet、TinyViT)将原始像素压缩为固定维度的视觉特征向量,保留关键语义信息,同时控制计算开销。5.

    1.3K22编辑于 2026-04-25
  • 来自专栏TechBlog

    通用视觉框架OpenMMLab图像分类与基础视觉模型

    hat{X}) 传统方法:设计图像特征(1990s~2000s) 特征工程的天花板 在ImageNet 图像识别挑战赛里,2010 和2011 年的冠军队伍都使用了经典的视觉方法,基于手工设计的特征+ 从特征工程到特征学习 层次化特征的实现方式 AlexNet 的诞生& 深度学习时代的开始 在2012 年的竞赛中,来自多伦多大学的团队首次使用深度学习方法,一举将错误率降低至15.3% ,而传统视觉算法的性能已经达到瓶颈 图像分类的数学表示 模型设计:设计适合图像的 _Θ • 卷积神经网络 • 轻量化卷积神经网络 • 神经结构搜索 • Transformer 模型学习:求解一组好的参数Θ • 监督学习 :基于标注数据学习 • 损失函数 • 随机梯度下降算法 • 视觉模型常用训练技巧 • 自监督学习:基于无标注的数据学习 AlexNet (2012) 第一个成功实现大规模图像的模型,在ImageNet 猜想:虽然深层网络有潜力达到更高的精度,但常规的优化算法难以找到这个更优的模型。

    1.2K20编辑于 2023-02-24
  • 来自专栏人工智能

    什么是视觉语言基础模型?

    本文就来聊聊这个视觉语言基础模型。Vision-Language Foundation Model 是一类能够同时处理视觉和语言信息的人工智能模型。 什么是视觉语言基础模型视觉语言基础模型是一种能够理解和生成视觉与语言信息的多模态人工智能模型。 其目标是建立视觉与语言之间的语义联系,从而使得模型能够处理复杂的跨模态任务。典型的视觉语言基础模型包括 CLIP、DALL·E 和 Flamingo 等。 这种任务通常采用视觉语言基础模型如 Flamingo,该模型通过跨模态注意力机制,将视觉和语言信息深度融合,从而实现精准回答。 更强的生成能力:提升文本到图像生成模型的质量和可控性。总结视觉语言基础模型通过整合视觉和语言信息,为多模态任务提供了强大的技术支持。

    60400编辑于 2025-01-01
  • supervision如何整理视觉模型输出

    先给结论:它解决的不是训练模型,而是视觉应用里反复重写的胶水层roboflow/supervision是Roboflow维护的Python计算机视觉工具库,README对它的定位是“essentialtoolkitforcomputervision 它的关键对象是可复用视觉组件,例如数据加载、检测结果结构、标注绘制、数据集处理、区域计数和模型输出后处理,而不是替开发者完成模型训练。 短期最适合已经有视觉模型和样例图片、但后处理脚本混乱的开发者;如果你还没有确定模型、输入数据和验收口径,先不要把它当成完整视觉应用框架。 它不是GitHubTrending上那种“今天又出了一个新模型”的项目,而是把视觉应用常用的工具层做成Python包。 是否值得放进日常:看它能不能减少模型切换成本对AI工具和开发者工作流读者来说,supervision的价值不在“又多一个视觉库”,而在它能否让视觉项目从“每个模型一套脚本”变成“模型可换,后处理接口尽量稳定

    38620编辑于 2026-07-01
  • 来自专栏AI工程落地

    VLM视觉模型处理过程

    对于尺寸为(H * W)的图像,视觉token数为:N = (H/14) * (W/14)如果直接做Attention注意力计算,时间复杂度为:O(N^2)。 所以,vision attention只有一个动态值:共有多少个window(结合了图片数和图片大小两个变量)另外,Qwen2.5 VL有一些小参数量模型中,还保留几层full attention,比如 :qwen2.5 VL 3B视觉模型中,7、15、23、31层是full attention,所有图片token一起做注意力计算。 , dtype=torch.int32), input shape: torch.Size([3540, 1, 1024]) 可以看到模型把两张图片分开 当然两个模型执行的底层代码都一样,相应的代码位置:vllm/vllm/v1/attention/ops/vit_attn_wrappers.py at main · vllm-project/vllm

    70011编辑于 2026-02-09
  • 来自专栏深度学习和计算机视觉

    干货||10个机器视觉常见问题

    选择相机却往往刻不容缓的的问题摆在机器视觉工程师面前,因此,选择相机了解以下几个方面问题: 通常您首先需要知道系统精度要求和相机分辨率,可以通过公式:X方向系统精度(X方向像素值)=视野范围 通常,我们能够处理亚分辨率为10×10亚像素的图像。一个典型的例子就是决定一个斑点的重心。由于积分特性,原始像素位置误差与其本身输出相同。

    96020编辑于 2022-09-28
  • 来自专栏友儿

    盒模型与视觉格式化模型深度解析

    一、盒模型与视觉格式化模型 盒模型:规定单个盒子尺寸和位置的规则。 视觉格式化模型(布局规则):页面上多个盒子排列的规则。视觉格式化模型大体上将页面中盒子的排列分为三种方式:常规流、浮动、定位。

    30610编辑于 2024-08-31
  • 来自专栏Python编程和深度学习

    BBN:长尾视觉识别模型(CVPR 2020)

    如上图所示,计算机视觉识别任务中经常面临长尾数据分布的挑战,即少数类占有多数样本,多数类只有少数样本。 如下图(Figure 2)所示,以左边图为例,先看第1列,即固定表征学习部分的参数(采用交叉熵CE训练得到的),从上往下3行分别表示采用RS、RW、CE训练得到的分类器,其中RS得到的模型效果最好,RS 因此文中认为,表征学习部分应该在数据原有的分布上进行训练,RS和RW这些改进方法只需要加在分类器学习上即可,从而提出了Bilateral-Branch Network (BBN)以提高模型在长尾分布数据上的性能

    2.4K20发布于 2020-09-04
  • 来自专栏练小习的专栏

    视觉格式化模型-控制框

    一、块级元素和块框 块级元素是源文档中那些在视觉上被格式化为块(如:段落)的元素。

    1.1K90发布于 2017-12-29
  • 来自专栏CreateAMind

    视觉意识的主动推理模型

    具体来说,我们提出了一个基于主动推理的视觉意识的层次化、部分可观察的马尔可夫决策过程(POMDP)模型。 正如我们将要展示的,手头有一个电子实验对象可以让我们证明,在当前关于视觉意识的神经科学研究中,大量不同的发现是如何被大脑功能的第一原理解释的。 接下来,我们转向预期在视觉意识中的作用,并展示我们的模型如何扩展 GNW 理论的原始四向分类法,以包含在逐个试验的基础上操纵先前预期的范式——突出从这种扩展中出现的新预测。 从技术上讲,推理指的是更新关于隐藏状态的信念,而学习对应于更新由上述矩阵指定的生成模型的参数(关于该参数的信念) 2.2 视觉意识的深层时间模型为了模拟有意识和无意识感知之间的差异,我们基于 Pitts 除了解释和统一视觉意识的神经相关文献中不同的发现之外,这里提出的预测性全球神经元工作区模型还产生了几个经验预测和机械神经计算解释,涉及 P3 和主观报告的关系、有意识通路下推理机制的神经生物学实现以及视觉意识中预期的作用

    1K20编辑于 2022-04-15
  • 来自专栏人工智能

    多模态AI与视觉语言模型

    CLIP的影响 CLIP证明了大规模对比预训练的有效性,开启了视觉-语言模型的新纪元。 其成功催生了后续众多工作: Stable Diffusion:使用CLIP进行图像-文本对齐 LLaVA:结合CLIP视觉编码器和语言模型 Flamingo:多模态上下文学习 多模态架构设计 早期融合 # 加载CIFAR-10数据集作为示例 dataset = CIFAR10(root='. 应用场景包括辅助视觉搜索、教育等。 图像生成(Text-to-Image) 根据文本描述生成图像。DALL-E、Midjourney、Stable Diffusion等模型展现出惊人的创造力。 通过CLIP等模型的实践,我们看到跨模态理解不仅可行,而且效果惊人。从零样本分类到图像生成,从视觉问答到多模态对话,多模态技术正在不断拓展AI的能力边界。

    1K10编辑于 2026-01-21
  • 视觉语言模型知识蒸馏方法优化

    大型基于Transformer架构的机器学习模型近期在视觉与语言任务中展现出卓越性能。但这类大模型往往因计算速度限制难以实时部署,实际系统通常采用知识蒸馏技术将大模型知识迁移至更轻量的学生模型。 传统蒸馏方法采用教师与学生模型注意力头一对一对齐的方式,而学生模型为降低复杂度通常会减少注意力头数量。 在AAAI 2024会议上提出的新方法突破了这一限制:将教师模型所有注意力头的知识蒸馏至学生模型全部注意力头中。当学生模型头数少于教师时,单个学生注意力头可编码多个教师头的综合信息。 实验在两个视觉语言模型(VLM)上进行,这些模型将图像和文本映射到同一向量空间,并针对视觉问答、图像描述和基于图像的翻译任务进行微调。新方法在三个任务上均超越现有基线表现。 即使学生模型头数显著少于教师,也能通过加权聚合方式有效保留多维度特征信息。该方法为部署轻量级视觉语言模型提供了新的技术路径,在保持模型效率的同时最大化知识迁移效果。

    39200编辑于 2025-08-04
  • 来自专栏CVer

    计算机视觉杂志 | 10月刊

    RSIP Vision 在介绍重头戏之前,Amusi先介绍一个平台:RSIP Vision RSIP Vision为最广泛的活动领域提供计算机视觉和图像处理咨询和算法:从精准农业到医学应用(心脏病学, 我们的工程师是人工智能,深度学习和所有最先进的计算机视觉技术方面的专家。 RSIP Vision 还发布了计算机视觉杂志,这是算法社区的在线杂志。 计算机视觉杂志 英文主题称为Computer Vision News,Amusi采用直接的方式翻译成计算机视觉杂志(本来想翻译成新闻的,因为吸睛度更高,但觉得不合理)。 话不多说,下面介绍计算机视觉杂志 | 10月刊的亮点 DeepLab v3+介绍与实现(Keras) 22页 ECCV 2018 论文介绍 22页 MICCAI 2018 论文介绍 ... ?

    67220发布于 2019-12-31
领券