首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 视觉决策模型来了,机器视觉要变天?

    从Jev1.14到开源视觉决策模型,我开始重新思考机器视觉的未来。最近看到一条AI新闻,让我确实有些兴奋。 如果要使用它,就得先让视觉模型把图片转成文字,再由Jev进行判断。虽然理论上可行,但相当于同时运行两个模型,增加了调用链路,也存在视觉信息在文字描述中丢失的风险。 现在,视觉决策模型提供了第三种值得研究的选择。它尝试结合视觉理解能力与结构化决策能力。对于一些原本需要VLM生成文字才能完成的判断,未来可能通过一次模型推理就得到明确的分类和概率结果。 视觉决策模型能否实现类似的实时性,还需要考虑图像编码、推理延迟、吞吐量和实际检测效果。但至少现在,我们不必再把视觉业务完全局限在传统目标检测和生成式视觉大模型这两条技术路线上。 因此,我认为未来比较理想的架构,可能不是单纯依赖某一种模型,而是让不同模型承担不同的工作:目标检测模型负责快速寻找明确目标;视觉决策模型负责高频判断;复杂的视觉语言模型负责疑难场景分析;业务规则系统负责最终的告警与处置

    14910编辑于 2026-10-16
  • 来自专栏人工智能前沿讲习

    【他山之石】大视觉模型:举例,7个用例和2024年的挑战

    导读 本文将解释大型视觉模型的概念、结构及潜在的商业应用场景。 大型视觉模型(LVMs)已经在计算机视觉领域取得了重大进展。起初,这些模型擅长理解和解释复杂的图像数据。 解决方案是开发更为专业化、面向特定领域的模型。这些先进的模型不仅在处理和分析视觉数据方面高效,还能适应不同业务领域的需求。 本文将解释大型视觉模型的概念、结构及潜在的商业应用场景。 什么是大型视觉模型(LVM)? 大型视觉模型(LVMs)是指专为处理和解释视觉数据(通常是图像或视频)而设计的先进人工智能(AI)模型。可以将它们视为视觉版的大规模语言模型(LLMs)。 近年来,最初为自然语言处理设计的Transformer模型也被广泛应用于多种视觉任务,某些情况下表现更佳。 训练 训练大型视觉模型涉及为其提供大量的视觉数据,如互联网图像或视频,以及相关的标签或注释。 7- 内容创作与娱乐 电影和视频编辑:自动化视频编辑和后期制作的部分环节。 游戏开发:增强现实环境和角色的创建。 照片和视频增强:提升图像和视频的质量。

    1.4K10编辑于 2024-07-31
  • 来自专栏深度学习和计算机视觉

    视觉词袋模型简介

    简介 视觉单词袋是一种描述计算图像之间相似度的技术。常用于用于图像分类当中。该方法起源于文本检索(信息检索),是对NLP“单词袋”算法的扩展。 在“视觉单词袋”中,我们的输入是图像而不是文本文档,并且我们使用视觉单词来描述图像。 ? 文字文档袋 ? 图像视觉词袋 ? 视觉单词 在BovW中,我们将图像分解为一组独立的特征,特征由关键点和描述符组成,关键点与兴趣点是同一件事。它们某些是空间位置或图像中的点,这些位置定义了图像中的突出部分。 每个聚类的中心(质心)都充当一个视觉单词,所有这些K组的重心构成了我们的字典。 ? K均值聚类 03. 直方图的创建 ? 检测视觉单词 现在我们将创建一个(N,K)的二维数组,我们将在接下来的几行中看到如何填充此数组。

    1.9K10发布于 2021-01-06
  • 来自专栏大模型应用

    大模型应用:轻量化视觉语言模型(VLM):基于多模态视觉大模型实践.87

    一、前言 随着大模型技术从单一文本交互迈向多模态智能时代,视觉语言模型(VLM)已成为连接图像感知与语言理解的关键载体。 超紧凑视觉语言模型的出现,正是大模型技术走向普惠化、轻量化与端侧化的重要突破。 二、核心概念 首先要了解轻量级VLM的本质,我们可以把视觉语言模型(VLM)理解为能看懂图片的聊天机器人,它既具备视觉感知能力,能看懂图片内容,又具备自然语言理解与生成能力,能用文字回答关于图片的问题 视觉编码器:采用轻量化视觉模型(如MobileNet、TinyViT)将原始像素压缩为固定维度的视觉特征向量,保留关键语义信息,同时控制计算开销。5. 跨模态融合层:通过协同注意力机制或特征拼接方式,将视觉特征与文本特征映射到同一语义空间,完成图文信息的对齐与交互融合。7.

    1.3K22编辑于 2026-04-25
  • 来自专栏TechBlog

    通用视觉框架OpenMMLab图像分类与基础视觉模型

    hat{X}) 传统方法:设计图像特征(1990s~2000s) 特征工程的天花板 在ImageNet 图像识别挑战赛里,2010 和2011 年的冠军队伍都使用了经典的视觉方法,基于手工设计的特征+ 从特征工程到特征学习 层次化特征的实现方式 AlexNet 的诞生& 深度学习时代的开始 在2012 年的竞赛中,来自多伦多大学的团队首次使用深度学习方法,一举将错误率降低至15.3% ,而传统视觉算法的性能已经达到瓶颈 图像分类的数学表示 模型设计:设计适合图像的 _Θ • 卷积神经网络 • 轻量化卷积神经网络 • 神经结构搜索 • Transformer 模型学习:求解一组好的参数Θ • 监督学习 :基于标注数据学习 • 损失函数 • 随机梯度下降算法 • 视觉模型常用训练技巧 • 自监督学习:基于无标注的数据学习 AlexNet (2012) 第一个成功实现大规模图像的模型,在ImageNet /4 尺度的更高抽象层级的特征 GoogLeNet (Inception v1, 2014) 使用Inception 模块堆叠形成, 22 个可学习层 最后的分类仅使用单层全连接层,可节省大量参数 仅7M

    1.2K20编辑于 2023-02-24
  • 来自专栏人工智能

    什么是视觉语言基础模型?

    本文就来聊聊这个视觉语言基础模型。Vision-Language Foundation Model 是一类能够同时处理视觉和语言信息的人工智能模型。 什么是视觉语言基础模型视觉语言基础模型是一种能够理解和生成视觉与语言信息的多模态人工智能模型。 其目标是建立视觉与语言之间的语义联系,从而使得模型能够处理复杂的跨模态任务。典型的视觉语言基础模型包括 CLIP、DALL·E 和 Flamingo 等。 这种任务通常采用视觉语言基础模型如 Flamingo,该模型通过跨模态注意力机制,将视觉和语言信息深度融合,从而实现精准回答。 更强的生成能力:提升文本到图像生成模型的质量和可控性。总结视觉语言基础模型通过整合视觉和语言信息,为多模态任务提供了强大的技术支持。

    60400编辑于 2025-01-01
  • 来自专栏AI工程落地

    VLM视觉模型处理过程

    对于尺寸为(H * W)的图像,视觉token数为:N = (H/14) * (W/14)如果直接做Attention注意力计算,时间复杂度为:O(N^2)。 所以,vision attention只有一个动态值:共有多少个window(结合了图片数和图片大小两个变量)另外,Qwen2.5 VL有一些小参数量模型中,还保留几层full attention,比如 :qwen2.5 VL 3B视觉模型中,7、15、23、31层是full attention,所有图片token一起做注意力计算。 , dtype=torch.int32), input shape: torch.Size([3540, 1, 1024]) 可以看到模型把两张图片分开 当然两个模型执行的底层代码都一样,相应的代码位置:vllm/vllm/v1/attention/ops/vit_attn_wrappers.py at main · vllm-project/vllm

    69911编辑于 2026-02-09
  • supervision如何整理视觉模型输出

    先给结论:它解决的不是训练模型,而是视觉应用里反复重写的胶水层roboflow/supervision是Roboflow维护的Python计算机视觉工具库,README对它的定位是“essentialtoolkitforcomputervision 它的关键对象是可复用视觉组件,例如数据加载、检测结果结构、标注绘制、数据集处理、区域计数和模型输出后处理,而不是替开发者完成模型训练。 短期最适合已经有视觉模型和样例图片、但后处理脚本混乱的开发者;如果你还没有确定模型、输入数据和验收口径,先不要把它当成完整视觉应用框架。 它不是GitHubTrending上那种“今天又出了一个新模型”的项目,而是把视觉应用常用的工具层做成Python包。 是否值得放进日常:看它能不能减少模型切换成本对AI工具和开发者工作流读者来说,supervision的价值不在“又多一个视觉库”,而在它能否让视觉项目从“每个模型一套脚本”变成“模型可换,后处理接口尽量稳定

    38620编辑于 2026-07-01
  • 来自专栏信数据得永生

    Python OpenCV 计算机视觉:6~7

    绘制 2D 几何 绘制文字 管理可绘制 AI 实体(精灵)的分组 捕获与窗口,键盘,鼠标和操纵杆/游戏手柄相关的各种输入事件 创建自定义事件 播放和合成声音和音乐 例如,Pygame 可能是使用计算机视觉的游戏的合适后端 unzip_destination>\bin\Release 如果要将可执行文件的文件夹添加到系统的Path变量中,请参考第 1 章,“设置 OpenCV”的“在 Windows XP,Windows Vista,Windows 7

    2.4K20编辑于 2023-04-27
  • 来自专栏机器之心

    7 Papers & Radios | E2E视觉语言预训练模型SOHO;微软分层ViT模型霸榜多个CV任务

    得益于最近无监督预训练语言模型技术的发展,基于纯文本特征的纠错模型可以有效地解决这类问题。 最近一段时间,Transformer 更是开启了自己的跨界之旅,开始在计算机视觉领域大展身手,涌现出了多个基于 Transformer 的新模型,如谷歌用于图像分类的 ViT 以及复旦、牛津、腾讯等机构的 但是,由于基于区域的视觉特征只代表图像的一部分,因此现有视觉语言模型在充分理解配对自然语言的语义方面面临挑战。 SOHO 模型工作流。 推荐:不需要边界框标注、用于视觉语言表征学习的端到端预训练模型 SOHO。 论文 7:Self-supervised Video Representation Learning by Context and Motion Decoupling 作者:Lianghua Huang

    82420发布于 2021-04-21
  • 来自专栏学习笔记持续记录中...

    处理模型数据(7)

    Spring MVC提供了以下几种途径输出模型数据: ModelAndView 控制器处理方法的返回值是ModelAndView,则其既包含视图信息,也包含模型数据信息 // success.jsp 返回的目标页面 ; return modelAndView; } } Map&Model Spring MVC 在内部使用了一个org.springframework.ui.Model接口存储模型数据 ,具体步骤: 1)SpringMVC在调用方法前会创建一个隐含的数据模型,作为模型数据的存储容器, 成为”隐含模型” 2)如果方法的入参类型为Map或Model,会将隐含模型的引用传递给这些入参。 3)在方法体内,可以通过这个入参对象访问到模型中的所有数据,也可以向模型中添加新的属性数据 Spring Web MVC 提供Model、Map或ModelMap让我们能去暴露渲染视图需要的模型数据。 @SessionAttributes 除了可以通过属性名指定需要放到会话中的属性处,还可以通过模型属性的对象类型指定哪些模型属性需要放到会话中 @SessionAttributes(types=User.class

    63400发布于 2020-03-18
  • 来自专栏友儿

    盒模型与视觉格式化模型深度解析

    一、盒模型与视觉格式化模型 盒模型:规定单个盒子尺寸和位置的规则。 视觉格式化模型(布局规则):页面上多个盒子排列的规则。视觉格式化模型大体上将页面中盒子的排列分为三种方式:常规流、浮动、定位。

    30610编辑于 2024-08-31
  • 来自专栏Python编程和深度学习

    BBN:长尾视觉识别模型(CVPR 2020)

    如上图所示,计算机视觉识别任务中经常面临长尾数据分布的挑战,即少数类占有多数样本,多数类只有少数样本。 如下图(Figure 2)所示,以左边图为例,先看第1列,即固定表征学习部分的参数(采用交叉熵CE训练得到的),从上往下3行分别表示采用RS、RW、CE训练得到的分类器,其中RS得到的模型效果最好,RS 因此文中认为,表征学习部分应该在数据原有的分布上进行训练,RS和RW这些改进方法只需要加在分类器学习上即可,从而提出了Bilateral-Branch Network (BBN)以提高模型在长尾分布数据上的性能

    2.4K20发布于 2020-09-04
  • 来自专栏练小习的专栏

    视觉格式化模型-控制框

    一、块级元素和块框 块级元素是源文档中那些在视觉上被格式化为块(如:段落)的元素。 另外注意,在IE6和IE7中,对display特性支持的不完全。

    1.1K90发布于 2017-12-29
  • 来自专栏机器之心

    7 Papers & Radios | 全球最大人脸数据集;类Transformer模型跨界视觉任务新SOTA

    机器之心 & ArXiv Weekly Radiostation 参与:杜伟、楚航、罗若天 本周的重要论文包括格灵深瞳等机构开源的全球最大人脸数据集,以及类 Transformer 模型跨界在视觉任务上取得了新 论文链接:https://arxiv.org/pdf/2010.05222.pdf 摘要:人脸识别是计算机视觉社区长期以来的活跃课题。 ArXiv Weekly Radiostation 机器之心联合由楚航、罗若天发起的ArXiv Weekly Radiostation,在 7 Papers 的基础上,精选本周更多重要论文,包括NLP、 Xing) 7. Neural Language Modeling for Contextualized Temporal Graph Generation.  (from Shuicheng Yan) 7. LCD -- Line Clustering and Description for Place Recognition. 

    72320编辑于 2023-03-29
  • 来自专栏大数据文摘

    视觉直观感受 7 种常用排序算法

    点击标题下「大数据文摘」可快捷关注 10月14日发布《统计世界的十大算法》后,很多朋友在后台询问,哪里有“视觉直观感受 7 种常用排序算法”,今天分享给大家,感谢todayx.org。 在已经排序的元素序列中从后向前扫描 如果该元素(已排序)大于新元素,将该元素移到下一位置 重复步骤3,直到找到已排序的元素小于或者等于新元素的位置 将新元素插入到该位置中 重复步骤2 排序效果: (暂无) 7.

    72450发布于 2018-05-22
  • 来自专栏CreateAMind

    视觉意识的主动推理模型

    具体来说,我们提出了一个基于主动推理的视觉意识的层次化、部分可观察的马尔可夫决策过程(POMDP)模型。 正如我们将要展示的,手头有一个电子实验对象可以让我们证明,在当前关于视觉意识的神经科学研究中,大量不同的发现是如何被大脑功能的第一原理解释的。 接下来,我们转向预期在视觉意识中的作用,并展示我们的模型如何扩展 GNW 理论的原始四向分类法,以包含在逐个试验的基础上操纵先前预期的范式——突出从这种扩展中出现的新预测。 从技术上讲,推理指的是更新关于隐藏状态的信念,而学习对应于更新由上述矩阵指定的生成模型的参数(关于该参数的信念) 2.2 视觉意识的深层时间模型为了模拟有意识和无意识感知之间的差异,我们基于 Pitts 除了解释和统一视觉意识的神经相关文献中不同的发现之外,这里提出的预测性全球神经元工作区模型还产生了几个经验预测和机械神经计算解释,涉及 P3 和主观报告的关系、有意识通路下推理机制的神经生物学实现以及视觉意识中预期的作用

    1K20编辑于 2022-04-15
  • 来自专栏人工智能

    多模态AI与视觉语言模型

    CLIP的影响 CLIP证明了大规模对比预训练的有效性,开启了视觉-语言模型的新纪元。 其成功催生了后续众多工作: Stable Diffusion:使用CLIP进行图像-文本对齐 LLaVA:结合CLIP视觉编码器和语言模型 Flamingo:多模态上下文学习 多模态架构设计 早期融合 视觉问答(VQA) 给定图像和自然语言问题,生成答案。 应用场景包括辅助视觉搜索、教育等。 图像生成(Text-to-Image) 根据文本描述生成图像。DALL-E、Midjourney、Stable Diffusion等模型展现出惊人的创造力。 通过CLIP等模型的实践,我们看到跨模态理解不仅可行,而且效果惊人。从零样本分类到图像生成,从视觉问答到多模态对话,多模态技术正在不断拓展AI的能力边界。

    1K10编辑于 2026-01-21
  • 视觉语言模型知识蒸馏方法优化

    大型基于Transformer架构的机器学习模型近期在视觉与语言任务中展现出卓越性能。但这类大模型往往因计算速度限制难以实时部署,实际系统通常采用知识蒸馏技术将大模型知识迁移至更轻量的学生模型。 传统蒸馏方法采用教师与学生模型注意力头一对一对齐的方式,而学生模型为降低复杂度通常会减少注意力头数量。 在AAAI 2024会议上提出的新方法突破了这一限制:将教师模型所有注意力头的知识蒸馏至学生模型全部注意力头中。当学生模型头数少于教师时,单个学生注意力头可编码多个教师头的综合信息。 实验在两个视觉语言模型(VLM)上进行,这些模型将图像和文本映射到同一向量空间,并针对视觉问答、图像描述和基于图像的翻译任务进行微调。新方法在三个任务上均超越现有基线表现。 即使学生模型头数显著少于教师,也能通过加权聚合方式有效保留多维度特征信息。该方法为部署轻量级视觉语言模型提供了新的技术路径,在保持模型效率的同时最大化知识迁移效果。

    39200编辑于 2025-08-04
  • 来自专栏活动

    仿生视觉:生物视觉模型在传感器设计中的应用

    仿生视觉就是其中之一,通过模拟生物视觉系统的工作原理,设计出具有类似功能的传感器。 本文将介绍仿生视觉技术在传感器设计中的应用,详细探讨其部署过程,并结合实例和代码解释,帮助读者更好地理解和应用这一技术。Ⅰ、项目介绍①. 背景仿生视觉是指受生物视觉系统启发而设计的一种视觉系统。 目标本项目旨在利用仿生视觉技术,设计出一种具有生物视觉特征的传感器,能够模拟生物视觉系统中的特定功能,如运动检测、目标跟踪等,以满足特定的应用需求。③. 发展历程在传感器设计领域,仿生视觉技术的应用旨在模拟生物视觉系统的功能,并将其应用于实际应用场景中。本项目的目标是设计一种具有生物视觉特征的传感器,以满足特定的应用需求,如运动检测和目标跟踪等。 生物学启发设计仿生视觉传感器将更加深入地借鉴生物视觉系统中的设计原理和机制,实现对生物视觉系统更加精细和深入的模拟。

    1.1K10编辑于 2024-04-16
领券