- 综合排序
- 最热优先
- 最新优先
视觉决策模型来了，机器视觉要变天？
从Jev1.14到开源视觉决策模型，我开始重新思考机器视觉的未来。最近看到一条AI新闻，让我确实有些兴奋。 如果要使用它，就得先让视觉模型把图片转成文字，再由Jev进行判断。虽然理论上可行，但相当于同时运行两个模型，增加了调用链路，也存在视觉信息在文字描述中丢失的风险。 现在，视觉决策模型提供了第三种值得研究的选择。它尝试结合视觉理解能力与结构化决策能力。对于一些原本需要VLM生成文字才能完成的判断，未来可能通过一次模型推理就得到明确的分类和概率结果。 视觉决策模型能否实现类似的实时性，还需要考虑图像编码、推理延迟、吞吐量和实际检测效果。但至少现在，我们不必再把视觉业务完全局限在传统目标检测和生成式视觉大模型这两条技术路线上。 因此，我认为未来比较理想的架构，可能不是单纯依赖某一种模型，而是让不同模型承担不同的工作：目标检测模型负责快速寻找明确目标；视觉决策模型负责高频判断；复杂的视觉语言模型负责疑难场景分析；业务规则系统负责最终的告警与处置
14910编辑于 2026-10-16- 来自专栏深度学习和计算机视觉
视觉词袋模型简介
简介 视觉单词袋是一种描述计算图像之间相似度的技术。常用于用于图像分类当中。该方法起源于文本检索（信息检索），是对NLP“单词袋”算法的扩展。 在“视觉单词袋”中，我们的输入是图像而不是文本文档，并且我们使用视觉单词来描述图像。 ? 文字文档袋 ? 图像视觉词袋 ? 视觉单词 在BovW中，我们将图像分解为一组独立的特征，特征由关键点和描述符组成，关键点与兴趣点是同一件事。它们某些是空间位置或图像中的点，这些位置定义了图像中的突出部分。 每个聚类的中心（质心）都充当一个视觉单词，所有这些K组的重心构成了我们的字典。 ? K均值聚类 03. 直方图的创建 ? 检测视觉单词 现在我们将创建一个（N，K）的二维数组，我们将在接下来的几行中看到如何填充此数组。
1.9K10发布于 2021-01-06 - 来自专栏大模型应用
大模型应用：轻量化视觉语言模型（VLM）：基于多模态视觉大模型实践.87
一、前言 随着大模型技术从单一文本交互迈向多模态智能时代，视觉语言模型（VLM）已成为连接图像感知与语言理解的关键载体。 超紧凑视觉语言模型的出现，正是大模型技术走向普惠化、轻量化与端侧化的重要突破。 轻量级VLM对大模型生态的意义轻量级 VLM（如 Qwen2-VL-2B）是大模型从云端专属越来越普及可用的核心桥梁，其价值体现在 5 个方面：1. 拓展应用场景：可部署在智能摄像头、手机、智能家居等端侧设备，实现离线识图问答、本地相册AI分析、车载视觉交互等场景；5. 技术普惠：让中小团队、个人开发者能参与多模态AI的研发与创新，推动生态多元化。 视觉编码器：采用轻量化视觉模型（如MobileNet、TinyViT）将原始像素压缩为固定维度的视觉特征向量，保留关键语义信息，同时控制计算开销。5.
1.3K22编辑于 2026-04-25 - 来自专栏TechBlog
通用视觉框架OpenMMLab图像分类与基础视觉模型
hat{X}) 传统方法：设计图像特征(1990s~2000s) 特征工程的天花板 在ImageNet 图像识别挑战赛里，2010 和2011 年的冠军队伍都使用了经典的视觉方法，基于手工设计的特征+ 从特征工程到特征学习 层次化特征的实现方式 AlexNet 的诞生& 深度学习时代的开始 在2012 年的竞赛中，来自多伦多大学的团队首次使用深度学习方法，一举将错误率降低至15.3% ，而传统视觉算法的性能已经达到瓶颈 ：基于标注数据学习 • 损失函数 • 随机梯度下降算法 • 视觉模型常用训练技巧 • 自监督学习：基于无标注的数据学习 AlexNet (2012) 第一个成功实现大规模图像的模型，在ImageNet 数据集上达到~85% 的top-5 准确率。 没有引入额外参入，让参数更有效贡献到最终的模型中 残差网络ResNet (2015) ResNet-34 34层ImageNet Top-5 准确率：94.4% 5 级，每级包含若干残差模块，不同残差模块个数不同
1.2K20编辑于 2023-02-24 - 来自专栏人工智能
什么是视觉语言基础模型？
本文就来聊聊这个视觉语言基础模型。Vision-Language Foundation Model 是一类能够同时处理视觉和语言信息的人工智能模型。 什么是视觉语言基础模型视觉语言基础模型是一种能够理解和生成视觉与语言信息的多模态人工智能模型。 其目标是建立视觉与语言之间的语义联系，从而使得模型能够处理复杂的跨模态任务。典型的视觉语言基础模型包括 CLIP、DALL·E 和 Flamingo 等。 这种任务通常采用视觉语言基础模型如 Flamingo，该模型通过跨模态注意力机制，将视觉和语言信息深度融合，从而实现精准回答。 更强的生成能力：提升文本到图像生成模型的质量和可控性。总结视觉语言基础模型通过整合视觉和语言信息，为多模态任务提供了强大的技术支持。
60400编辑于 2025-01-01 supervision如何整理视觉模型输出
先给结论：它解决的不是训练模型，而是视觉应用里反复重写的胶水层roboflow/supervision是Roboflow维护的Python计算机视觉工具库，README对它的定位是“essentialtoolkitforcomputervision 它的关键对象是可复用视觉组件，例如数据加载、检测结果结构、标注绘制、数据集处理、区域计数和模型输出后处理，而不是替开发者完成模型训练。 短期最适合已经有视觉模型和样例图片、但后处理脚本混乱的开发者；如果你还没有确定模型、输入数据和验收口径，先不要把它当成完整视觉应用框架。 README示例展示的形态是len(detections)可以返回数字，并给出示例结果5。如果后续要做评估指标或GeoTIFF场景，再安装pyproject.toml中的可选依赖。 是否值得放进日常：看它能不能减少模型切换成本对AI工具和开发者工作流读者来说，supervision的价值不在“又多一个视觉库”，而在它能否让视觉项目从“每个模型一套脚本”变成“模型可换，后处理接口尽量稳定
38620编辑于 2026-07-01- 来自专栏AI工程落地
VLM视觉模型处理过程
对于尺寸为(H * W)的图像，视觉token数为：N = (H/14) * (W/14)如果直接做Attention注意力计算，时间复杂度为：O(N^2)。 所以，vision attention只有一个动态值：共有多少个window（结合了图片数和图片大小两个变量）另外，Qwen2.5 VL有一些小参数量模型中，还保留几层full attention，比如 ：qwen2.5 VL 3B视觉模型中，7、15、23、31层是full attention，所有图片token一起做注意力计算。 , dtype=torch.int32), input shape: torch.Size([3540, 1, 1024]) 可以看到模型把两张图片分开 当然两个模型执行的底层代码都一样，相应的代码位置：vllm/vllm/v1/attention/ops/vit_attn_wrappers.py at main · vllm-project/vllm
69911编辑于 2026-02-09 - 来自专栏机器学习与生成对抗网络
PaLI-3：5B参数视觉语言模型，110体量达到SOTA！谷歌发布
最近，堪称改变游戏规则的视觉语言模型（VLM）PaLI-3问世，引得大量科研人员关注。 PaLI-3是谷歌最新推出的视觉语言模型，以更小的体量，更快的推理速度，达到了更强的性能。 而PaLI-3仅拥有5B的参数量，在定位和文本理解等任务中表现出色，刷新了多个SOTA。 论文地址：https://arxiv.org/abs/2310.09199? ref=emergentmind 该模型利用VIT-G14作为图像编码器，拥有2B参数的多模态对比视觉模型。 人工智能与视觉语言模型 在快节奏的人工智能世界中，视觉语言模型已成为变革型技术，其技术的发展，不断地模糊了图像理解与文本理解的之间的界限。 进而，将视觉和文本的特征合并起来，输入到30亿参数的UL2编码-解码器语言模型中，以实现精确的文本生成，或用于特征任务的查询提升，例如视觉问答（VQA）。
1.2K20编辑于 2023-11-03 - 来自专栏机器之心
谷歌视觉语言模型PaLI-3问世，参数仅5B，更小、更快、更强
作为一个多模态大模型，PaLI 的关键结构之一是复用大型单模态基干进行语言和视觉建模，在语言方面复用 13B 参数的 mT5-XXL，在视觉方面复用 2B 参数的 ViT-G 和 4B 参数的 ViT-e 通过一个仅有 5B 参数的预训练基线模型，他们优化了训练方法，并在多个 VLM 基准上实现了有竞争力以及新的 SOTA 结果。 论文地址：https://arxiv.org/pdf/2310.09199.pdf 下图为 5B PaLI-3 模型概览，其中通过对比预训练的 2B SigLIP 视觉模型，图像被单独地编码成了视觉 token 除了 5B PaLI-3 模型之外，研究者还利用最近提出的 SigLIP 方法，构建了一个参数扩展到 2B 的 SOTA 多语言对比视觉模型。 先看视觉组件。研究者使用 SigLIP 训练方法，从对比预训练的 ViT-G/14 模型（参数约为 2B）初始化出 PaLI-3 的视觉基干。
1.2K30编辑于 2023-10-24 - 来自专栏一点人工一点智能
小白系列（5）| 计算机视觉：3D立体视觉
01 介绍 本文中，我们将讨论立体视觉，这是一种使用两个或多个摄像机来生成全视场三维测量的机器视觉技术。 02 什么是立体（3D）视觉？ 这类似于人类视觉的工作原理。我们大脑同时整合来自两只眼睛的图像，从而产生三维视觉： 尽管每只眼睛只产生二维图像，但人脑可以通过结合两个视角并识别它们之间的差异来感知深度。我们称这种能力为立体视觉。 它感知深度和三维形状的能力被称为立体视觉。 04 计算机系统如何实现立体视觉 我们需要估计每个点的深度，从而从二维图像中生成三维图像。 这是在3D计算机图形和计算机视觉中表示场景深度的常见方式。我们可以在上述图像的左下角看到深度图的一个示例。 05 立体视觉的几何基础 对极几何是立体视觉的几何学基础。 这些关系是基于针孔相机模型开发的。我们假设可以使用这些关系来表示法线。 当一个3D物体在图像中被捕捉（投影）时，它被投影到一个2D（平面）投影空间中。这种所谓的“平面投影”会导致深度的丢失。
2K50编辑于 2023-09-04 - 来自专栏一点人工一点智能
小白系列（5）| 计算机视觉：3D立体视觉
作者：DrMax 编辑：东岸因为@一点人工一点智能 01 介绍 本文中，我们将讨论立体视觉，这是一种使用两个或多个摄像机来生成全视场三维测量的机器视觉技术。 02 什么是立体（3D）视觉？ 这类似于人类视觉的工作原理。我们大脑同时整合来自两只眼睛的图像，从而产生三维视觉： 尽管每只眼睛只产生二维图像，但人脑可以通过结合两个视角并识别它们之间的差异来感知深度。我们称这种能力为立体视觉。 它感知深度和三维形状的能力被称为立体视觉。 04 计算机系统如何实现立体视觉 我们需要估计每个点的深度，从而从二维图像中生成三维图像。 这是在3D计算机图形和计算机视觉中表示场景深度的常见方式。我们可以在上述图像的左下角看到深度图的一个示例。 05 立体视觉的几何基础 对极几何是立体视觉的几何学基础。 这些关系是基于针孔相机模型开发的。我们假设可以使用这些关系来表示法线。 当一个3D物体在图像中被捕捉（投影）时，它被投影到一个2D（平面）投影空间中。这种所谓的“平面投影”会导致深度的丢失。
1.2K30编辑于 2023-09-08 - 来自专栏友儿
盒模型与视觉格式化模型深度解析
一、盒模型与视觉格式化模型 盒模型：规定单个盒子尺寸和位置的规则。 视觉格式化模型（布局规则）：页面上多个盒子排列的规则。视觉格式化模型大体上将页面中盒子的排列分为三种方式：常规流、浮动、定位。
30610编辑于 2024-08-31 - 来自专栏Python编程和深度学习
BBN：长尾视觉识别模型（CVPR 2020）
如上图所示，计算机视觉识别任务中经常面临长尾数据分布的挑战，即少数类占有多数样本，多数类只有少数样本。 如下图（Figure 2）所示，以左边图为例，先看第1列，即固定表征学习部分的参数（采用交叉熵CE训练得到的），从上往下3行分别表示采用RS、RW、CE训练得到的分类器，其中RS得到的模型效果最好，RS 因此文中认为，表征学习部分应该在数据原有的分布上进行训练，RS和RW这些改进方法只需要加在分类器学习上即可，从而提出了Bilateral-Branch Network (BBN)以提高模型在长尾分布数据上的性能
2.4K20发布于 2020-09-04 - 来自专栏练小习的专栏
视觉格式化模型-控制框
一、块级元素和块框 块级元素是源文档中那些在视觉上被格式化为块（如：段落）的元素。
1.1K90发布于 2017-12-29 - 来自专栏ZackSock
【计算机视觉处理5】阈值处理
【计算机视觉处理5】阈值处理 1、阈值处理 阈值处理就是设定某个阈值，然后对大于阈值的像素或者小于阈值的像素统一处理的过程。比如下面这个简单的图像： ?
1.6K30发布于 2021-05-18 - 来自专栏CreateAMind
视觉意识的主动推理模型
具体来说,我们提出了一个基于主动推理的视觉意识的层次化、部分可观察的马尔可夫决策过程(POMDP)模型。 接下来,我们转向预期在视觉意识中的作用,并展示我们的模型如何扩展 GNW 理论的原始四向分类法,以包含在逐个试验的基础上操纵先前预期的范式——突出从这种扩展中出现的新预测。 从技术上讲,推理指的是更新关于隐藏状态的信念,而学习对应于更新由上述矩阵指定的生成模型的参数(关于该参数的信念) 2.2 视觉意识的深层时间模型为了模拟有意识和无意识感知之间的差异,我们基于 Pitts 5. 结论和未来方向本文介绍了全局神经元工作空间的正式扩展——预测性全局神经元工作空间——在深度主动推理架构中实现。 除了解释和统一视觉意识的神经相关文献中不同的发现之外,这里提出的预测性全球神经元工作区模型还产生了几个经验预测和机械神经计算解释,涉及 P3 和主观报告的关系、有意识通路下推理机制的神经生物学实现以及视觉意识中预期的作用
1K20编辑于 2022-04-15 - 来自专栏人工智能
多模态AI与视觉语言模型
CLIP的影响 CLIP证明了大规模对比预训练的有效性，开启了视觉-语言模型的新纪元。 其成功催生了后续众多工作： Stable Diffusion：使用CLIP进行图像-文本对齐 LLaVA：结合CLIP视觉编码器和语言模型 Flamingo：多模态上下文学习 多模态架构设计 早期融合 视觉问答（VQA） 给定图像和自然语言问题，生成答案。 应用场景包括辅助视觉搜索、教育等。 图像生成（Text-to-Image） 根据文本描述生成图像。DALL-E、Midjourney、Stable Diffusion等模型展现出惊人的创造力。 通过CLIP等模型的实践，我们看到跨模态理解不仅可行，而且效果惊人。从零样本分类到图像生成，从视觉问答到多模态对话，多模态技术正在不断拓展AI的能力边界。
1K10编辑于 2026-01-21 视觉语言模型知识蒸馏方法优化
大型基于Transformer架构的机器学习模型近期在视觉与语言任务中展现出卓越性能。但这类大模型往往因计算速度限制难以实时部署，实际系统通常采用知识蒸馏技术将大模型知识迁移至更轻量的学生模型。 传统蒸馏方法采用教师与学生模型注意力头一对一对齐的方式，而学生模型为降低复杂度通常会减少注意力头数量。 在AAAI 2024会议上提出的新方法突破了这一限制：将教师模型所有注意力头的知识蒸馏至学生模型全部注意力头中。当学生模型头数少于教师时，单个学生注意力头可编码多个教师头的综合信息。 实验在两个视觉语言模型（VLM）上进行，这些模型将图像和文本映射到同一向量空间，并针对视觉问答、图像描述和基于图像的翻译任务进行微调。新方法在三个任务上均超越现有基线表现。 即使学生模型头数显著少于教师，也能通过加权聚合方式有效保留多维度特征信息。该方法为部署轻量级视觉语言模型提供了新的技术路径，在保持模型效率的同时最大化知识迁移效果。
39200编辑于 2025-08-04- 来自专栏量子位
5分钟端侧部署视觉大模型！专为Transformer优化的AI芯片来了
5分钟就能完成原版Swin Transformer端侧部署 AX650N是AI芯片公司爱芯元智发布的第三代端侧芯片。 爱芯元智联合创始人、副总裁刘建伟介绍： 用AX650N在端侧部署原版Swin Transformer，从拿到测试板到demo复现，只需要5分钟，再到在自己的私有环境里跑起来私有模型，只要1个小时就能搞定 对了，除了上面的Swin Transformer，AX650N还适配ViT/DeiT、DETR在内的Transformer模型，Meta最新发布的视觉模型DINOv2也达到了30帧以上的运行结果。 而基于Transformer的视觉大模型，采用无监督学习的方式进行了训练，遇到新的就能直接识别（也就是zero-shot或者one-shot能力），可以省去很大的时间和训练成本。 关于爱芯元智 爱芯元智成立于2019年5月，是一家人工智能视觉感知芯片研发及基础算力平台公司。 创始人、董事长兼CEO仇肖莘本硕毕业于清华大学自动化专业，博士毕业于美国南加州大学电子工程专业。
1.7K20编辑于 2023-08-03 - 来自专栏活动
仿生视觉：生物视觉模型在传感器设计中的应用
仿生视觉就是其中之一，通过模拟生物视觉系统的工作原理，设计出具有类似功能的传感器。 本文将介绍仿生视觉技术在传感器设计中的应用，详细探讨其部署过程，并结合实例和代码解释，帮助读者更好地理解和应用这一技术。Ⅰ、项目介绍①. 背景仿生视觉是指受生物视觉系统启发而设计的一种视觉系统。 目标本项目旨在利用仿生视觉技术，设计出一种具有生物视觉特征的传感器，能够模拟生物视觉系统中的特定功能，如运动检测、目标跟踪等，以满足特定的应用需求。③. // Arduino代码示例：简单的数据滤波#define SENSOR_PIN 2#define FILTER_WINDOW_SIZE 5 // 滤波窗口大小int sensorValues[FILTER_WINDOW_SIZE 生物学启发设计仿生视觉传感器将更加深入地借鉴生物视觉系统中的设计原理和机制，实现对生物视觉系统更加精细和深入的模拟。
1.1K10编辑于 2024-04-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号