- 综合排序
- 最热优先
- 最新优先
Base64 图片预处理优化：多模态聚合网关带宽压缩方案
2026 年，多模态 API 调用占比持续攀升，企业多模态请求中图片类占比超 60%，Base64 编码后体积较原始二进制扩大约 33%。 带宽占用激增、传输延迟高、计费成本上涨，成为多模态规模化落地的核心瓶颈。 本文基于 2026 年 6 月实测数据，解析 Base64 带宽损耗成因、核心优化策略、平台能力评级，结合星宇智算 2.0 实践，为多模态聚合网关提供可落地的压缩方案。 五、场景化配置建议OCR / 发票场景：压缩率 70%-75%，分辨率≥1024px，格式 JPEG，缓存 TTL 3 分钟。 六、总结Base64 图片预处理是多模态聚合网关降带宽、控成本、稳服务的关键技术。通过格式转码、分辨率缩放、编码优化、智能缓存的组合策略，可实现 70%-85% 的带宽压缩，显著降低延迟与计费成本。
19910编辑于 2026-06-11- 来自专栏AI学习笔记
多模态对齐压缩：LLaVA-1.5端侧部署
多模态模型能够同时处理多种类型的数据，如文本、图像、音频等，从而更全面地理解和生成信息。LLaVA-1.5作为一款先进的多模态模型，通过创新的架构和训练方法，在多模态对齐和压缩方面取得了显著的进展。 多模态对齐模块图：特征交互与融合在实现多模态对齐后，特征交互与融合模块负责将文本和图像特征进行深度融合，以生成更丰富的多模态表示。 该论文提出了通过将语言和视觉特征映射到统一的表示空间，实现高效多模态对齐的方法。贡献与影响：提出了LLaVA多模态模型的架构和训练方法。通过多模态对齐和压缩技术，提高了模型的效率和性能。 在多个多模态任务上取得了优异的性能。与LLaVA-1.5的关联：LLaVA-1.5基于该论文的架构进行扩展和优化。引入了更多的模型压缩技术，以适应端侧设备的部署需求。2. 3.
85110编辑于 2025-07-12 - 来自专栏我爱计算机视觉
EMNLP 2021-多模态Transformer真的多模态了吗？论多模态Transformer对跨模态的影响
3）它不需要解释激活或attention。 在本文中，作者对现有模型上的交叉模态输入消融进行了研究，以证明其在理解模型行为方面的实用性。作者测试了具有不同架构但具有相同初始化和训练流程的模型。 ▊ 3. 方法 作者使用消融来确定预训练的视觉语言模型在进行预测的时候是否结合了来自两个模态的信息。 如果测试过程中，去除某个模态的信息，对最终结果影响很大，那这个模态在最终预测的时候就是有用的；否则这个模态就是没用的。 多模态模型在预测时使用由多模态输入触发的跨模态激活。 这是原始的多模态设置，因此，有效使用多模态信息的模型应该表现最好。 Object： 在这里，作者只删除与对齐的文本短语相对应的图像区域，该模型仍然可以使用周围的视觉上下文特征 。 测试的模型显示了vision-for-language，而不是language-for-vision的结果，这一事实可能是多模态任务的积累，因为一些下游多模态任务需要强烈的 vision-for-language
2.6K20发布于 2021-09-28 - 来自专栏AI SPPECH
MiniCPM-Llama3-V-2_5-Int4：量化压缩技术赋能的高效多模态推理
作为业界首次在 8GB 显存约束下实现 GPT-4V 级多模态理解能力的开源方案，MiniCPM-Llama3-V-2_5-Int4 为端侧智能推理开辟了全新的技术路径，其 150 倍图像编码加速与 3 倍语言解码加速的优化成果更是刷新了端侧多模态推理的性能边界。 V-2_5 架构解析 2.1 整体架构：从 SigLip 到 Llama3 的跨模态融合 MiniCPM-Llama3-V-2_5 采用了经典的"视觉编码器-语言解码器"双编码器架构，通过精心设计的跨模态交互机制实现了高效的多模态理解 音频模态的端侧支持 3D 点云等新模态的探索 MiniCPM-V 2.6 的后续发展19： 就在 MiniCPM-Llama3-V-2_5 发布后不久，MiniCPM-V 2.6 进一步刷新了端侧多模态的性能边界 V-2_5-Int4, 量化压缩, NF4量化, Int4量化, QLoRA, 双量化, 端侧部署, 多模态推理, SigLip, Llama3-8B, Perceiver Resampler, RLAIF-V
48810编辑于 2026-04-27 - 来自专栏啄木鸟软件测试
多模态大模型技术原理与实战(3)
·深度学习时代（2010-2019年）：多模态技术快速发展，这主要得益于以下3点: o算力快速发展。 o新的多模态数据集层出不穷。 o语言特征提取能力和视觉特征提取能力快速提高。 ·CoCa 模型：2022年 5月，谷歌公司发布了多模态模型CoCa。 o解决图像多模态问题有3种传统的思路，分别是使用单编码器模型、双编码器模型、编码器-解码器模型。 这种编码器-解码器结构有助于融合多模态特征，在多模态理解任务中表现较好，但由于缺乏单独的文本编码器，在图像检索、视频检索等任务中表现不佳 oCoCa 模型创造性地将上述 3 种思路进行有效融合，能够分别独立获得图像特征向量和文本特征向量 大模型+多模态的3种实现方法 1，以LLM 为核心，调用其他多模态组件 2023年5月，微软亚洲研究院(MSRA)联合浙江大学发布了HuggingGPT。 第一个阶段，基于 59.5万条CC3M文本-图像对齐数据训练跨模态编码器，以便将文本特征和图像特征进行语义对齐。
1.3K20编辑于 2024-09-10 - 来自专栏存内计算加速大模型
腾讯发表多模态综述，什么是多模态大模型
多模态大模型的整体架构可以被归类为如下图的五个部分，整个多模态大模型的训练可以被分为多模态理解与多模态生成两个步骤。 多模态理解包含多模态编码器，输入投影与大模型主干三个部分，而多模态生成则包含输出投影与多模态生成器两个部分，通常而言，在训练过程中，多模态的编码器、生成器与大模型的参数一般都固定不变，不用于训练，主要优化的重点将落在输入投影与输出投影之中 多模态大模型预训练的核心架构旨在整合和处理多种类型的数据模态，如文本、图像、音频等，以发掘不同模态间的深层关联并提升模型的表征能力【3】。 3. 主干网络（Backbone Network）· 作为模型的核心，主干网络通常基于Transformer架构，用于进一步处理和融合来自不同模态的信息。 （1）将图片切成16x16的小块（patch），每个块转换为一个“词向量”，再加上位置编码；（2）经过Transformer Encoder层（3）分类层4.
6.1K13编辑于 2024-05-14 - 来自专栏我爱计算机视觉
MM2023 | 3D和图文模态的碰撞，多视角多模态的统一表征
Representation，3D和图文模态的碰撞，多视角多模态的统一表征。 图1 JM3D的过程，红线表示独立对齐，绿线表示JMA修正过的对齐方式 图2 JM3D的整体框架，SMO构建多角度图片和层次化文本，JMA则完成联合模态的对比学习 2. 我们分别为视觉和语言模态设计了不同的组织方式。对于视觉模态而言，我们为每个3D素材渲染了30个视角的图片，并设计了一种临近连续采样方式去采样不同视角的图片。 因此，在实验中，之前的方法会将3D表征分别与图片表征及文本表征独立做对比学习进行对齐。然而，视觉模态和语言模态应当存在一定的隐关系，这个隐关系是可以通过图文的表征获得的。 此外，JM3D在零样本3D分类和图像检索任务中表现出卓越的性能，创造了新的最先进水平，突显了其出色的跨模态能力。未来，我们将探索不同的数据和替代的联合建模方法，进一步拓展3D的统一表示学习。
1.1K10编辑于 2023-08-31 - 来自专栏开源技术小栈
PHP Neuron V3 正式全面支持多模态
Neuron 多模态 Neuron v3 支持全面支持多模态（输入与输出） 通常纯 AI 音频服务不支持工具和对话等完整的代理能力。 '/assets/speech.mp3', base64_decode($audioBase64)); 直接使用 $provider = new OpenAITextToSpeech( key '/assets/speech.mp3', base64_decode($audioBase64)); OpenAI Audio 文本转语音 use NeuronAI\Providers\OpenAI '/assets/intro.mp3', SourceType::URL) ]) ); // 打印从音频文件中提取的文本 echo $message->getContent(); ElevenLabs '/assets/intro.mp3', SourceType::URL) ) ); // 打印从音频文件中提取的文本 echo $message->getContent(); https:
10710编辑于 2026-07-01 - 来自专栏多模态视频理解
多模态算法综述
在UCF101数据集上达到了87%的准确率图片（2）Beyond Short Snippets: Deep Networks for Video Classification，尝试了多种多帧帧见融合策略如 本文的3D卷积简单的说就是将原来3*3的卷积，扩张成为3*3*3的3D卷积。图片图片在UCF101上达到了90%的准确率，虽然本文在UCF101并没有很亮眼的表现，但是开创了3D卷积的先河。 自注意力至此视频理解算法演进到了Transformer的自监督网络架构，Transformer有两个优势，（1）更强的网络表征能力，（2）更容易设计自监督的训练任务，从而可以更有效的利用无标注数据，同时也更加注重多模态的内容理解 Vision-language Understanding with Contrastive Learning图片ALBEF包含一个图像编码器（ViT-B/16），一个文本编码器（BERT的前6层），以及一个多模态编码器 、多模态预训练方面提供大量的帮助，也给后来的文章提供了崭新的思路BLIP（Bootstrapping Language-Image Pre-training for Unified Vision-Language
3.3K30编辑于 2022-07-12 【多模态大模型】
多模态大模型的核心能力 多模态大模型通过融合视觉、听觉、文本等多维度数据实现综合理解与生成。典型应用包括： 图像到文本：识别图片内容并生成描述、广告文案或诗歌。 跨模态检索：根据文本搜索相关图像/视频，或反之。 代表模型如GPT-4V（视觉增强版）、通义千问多模态版、文心一言（ERNIE-ViLG）均支持此类任务。 多模态对齐：模型将图像特征与文本语义空间对齐，生成候选描述。 输出优化：通过强化学习调整生成文本的流畅性与吸引力。 Whisper） import whisper model = whisper.load_model("base") audio_result = model.transcribe("meeting.mp3" 多模态大模型的应用需结合具体场景调整输入预处理与后处理逻辑，以达到最佳效果。
58810编辑于 2026-01-20- 来自专栏CSDN社区搬运
多模态COGMEN详解
在本文中，我们提出了基于 COntex- tualized Graph Neural Network的多模态情感识别COGMEN）系统，该系统利用了本地信息（即说话人之间的内/外依赖性）和全局信息（上下文 “iemocap_4” --modalities=“atv” 部署方式 下载我训练好模型，以及数据集，附件里有data，modelcheckpoint文件夹，分别替换代码中的文件夹即可，我对每个单独的模态都有训练
39510编辑于 2024-12-05 - 来自专栏一点人工一点智能
多模态认知计算
神经科学相关研究[3] 表明，多种感官刺激的联合作用会产生“整体大于局部之和”的效果。例如，在观看影视剧时，画面和声音的同时刺激会给人类带来深刻，全面的感受，也帮助人类更准确地理解影视内容。 因此，可以从三方面提升机器的认知能力：(1) 优化 A，即使机器 获得更大信息量; (2) 增大 I，即利用对于给定任务信息量更大的数据; (3) 减小 D，即减小数据量。 (3) 多模态协同通过优化 A 以实现信息量 K 最大化。它利用不同模态间的关联与互补，探究高效，合理的模态间联合机制，优化 A。 本文的组织框架如下：第二节，介绍了多模态关联任务的发展现状，分为多模态对齐，多模态感知和多模态检索三个部分，并进行分析与讨论；第三节，介绍了跨模态生成任务中的跨模态合成和跨模态转换方法，并进行分析与讨论 本节从多模态对齐，多模态关联和多模态检索三方面阐述多模态关联相关工作。其中，多模态对齐是一类基础性需求，如图像区域内容和文字词汇的语义对齐，视觉唇部运动与语音声素之间的时间对齐等。
1K30编辑于 2022-12-27 多模态大模型的量化压缩方案：在效果与成本间找平衡
多模态大模型的量化与压缩是平衡模型效果与计算成本的关键技术。本文将介绍量化与压缩的主要方法、在多模态场景下的特殊挑战，以及VITA通过自研轻量级LLM底座实现成本优化的技术路径。 四、多模态模型压缩的特殊挑战 4.1 跨模态效果平衡 多模态模型需要处理多种不同类型的数据，不同模态对量化和压缩的敏感度可能不同。 在进行多模态模型压缩时，需要考虑如何在不同模态之间平衡压缩程度，避免出现某一模态的效果严重下降。 过于激进地压缩跨模态交互模块可能导致模型无法有效地融合多模态信息，从而影响整体的多模态理解能力。 4.3 压缩后的跨模态对齐保持 多模态模型的一个核心目标是实现不同模态在语义空间中的有效对齐。 此外，VITA的单模型端到端方案也使业务上线周期从传统多模型拼接方案的4–12周缩短到1–3天，整体上线耗时节约85%以上，整体成本节约80%。
13010编辑于 2026-06-22agent多模态学习
二、多模态 Agent 的整体架构 一个完整的多模态 Agent 系统通常包含以下层次，其数据流如下： 用户多模态输入 → 多模态感知层 → 意图理解与规划层 → Agent 协作层 → 工具/环境交互层 → 反馈与优化层 → 多模态输出 2.1 多模态感知层 (Multimodal Perception Layer) 作为系统的“感官”，负责将原始的多模态输入转换为结构化的特征向量。 四、多模态意图理解与任务规划 4.1 多模态意图识别 多模态意图识别旨在从用户的文本、图像、语音等多种输入中，准确判断其核心需求。 多模态分类模型：训练一个分类器，输入为多模态特征，输出为意图标签。 LLM 直接判断：利用 GPT-4V 等具备视觉能力的模型，直接分析多模态输入并输出意图。 7.2 图像生成与编辑 多模态 Agent 可以调用图像生成模型（如 DALL·E 3、Stable Diffusion），根据文本描述生成或修改图像。
96210编辑于 2026-01-15- 来自专栏学习内容
Java多文件压缩
localFileName输出的本地文件名 ZipOutputStream zipOut = new ZipOutputStream(new FileOutputStream(localFileName)); 将要压缩的文件名输入 // 要压缩的单个文件名 zipOut.putNextEntry(new ZipEntry(fileName)); 将文件的流，写入zipOut中 zipOut.write(buffer, 0, len * * @param files 需要压缩的文件列表 * @param outputStream 压缩到指定的输出流 * @author hongwei.lian * @date 2018年9月7日 下午3:11:59 */ public static void compressZip(List<File> files, OutputStream zipOutStream.setMethod(ZipOutputStream.DEFLATED); //-- 将多文件循环写入压缩包
1.2K30编辑于 2023-08-10 - 来自专栏音乐与健康
多模态很简单，搞懂多模态，站在 AI 发展的最前沿
现实世界的信息是多模态的（Multi-Modal），比如：视频 = 图像+声音+文本字幕自动驾驶 = 摄像头+激光雷达+毫米波雷达+GPS医疗AI = X光片+病历文本+基因数据 多模态融合（Multi-Modal 今天，我们就来深入拆解多模态融合的奥秘！多模态到底是什么？ “模态” 就是信息的不同形式，比如：举个例子️：你在看一部电影，如果只看画面没声音，体验是不是很割裂？ 所以，多模态融合就是让AI像人一样，把各种信息整合在一起，提高理解能力！多模态融合有哪些方式？ 3️⃣ 晚期融合（Late Fusion）—— 决策级融合 特点：不同模态的数据分别训练独立的模型，最后在决策阶段融合预测结果。 举例：医疗AI（判断病人是否有某种疾病）：模型1：分析 CT/X光 影像结果模型2：分析电子病历模型3：分析基因检测数据最终投票决策，给出综合诊断！
1.4K10编辑于 2025-07-29 - 来自专栏深度学习和计算机视觉
综述：3D目标检测多模态融合算法
作者丨蒋天园，来源丨计算机视觉工坊，编辑丨极市平台 导读 本文是一篇关于3D目标检测中多模态融合方法的综述，总结了多模态融合的难点和现有研究中的一些方法。 0 前言 本篇文章主要想对目前处于探索阶段的3D目标检测中多模态融合的方法做一个简单的综述，主要内容为对目前几篇研究工作的总结和对这个研究方面的一些思考。 在前面的一些文章中，笔者已经介绍到了多模态融合的含义是将多种传感器数据融合。在3D目标检测中，目前大都是将lidar和image信息做融合。 1 背景知识 1.1 多模态融合的主要难点 难点一：传感器视角问题 3D-CVF（ECCV20）的研究提出的做fusion的对做融合工作最大的问题即是在视角上的问题，描述为如下图所示的问题，camera 为了方便分析，在该种融合策略下，笔者按照对lidar-3D-detection的分类方法分为point-based的多模态特征融合和voxel-based的多模态特征融合。
2.4K40发布于 2020-09-30 - 来自专栏素质云笔记
多模态＋Recorder︱多模态循环网络的图像文本互匹配
. 3.我们的方法 图2：提出的选择式多模态循环网络用于图像文本匹配。 基于这些候选实例，该模型在每个时间步使用多模态上下文注意机制来选择性关注一对图像文本实例(标记为同样颜色的圆圈和矩形框)，并度量它们的相似性，具体流程可以参照图3。 为了验证提出的选择式多模态循环神经网络的有效性，我们测试了该模型衍生出的多种网络结构，并在两个公开多模态数据库(Flickr30k和Microsoft COCO)上与当前最好方法进行了对比。 考虑到草图与自然图像可能存在多视角的特征表达，且不同的视角作用差异较大，我们提出了一种基于视角选择的多视角跨模态匹配算法。 多模态搜索 网络上充斥着来自不同数据源的多模态多媒体数据；因此，亟需能够适应各种模态的信息检索系统，例如，在搜索“Dunkirk”电影时，应返回影评的相关文本数据、包含相关视频片段的视频数据、以及相关音频数据
3K20发布于 2019-05-26 - 来自专栏机器之心
多模态大模型不够灵活，谷歌DeepMind创新架构Zipper：分开训练再「压缩」
能够同时生成多种模态输出的多模态模型一般是通过某种形式的词汇扩展（将多模态表征转换为离散 token 并添加到模型的基本词汇表中）来实现的，即在预训练阶段或在后期微调阶段进行跨模态对齐。 多模态预训练方法具有很强的性能优势（例如，一个模型可以原生理解多种模态），但也有缺点。 利用丰富的无监督单模态数据，Zipper 可以在单一模态中预训练强大的纯解码器模型，然后利用交叉注意力将多个这样的预训练解码器「压缩」在一起，并利用有限的跨模态数据进行微调，实现多模态生成能力。 ，通过组合单独预训练的单模态解码器来实现多模态生成能力。 模型 Zipper 架构由两个自回归解码器 tower（或主干）组成，它们通过门控交叉注意力层「压缩」在一起。每个骨干使用下一个 token 预测功能分别对单个模态进行训练。
63110编辑于 2024-06-04 - 来自专栏强化学习专栏
多模态智能的发展
文章分类在学习摘录和笔记专栏： 学习摘录和笔记（18）---《多模态智能的发展》 多模态智能的发展 1 多模态智能定义 多模态智能旨在融合多种模态的信息进行处理实现智能应用 将多模态信号统一到同一个向量空间中，从而实现了多模态信号的交叉处理。 多模态表示：由于其复杂的跨模态交互作用和各模态训练数据与测试数据之间可能存在的失配问题，仍然是一个具有挑战性的问题。 2 多模态智能融合的发展 融合是多模态研究中的一个关键问题，它将从不同单模态数据中提取的信息整合到一个紧凑的多模态表示中。 3 中间融合技术 中间融合技术——不仅因为它更加灵活，而且由于使用了来自预先训练的骨干模型的单模特征，各阶段之间的边界也不那么清晰。
37510编辑于 2024-12-03
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号