- 综合排序
- 最热优先
- 最新优先
- 来自专栏RTMP推送
基于RTSP|RTMP低延迟视频链路的多模态情绪识别系统构建与实现
系统架构：视频链路 × 多模态情绪识别一个稳定、可扩展的多模态情绪识别系统，必须在视频链路与AI 推理链路之间形成紧密耦合，确保数据采集、传输、解码、分析和反馈环节的延迟都被压缩到毫秒级别。 (3) 多模态数据融合情绪识别并不仅限于视觉特征，通常还需要引入其他模态的数据： 视觉模态：面部表情、眼部运动、头部姿态。 语音模态：语调变化、语速、音色波动。 技术实现细节与优化策略为了让“低延迟播放 × 多模态情绪识别”在真实场景中稳定运行，需要在视频链路构建、多模态数据同步、模型推理优化等多个维度进行工程级优化。 (2) 多模态数据同步机制情绪识别往往需要结合视频帧与音频特征，因此必须确保两类数据时间戳严格对齐。 大牛直播SDK（SmartMediaKit）通过 RTSP、RTMP 等低延迟播放模块，为多模态情绪识别系统提供了稳定、高效、跨平台的视频输入能力，使得 AI 推理结果能够在真实场景中做到秒级甚至毫秒级反馈
54410编辑于 2025-08-13 多模态 AI 学生心理测评系统：用技术读懂成长的“情绪密码”
而多模态 AI 学生心理测评系统，正是通过整合语言、表情、语音等多维度信息的技术优势，成为读懂学生心理的“智能帮手”，从根本上解决了传统测评“单一数据、主观偏差”的痛点，这也是多模态融合技术在教育心理领域的核心价值体现 答案很简单：普通问卷靠“学生主动说”，而多模态 AI 靠“技术主动读”。 传统测评依赖学生主观填写，很容易出现隐瞒情绪、敷衍作答的情况，导致测评结果失真；而多模态 AI 的核心逻辑，是通过多源数据交叉验证，让心理状态“可视化、可量化”。 第二个是“多模态数据融合引擎”——这是系统的“核心算法中枢”。不同类型的数据格式差异很大，比如表情是图像数据、语音是音频数据、文本是文字数据，直接分析无法产生关联。 在教育心理健康愈发受重视的当下，多模态 AI 学生心理测评系统的核心价值，是用技术手段弥补传统测评的不足，让那些“说不出口”的情绪被精准捕捉。
58110编辑于 2025-12-10- 来自专栏我爱计算机视觉
EMNLP 2021-多模态Transformer真的多模态了吗？论多模态Transformer对跨模态的影响
Motivation 视觉语言BERT模型扩展了BERT架构，以生成多模态输入的跨模态上下文表示。当对一系列下游任务进行微调时，这些模型已被证明是非常有效的。 如果测试过程中，去除某个模态的信息，对最终结果影响很大，那这个模态在最终预测的时候就是有用的；否则这个模态就是没用的。 多模态模型在预测时使用由多模态输入触发的跨模态激活。 这是原始的多模态设置，因此，有效使用多模态信息的模型应该表现最好。 Object： 在这里，作者只删除与对齐的文本短语相对应的图像区域，该模型仍然可以使用周围的视觉上下文特征 。 测试的模型显示了vision-for-language，而不是language-for-vision的结果，这一事实可能是多模态任务的积累，因为一些下游多模态任务需要强烈的 vision-for-language ▊ 作者简介 研究领域：FightingCV公众号运营者，研究方向为多模态内容理解，专注于解决视觉模态和语言模态相结合的任务，促进Vision-Language模型的实地应用。
2.5K20发布于 2021-09-28 - 来自专栏Shimmer3
NeuroLynQ：基于Shimmer传感平台的群体情绪识别系统
关键词：Shimmer3、NeuroLynQ、情绪识别、GSR、ECG、神经营销、可穿戴传感器、群体分析 一、简介：Shimmer 与神经营销的结合 NeuroLynQ 是 Shimmer 公司基于其可穿戴传感平台推出的一体化情绪监测解决方案 ，主要用于群体生理信号分析和情绪识别。 五、典型应用场景 应用场景 功能说明 神经营销 分析广告、电影、产品设计对用户情绪的影响 教育反馈 分析学生在教学过程中的专注与情绪变化 公共演讲测试 对演讲稿或政治宣传材料的群体反应评估 UX设计优化 实现了群体级别的情绪识别和实时生理分析，是传统问卷式评估方式的重要补充与升级。 如果你正在寻找一套可快速部署、支持多人同步、数据可靠的情绪监测系统，NeuroLynQ 是一个值得关注的解决方案。
28110编辑于 2025-06-18 - 来自专栏镁客网
打造情绪识别系统，Affectiva要让汽车“看”懂人心
该如何识别一个面瘫的情绪表露？ 此前，软银和丰田进行合作，意图打造一台“有感情”的无人驾驶汽车，能够跟用户进行“情感”交流。 目前，这个想法似乎还没有实现，而就在日前，据外媒报道，一家名为Affectiva的公司有望通过一种车载情绪识别系统来为车主们改善心情。 ? 按照一般原理，每个人的脸上都会有情绪表露的细微痕迹，只要进行细致入微的观察，便可获悉他人的情绪。 据了解，Affectiva的系统采用了一个聚焦于驾驶员面部的摄像头，以对人类面部决定情绪表达的部位进行识别。 事实上，关于情绪识别，微软中国研究院已经有了不错的成果，并将之在平台上进行了开放。
1.2K40发布于 2018-05-29 - 来自专栏存内计算加速大模型
腾讯发表多模态综述，什么是多模态大模型
在本文中，追踪多模态大模型最新热点，讨论多模态关键技术以及现有在情绪识别上的应用。 ，并且提供了现有主流的 26 个多模态大模型的简介，总结了提升多模态大模型性能的关键方法，多模态大模型脱胎于大模型的发展，传统的多模态模型面临着巨大的计算开销，而 LLMs 在大量训练后掌握了关于世界的 多模态大模型的整体架构可以被归类为如下图的五个部分，整个多模态大模型的训练可以被分为多模态理解与多模态生成两个步骤。 多模态理解包含多模态编码器，输入投影与大模型主干三个部分，而多模态生成则包含输出投影与多模态生成器两个部分，通常而言，在训练过程中，多模态的编码器、生成器与大模型的参数一般都固定不变，不用于训练，主要优化的重点将落在输入投影与输出投影之中 5.多模态应用以下是多模态大模型在表情识别和效价唤醒(VA)的应用，挑战要求参与者以时间连续的方式(即每0.25秒)预测情绪维度(即唤醒和效价)我们提出的方法主要由三个模块组成:预处理和特征提取模块、损失函数和融合模块
5.7K13编辑于 2024-05-14 agent多模态学习
二、多模态 Agent 的整体架构 一个完整的多模态 Agent 系统通常包含以下层次，其数据流如下： 用户多模态输入 → 多模态感知层 → 意图理解与规划层 → Agent 协作层 → 工具/环境交互层 → 反馈与优化层 → 多模态输出 2.1 多模态感知层 (Multimodal Perception Layer) 作为系统的“感官”，负责将原始的多模态输入转换为结构化的特征向量。 四、多模态意图理解与任务规划 4.1 多模态意图识别 多模态意图识别旨在从用户的文本、图像、语音等多种输入中，准确判断其核心需求。 多模态分类模型：训练一个分类器，输入为多模态特征，输出为意图标签。 LLM 直接判断：利用 GPT-4V 等具备视觉能力的模型，直接分析多模态输入并输出意图。 七、多模态内容生成 7.1 文本生成 基于融合后的多模态上下文，LLM 可以生成更精准、丰富的文本回复。
48810编辑于 2026-01-15- 来自专栏CSDN社区搬运
多模态COGMEN详解
概述 情绪是人类行动的一个固有部分，因此，开发能够理解和识别人类情绪的人工智能系统势在必行。在涉及不同人的对话中，一个人的情绪会受到其他说话者的言语和他们自己在言语中的情绪状态的影响。 在本文中，我们提出了基于 COntex- tualized Graph Neural Network的多模态情感识别COGMEN）系统，该系统利用了本地信息（即说话人之间的内/外依赖性）和全局信息（上下文 “iemocap_4” --modalities=“atv” 部署方式 下载我训练好模型，以及数据集，附件里有data，modelcheckpoint文件夹，分别替换代码中的文件夹即可，我对每个单独的模态都有训练
32410编辑于 2024-12-05 【多模态大模型】
多模态大模型的核心能力 多模态大模型通过融合视觉、听觉、文本等多维度数据实现综合理解与生成。典型应用包括： 图像到文本：识别图片内容并生成描述、广告文案或诗歌。 跨模态检索：根据文本搜索相关图像/视频，或反之。 代表模型如GPT-4V（视觉增强版）、通义千问多模态版、文心一言（ERNIE-ViLG）均支持此类任务。 多模态对齐：模型将图像特征与文本语义空间对齐，生成候选描述。 输出优化：通过强化学习调整生成文本的流畅性与吸引力。 模型训练与优化要点 数据准备：需对齐的多模态数据集（如COCO-Captions、AudioSet）。 多模态大模型的应用需结合具体场景调整输入预处理与后处理逻辑，以达到最佳效果。
29710编辑于 2026-01-20- 来自专栏多模态视频理解
多模态算法综述
在UCF101数据集上达到了87%的准确率图片（2）Beyond Short Snippets: Deep Networks for Video Classification，尝试了多种多帧帧见融合策略如 自注意力至此视频理解算法演进到了Transformer的自监督网络架构，Transformer有两个优势，（1）更强的网络表征能力，（2）更容易设计自监督的训练任务，从而可以更有效的利用无标注数据，同时也更加注重多模态的内容理解 Vision-language Understanding with Contrastive Learning图片ALBEF包含一个图像编码器（ViT-B/16），一个文本编码器（BERT的前6层），以及一个多模态编码器 、多模态预训练方面提供大量的帮助，也给后来的文章提供了崭新的思路BLIP（Bootstrapping Language-Image Pre-training for Unified Vision-Language BLIP采用了判断-生成任务的MED，可以作为单模态编码器，基于图像的文本编码器解码器采用了CapFilt的训练方法，降低噪声图文pair对训练造成的影响图片Mult-streamMult-stream
3.1K30编辑于 2022-07-12 - 来自专栏一点人工一点智能
多模态认知计算
进而，根据机器对多模态信息的认知模式，从多模态关联，跨模态生成和多模态协同这 三个方面对现有方法进行了梳理与总结，系统地分析了其中的关键问题与解决方案。 作为多模态认知计算的三条主 线，多模态关联，跨模态生成和多模态协同是提升机器认知能力的有效途径，已成为国内外科研人员密切关注的研究热点。 本文的组织框架如下：第二节，介绍了多模态关联任务的发展现状，分为多模态对齐，多模态感知和多模态检索三个部分，并进行分析与讨论；第三节，介绍了跨模态生成任务中的跨模态合成和跨模态转换方法，并进行分析与讨论 本节从多模态对齐，多模态关联和多模态检索三方面阐述多模态关联相关工作。其中，多模态对齐是一类基础性需求，如图像区域内容和文字词汇的语义对齐，视觉唇部运动与语音声素之间的时间对齐等。 人类可以轻松自如地对视，听，嗅，味，触等多模态感知进行归纳融合，并进行联合演绎，以做不同的决策和动作。在多模态认知计算中，多模态协同是指协调两个或者两个以上的模态数据，互相配合完成多模态任务。
95830编辑于 2022-12-27 - 来自专栏素质云笔记
多模态＋Recorder︱多模态循环网络的图像文本互匹配
为了验证提出的选择式多模态循环神经网络的有效性，我们测试了该模型衍生出的多种网络结构，并在两个公开多模态数据库(Flickr30k和Microsoft COCO)上与当前最好方法进行了对比。 所提出的选择式多模态循环网络是一个动态模型，在每一时间步，它利用基于上下文的多模态注意机制选择图像文本中语义上相同的目标和词语，并计算其相似性作为图像文本的局部相似性，然后进行序列化融合得到全局相似性。 考虑到草图与自然图像可能存在多视角的特征表达，且不同的视角作用差异较大，我们提出了一种基于视角选择的多视角跨模态匹配算法。 我们在两个经典的细粒度草图-图像数据集上进行了大量的实验，结果表明所提出的方法可以有效利用多模态多视角特性并提升检索性能。 多模态搜索 网络上充斥着来自不同数据源的多模态多媒体数据；因此，亟需能够适应各种模态的信息检索系统，例如，在搜索“Dunkirk”电影时，应返回影评的相关文本数据、包含相关视频片段的视频数据、以及相关音频数据
2.8K20发布于 2019-05-26 - 来自专栏音乐与健康
多模态很简单，搞懂多模态，站在 AI 发展的最前沿
现实世界的信息是多模态的（Multi-Modal），比如：视频 = 图像+声音+文本字幕自动驾驶 = 摄像头+激光雷达+毫米波雷达+GPS医疗AI = X光片+病历文本+基因数据 多模态融合（Multi-Modal 今天，我们就来深入拆解多模态融合的奥秘！多模态到底是什么？ “模态” 就是信息的不同形式，比如：举个例子️：你在看一部电影，如果只看画面没声音，体验是不是很割裂？ 所以，多模态融合就是让AI像人一样，把各种信息整合在一起，提高理解能力！多模态融合有哪些方式？ 举例：视频情感分析：视觉CNN 负责提取人脸表情特征语音RNN 负责分析说话语调文本BERT 负责分析字幕文本最后融合所有信息，判断人物情绪！ 优点：既能保留各模态特征，又能降低数据噪声，比较均衡。 多模态音乐治疗（多感官刺激睡眠疗法），包括声刺激抑制听觉警觉，动态光照重置生物钟，电磁刺激修复脑波节律，芳香分子安抚情绪，它们像精密齿轮般咬合，相辅相成，从不同感官通路“包抄”失眠的症结，让每一个失眠患者重拾安稳睡眠
1.2K10编辑于 2025-07-29 - 来自专栏全栈程序员必看
多模态情感识别_多模态融合的情感识别研究「建议收藏」
情感表达的模态包括面部表情、语音、姿势、生理信号、文字等,情感识别本质上是一个多模态融合的问题。 提出一种多模态融合的情感识别算法,从面部图像序列和语音信号中提取表情和语音特征,基于隐马尔可夫模型和多层感知器设计融合表情和语音模态的情感分类器。 提出的多模态识别算法较好地利用了视频和音频中的情感信息,相比于仅利用语音模态的识别结果有较大的提升,相比于表情模态的识别结果也有一定改进,是一种可以采用的情感识别算法。
1.7K10编辑于 2022-06-24 - 来自专栏学习
机器学习——多模态学习
多模态学习：机器学习领域的新视野 引言 多模态学习（Multimodal Learning）是机器学习中的一个前沿领域，它涉及处理和整合来自多个数据模式（如图像、文本、音频等）的信息。 随着深度学习的蓬勃发展，多模态学习在许多应用领域中获得了广泛关注，例如自动驾驶、医疗诊断、智能助理等。本篇博客将深入探讨多模态学习的概念、方法以及一些代码示例，帮助读者更好地理解这一重要课题。 什么是多模态学习？ 多模态学习旨在同时处理来自不同模态的数据，从而提高模型的表现能力。 多模态学习的挑战 多模态学习面临一些独特的挑战，例如： 模态间的异质性：不同模态数据的性质差异较大，例如图像是二维数据，文本是序列数据。 对齐问题：不同模态之间可能需要对齐，如图像和文本的时间同步。 多模态模型能够同时处理这些信息，从而理解视频的内容并进行分类、检索或生成描述。 结论 多模态学习是一个快速发展的领域，其潜力非常巨大。
62110编辑于 2024-10-10 - 来自专栏强化学习专栏
多模态智能的发展
文章分类在学习摘录和笔记专栏： 学习摘录和笔记（18）---《多模态智能的发展》 多模态智能的发展 1 多模态智能定义 多模态智能旨在融合多种模态的信息进行处理实现智能应用 将多模态信号统一到同一个向量空间中，从而实现了多模态信号的交叉处理。 多模态表示：由于其复杂的跨模态交互作用和各模态训练数据与测试数据之间可能存在的失配问题，仍然是一个具有挑战性的问题。 2 多模态智能融合的发展 融合是多模态研究中的一个关键问题，它将从不同单模态数据中提取的信息整合到一个紧凑的多模态表示中。 早期融合：即特征级融合，直接将从各类单模态数据中提取的特征组合在一起，以强调模态间的相互作用，从而抑制模态间的相互作用。
31510编辑于 2024-12-03 - 来自专栏喔家ArchiSelf
浅析多模态机器学习
多模态大模型就是指模型可以处理多种结构/类型的数据，例如GPT-4，它既可以处理你输入的文本，也可以处理你上传的图片。 那么，多模态到底意味着什么呢？ 1. 什么是多模态？ 对于单词、句子或段落这样的模态而言，有两种类型：书面（文本）和声音（转录）。举个例子，假设从一段文本中提取了一个单词，想要了解这是正面还是负面的情绪。该怎么做呢？ 用这个one-hot向量将作为最大熵模型的输入向量，进而进行情绪分类，命名实体分类（名字 vs 地方 vs 实体），或者词性标注（动词，名词，形容词）等。 然后可以运行同样的任务，就像上面做的情绪分类一样。 最后，在看看声音模态。假设正在聆听一个音频，基本上，音频是一个非常长的一维向量，可以使用此向量并运行分类问题以转录语音。 3.2 多模态机器翻译 多模态机器翻译涉及从多个模态中提取信息，基于这样的假设，附加的模态将包含有用的输入数据的替代视图。
80321编辑于 2023-09-02 - 来自专栏算法之名
多模态大模型篇
在CV方向上，一般我们输入的都是图片，无论这个图片多大，都会resize到一个统一的尺寸。最终经过CNN的提取，变成一个特征向量，那么这个特征向量的维度是一样的。再经过softmax变成一个分类(Class)的概率
1.5K51编辑于 2023-10-16 - 来自专栏音乐与健康
基于深度学习的多模态音乐可视化-多模态音乐治疗
目前，大多数的研究都集中在听觉和视觉模态相结合的多模式情绪识别上，然而，来自中枢神经系统，例如 EEG 信号和外部行为，例如眼球运动的多模态结合已被证明是对情绪识别更加有效的方法。 为了结合用户的内部大脑活动和外部潜意识行为，本文提出了使用 6 个 EEG 电极和眼动追踪眼镜来识别人类情绪的多模态框架 EmotionMeter。本文提出的情绪识别系统的框架如图 1 所示。 多模态生成系统LLM将音频特征转化为"暗红色漩涡伴随铜管乐器闪烁"等具象描述，Text-to-Image模型据此生成风格化图像，最后通过DAIN（深度感知视频插帧）算法实现24fps流畅输出，确保鼓点与视觉变化误差 对于模态融合，本文比较两种方法：1）特征级融合和2）多模态深度学习。对于特征级融合，EEG 和眼动数据的特征向量直接连接成一个较大的特征向量作为 SVM 的输入。 实验结果表明脑电和眼动数据对情绪识别具有不同的判别力。结合这两种模式的互补信息，模态融合可以显着提高分类精度（85.11％）。音乐与画面，这一对绝妙的组合，仿佛是天造地设的一对。
32010编辑于 2025-07-26 - 来自专栏自然语言处理(NLP)论文速递
剑桥 | 发布多模态检索器，赋能多模态大模型RAG应用
PreFLMR模型是一个通用的预训练多模态知识检索器，可用于搭建多模态RAG应用。 多模态知识提取器的知识 “召回能力” 直接决定了大模型在回答推理时能否获得准确的专业知识。 图 2：PreFLMR 模型同时在多项任务上取得极佳的多模态检索表现，是一个极强的预训练基底模型。 2. 尤其是在多模态任务中，用户的问询（Query）包含复杂场景信息，压缩至一维向量极大抑制了特征的表达能力。PreFLMR 继承并改进了 FLMR 的结构，使其在多模态知识检索中有得天独厚的优势。 实验结果表明对于后期交互多模态检索系统，增加视觉编码器的参数带来的回报更大。
55410编辑于 2024-03-26
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号