- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型应用
大模型应用：向量数据库的技术内核解析：破局大模型的失忆困境.28
一、引言 当大模型能够流畅地撰写文案、解答数学难题、生成代码时，知识固化与幻觉问题始终是一个致命短板制约着大模型的能力发挥。 当向量数据库与大模型强强联合，不仅能破解大模型的失忆难题，更能构建出可扩展、高精度的 AI 应用。 知识固化向量数据库可以实时更新大模型的知识库，大模型的训练数据是静态快照，无法实时吸收新信息。例如，2025 年发布的新政策，训练于 2024 年的大模型无法知晓。 幻觉问题为大模型提供权威依据，大模型在生成回答时，可能基于碎片化知识编造不存在的事实，就是我们所说的幻觉。例如，医疗大模型可能推荐不存在的药品。解决方案：通过 RAG 架构，让大模型有据可依。 上下文窗口有限突破大模型的记忆上限，大模型的上下文窗口是有限的，如 GPT-3.5 的 4k 窗口，无法处理超长文本。例如，让大模型直接分析万字的合同文档，会导致信息丢失。
52532编辑于 2026-02-25 - 来自专栏LLM时代，写点什么
大模型你别再失忆了！你尔多隆吗？
大模型根本不记下面是我在开发AI应用的一个简单的解析图是的，没错。我们每次的对话，包括之前的内容，都要一起发送给大模型。大模型本身不会去存储这些内容。既然不用存储，那如果不限制时间，岂不是能无限推理？ 例如DeepSeek的最新模型DeepSeekV3.2的官方数据是128K。根据换算大概是8万字（0.75左右的比例，可以看官方文档）。超过之后就开始失忆了，建议重新开一个对话。现代如何破局？ 这恰好是大模型擅长的东西。当与AI对话的内容上下文超过90%后，可以将之前进行总结，形成新的上下文，然后新开对话，把压缩后的内容发给大模型。 看名字就能知道它是专门为大模型应用开发所诞生的，相比于上个技术，消除了不同接口之间的差异，并且由大模型自主决定是否调用。下面演示一下神奇之处。 不过，对于大部分使用者，当大模型出现失忆的情况，这边建议是整理下内容，新开个对话！
62130编辑于 2025-12-17 - 来自专栏机器之心
那天，AI大模型想起了，被「失忆」所束缚的枷锁
参数化记忆 与将记忆存储在外部不同，参数化记忆是试图将信息直接编码进大模型自身的参数（即神经网络的权重）中。这是一种更深层次的「内化记忆」。 其中，由前 Meta Reality Labs 顶尖科学家团队创立的研究实验室 Memories.ai 提出了「大视觉记忆模型」（LVMM）。 其架构由多模态大语言模型（MLLM）和多模态长期记忆模块组成，整体分为「记忆（memorization）」与「控制（control）」两大并行过程： 在记忆阶段，M3-Agent 能够实时处理视频与音频流 这表明，记忆层有潜力成为下一代大模型的核心组件。 另外，Meta 去年提出的 Branch-Train-MiX （BTX）方法也有望成为一种实现参数化记忆的手段，其包含三个主要步骤。 挑战：从数据堆砌到智能管理 —— 学习遗忘与整合 遗忘其实与记忆一样重要，而当前许多记忆系统，特别是基于外部数据库的方案，更像是一个信息仓库，面临着只进不出的困境。
1.1K20编辑于 2025-09-02 大模型幻觉困境下，我们该如何使用它？
最近接触到了一个概念：大模型幻觉。有点好奇，大模型还能产生幻觉？于是查找了一些资料，开始了解。 大模型幻觉，像你身边那个爱吹牛的熟人 关于大模型幻觉，官方一点的说法是这样的： 大模型的幻觉问题，即Hallucination，指模型基于有限元素和强大的语言表达能力生成逻辑上似乎合理但实际不符合已知常识的描述 导致模型在学习这些数据时，记错了信息。 微调：大模型引入新知识时，但模型学习新知识较慢，导致更容易产生幻觉。 大模型幻觉会停止吗？ 不会。 大模型会产生幻觉，人也会，人的交流也并不是百分百的准确和真实，所以我们也不用对大模型幻觉太过紧张。 不过对于需要运用数据分析等严谨的工作来说，的确不建议依赖大模型，因为这需要自己具有出色的筛选和辨别大模型给出数据真假的能力，这非常考验个人能力素养。
78510编辑于 2024-09-27- 来自专栏新智元
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
新智元报道 编辑：海狸 英智 【新智元导读】AI也能选择性失忆？Meta联合NYU发布新作，轻松操控缩放Transformer注意头，让大模型「忘掉狗会叫」。 记忆可删、偏见可调、安全可破，掀开大模型「可编辑时代」，安全边界何去何从。 大模型在预训练阶段「读万卷书」，几乎囊括了全网的知识与语料。 给AI「调参」 精确控制模型行为 另外一个是SAMI（Scalar Attention Module Intervention）。这是团队提出的大模型「概念控制术」的核心。 10个注意头，轻松调语义 让大模型忘记指定概念的「失忆手术」流程可拆解为三步。 这给个性化微调大模型、提高模型特定维度能力打开了全新的思路。
30510编辑于 2025-07-14 我与大模型的API困境：MCP如何打破孤立与重构连接
而MCP（Model Context Protocol，模型上下文协议）的出现，或许正是我们等待的那个转折点。一、 大模型的API时代：连接之痛还记得ChatGPT刚开放API那段时间吗？ 图1：传统大模型API集成架构的复杂性示意第一个痛点是数据上下文的割裂。 大模型的"工具使用"（Tool Use）能力虽然在不断进化，但每个模型的API格式都不一样。 但随着对它的深入了解，我发现这并不是简单的API封装，而是对大模型与外部世界交互方式的一次重新思考。MCP的核心思想非常简洁：模型不应被动地接收数据，而应主动地连接到上下文。 七、 展望：MCP之外，我们还能期待什么MCP虽然解决了大模型与外部世界交互的很多问题，但它并不是终点。我认为，下一个方向是模型的"原生MCP支持"。
25010编辑于 2025-12-27- 来自专栏黯羽轻扬
跨端方案的三大困境
JavaScript 引擎盖 跟不上的配套能力 多端一致性在技术投入上几乎是无底洞，底层的平台架构差异（UI 渲染方式、事件机制、系统 API）根深蒂固，以各类跨端方案目前的成熟度仅能覆盖极其有限的一部分，留有非常大的空白需要通过扩展容器能力来填补 二.团队组织困境 与单端开发模式相比，跨端方案的协作成本更高，体现在： 跨团队 链路长 容器团队压力大 职责边界不清晰 跨端方案下，跨团队协作成为了最主要的协作方式，需求串讲、开发、联调、问题排查等多个环节都需要跨团队沟通 ，甚至涉及特定业务领域能力的部分又分为许多层…… 另一方面，如此繁多的层次也造成了复杂度堆积，越往下层复杂度越高，因为不确定的可变输入越多，越难弄明白来龙去脉，排查问题的成本也越高 理想情况下，按漏斗模型逐层过滤 ，从需求角度来看，开发效率是次要的，动态化的灵活性、快速迭代助业务先赢才是其跨端的主要意义，或者说追求的是生产效率，而不仅是开发效率，更短的迭代周期，更快速的触达用户都是直接的生产效率进步 然而，在三大困境之下 ，开发效率实际上也严重影响着生产效率，但还不足以抵消快速迭代、动态发布的重大进步，此消彼长也算是一种平衡，一种可接受的妥协 五.在困境中寻找生门 ?
1.3K40发布于 2020-08-18 大模型智能语音交互——破解企业呼入场景的“接听困境”技术实践
在客户服务领域，电话呼入场景长期面临三重困境：人力成本高企、高峰时段拥堵严重、服务质量参差不齐。某省级电视台数据显示，传统客服人力成本占比超60%，有效样本率不足45%，数据标注周期长达7-10天。 随着大语言模型（LLM）技术的突破性进展，智能语音交互正从根本上重构企业呼入服务体系。本文将深入解析大模型如何通过技术创新解决接听难题，并探讨其技术实现路径与未来演进方向。 return transfer_to_agent() else: # 容错能力薄弱 return play_audio("option_not_clear.wav") 1.2 上下文失忆问题在多轮对话中 二、大模型驱动的技术架构革新新一代语音智能体通过五层协同架构，实现从“机械应答”到“智能交互”的质变：2.1 核心架构层解析感知层：卷积神经网络声学模型+流媒体降噪技术，嘈杂环境识别准确率达97.5%， 突破工厂、商场等场景应用限制理解层：专用大模型实现复杂语义解析，精准区分“行不行≠不行”等微妙差异，意图识别准确率突破99%决策层：强化学习路由算法实现99%转人工成功率，动态调整服务优先级生成层：神经网络语音合成
45810编辑于 2025-07-21- 来自专栏深度学习与python
业技融合难、ROI 不划算：金融大模型落地的两大困境有解吗？
从外因看，在政策驱动和市场热度的双重助力下，对于每一家金融机构来说，不采用大模型几乎是不可能的。 但是，在技术具体落地过程中仍然有很多阻力和困境。 一方面，大模型的底层能力需要不断地提升；另一方面，在业务流程中如何更好地嵌入大模型也是一个关键因素。大模型在未来还有很大的潜力等待我们去探索和开发。 如果使用大模型进行风险评估，可能会遇到幻觉问题和缺乏可解释性，这直接限制了大模型在核心业务流程中的应用。 其次，对大模型的理解和应用还不够深入。目前，可能只有少数人真正掌握了大模型的使用技巧。 大多数人对大模型的了解有限，特别是在企业内部，可能只有少数专业人士真正了解大模型。这限制了大模型的推广和应用范围，阻碍了其在更多场景中的尝试。 随着大模型和通用 AGI 的发展，未来可能会趋于融合，大模型能解决的问题会越来越多，最终大模型可以是像一个人一样，传统 AI 更多像一个特定的工具，大模型可以使用传统 AI 这种工具弥补自身能力的缺陷，
59510编辑于 2024-07-25 - 来自专栏机器之心
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学最新推出的「Moral RolePlay」测评基准，首次系统性地评估大模型扮演多元道德角色（尤其是反派）的能力，并揭示了一个令人警醒的核心问题：当前的顶尖 AI 模型都演不好反派 这不仅是创意生成领域的一大短板，更暴露了当前模型在理解社会心理复杂性上的局限。 为真实还原道德光谱下的多样角色，这一评估系统构建了： 四大角色类别：从「英雄榜样」到「道德败坏」，逐级挑战模型能力； Level 1（道德典范，Paragons）：像超级英雄一样，善良、无私、勇敢。 细粒度分析揭示了问题的根源：大模型在最需要「使坏」的特质上表现最差。研究发现，模型在表现「伪善」、「欺诈」和「自私」等特质时受到的惩罚最重。 突破「道德困境」：未来方向 这项研究揭示了当前 AI 对齐方法的一个关键局限：为了安全而训练的「太善良」模型，无法真实模拟人类心理的完整光谱。
41210编辑于 2025-11-26 - 来自专栏机器之心
告别「失忆」AI！首个大模型记忆操作系统开源框架来了！
大语言模型受限于固定上下文窗口，长期对话中「失忆」、记忆断裂等问题频发，北邮百家 AI 团队重磅推出首个大模型记忆操作系统开源框架 MemoryOS。 开源项目地址：https://github.com/BAI-LAB/MemoryOS 大型语言模型（LLMs）固定的上下文窗口如同狭窄的信息通道，导致 AI 在长期对话中频繁「失忆」, 常常导致记忆断裂 大模型记忆管理 MemoryOS 借鉴了现代操作系统中成熟的内存管理原则，采用短期、中期、长期三级分层记忆存储体系（实时对话存储、主题信息整合、个性化知识沉淀），包含四大核心功能：记忆存储、记忆更新、记忆检索和响应生成 MemoryOS 支持本地部署，为大模型搭载统一的记忆管理插件。 大模型的进化路径不仅遵循模型规模扩张的「Scaling Law」准则，当搭载 MemoryOS 记忆操作系统，实现记忆的高效管理时，模型的认知能力将迎来质的跃升，或将迎来 Memory Scaling
1.1K10编辑于 2025-06-09 揭秘RAG检索增强生成：如何让大模型突破“幻觉”困境并实现精准回答？
#揭秘RAG检索增强生成：如何让大模型突破"幻觉"困境并实现精准回答？ 这不是我们第一次遇到大模型"幻觉"问题，但这次直接导致了客户暂停合作。过去半年，我带领团队在8个行业部署了大模型应用，发现幻觉问题已成为阻碍AI商业落地的最大障碍。 二、大模型"幻觉"困境深度剖析2.1幻觉产生的底层机制上周五的复盘会上，算法工程师小张展示了令人震惊的发现：当查询"2024年新能源汽车补贴政策"时，模型生成的回答中78%的内容在训练数据中根本不存在！ 这不是简单的记忆错误，而是大模型固有特性导致的系统性风险。通过分析数百个幻觉案例，我们总结出三大核心成因：训练数据偏差：模型在海量网络文本上训练，而网络充斥着错误信息、过时数据和主观臆断。 血泪教训：在金融项目中，我们曾天真地认为"更大的模型=更少幻觉"。但实测发现，70B参数模型在专业领域的幻觉率反而比13B模型高15%——因为大模型更擅长"自信地编造"！
61310编辑于 2026-01-22- 来自专栏医疗AI 在临床应用与实践
——医疗大模型临床落地的法律困境与破局之路
引言：一个悬而未决的现实困境2024年，某地一名患者因AI辅助诊断系统将肺部阴影误判为良性结节而延误治疗，最终确诊为肺癌晚期。 它揭示了一个残酷的现实：当大语言模型（LLM）和人工智能深度介入临床诊疗，技术的光环背后，是一片尚未厘清的法律真空地带。 根据最新研究数据，GPT-4等主流医疗AI模型的平均诊断准确率为52.1%，与非专家医生相当，但较专家医生仍有15.8%的差距。 然而，这种"辅助"定位在临床实践中遭遇了悖论：医生的困境：如果完全依赖AI的判断，一旦出错，医生被认定为"未尽审慎义务"；如果完全不采信AI的建议，那么引入这套昂贵系统的意义何在？ 更重要的是：可靠性：在不同人群、不同场景下的表现稳定性可解释性：为什么会得出这个诊断结论可纠错性：当AI犯错时，是否有机制及时发现和纠正公平性：是否对不同种族、性别、年龄群体存在偏见目前的大语言模型在医疗应用中最大的问题
2.1K10编辑于 2025-10-29 - 来自专栏程序员
Reactor网络模型深度解析：从并发困境说起
本文深入探讨Reactor网络模型的核心机制，解答高并发场景下的关键问题，揭示现代高性能服务器的架构奥秘。通过对比分析、原理阐述和实战代码，带您彻底理解Reactor如何优雅应对海量并发请求。 并发困难想象这样一个场景：你的电商网站正在举办"双11"大促，每秒有10万用户同时点击"立即购买"。传统的"一线程一连接"架构瞬间崩溃——不是内存耗尽，就是CPU被上下文切换拖垮。 这正是我在职业生涯早期遭遇的真实困境。直到我理解了Reactor模式，才发现原来高性能网络编程可以如此优雅。 第一章：传统并发模型的崩溃边缘1.1阻塞I/O的致命缺陷让我们从最直观的代码开始：展开代码语言：C++AI代码解释//经典的多线程服务器-每个连接一个线程voidhandle_client(intsockfd 展开代码语言：C++AI代码解释//传统模型：主动询问每个连接for(eachconnection){if(has_data(connection)){//主动检查process(connection)
22700编辑于 2025-12-01 - 来自专栏云云众生s
解决RAG与长上下文模型的困境
长文本模型非常适合减少某些需要更长上下文用例的幻觉，但并非所有情况都理想。 译自 Solving the RAG vs. 现在，长上下文模型正在兴起，例如具有200万个token上下文窗口的Gemini，其潜在优势使您不禁想知道是否应该完全放弃RAG。 解决这一难题的关键在于了解使用长上下文模型的优缺点，并根据您的用例做出明智的决定。 RAG与长上下文模型的优缺点 传统上，LLM具有较小的上下文窗口，这限制了可以一次处理的文本或token数量。 然而，像Gemini这样的长上下文模型可以直接处理提供的上下文，而无需单独的RAG系统，从而简化了应用程序工作流程并可能减少延迟。 最后，长上下文模型需要更多GPU资源来处理长上下文，从而导致处理时间更长，成本更高。可以肯定地说，这些模型每次查询的成本更高。
54810编辑于 2025-01-23 - 来自专栏罗超频道
传统快销品牌遭遇【四大传播困境】
传统快销品牌的下滑与传播环境的巨变有着深刻的关系，在一个资讯严重过度的时代中，品牌商要注意突破四大传播陷阱适时调整媒介战略，才能有效把握与用户沟通的触点，形成用户对品牌的真正记忆与认知。 今天电视有数千个娱乐栏目，大家能够广泛记得住的栏目也就是前十大。 在前十大栏目里而且必须投重金选择冠名赞助商，至少也要是特约播出商，因为观众消费的是内容而不是广告，纯粹插插广告即使可以累积GRP，计算出到达与频次数据，但实际上效果很小。 总结：在一个信息爆炸，广告爆炸的时代里，如何靠散播插播去做GRP，去做Reach，这些收视点的数据是否正确，是否能够产生足够的影响力都是快销客户的困境。 实际上到2015年，也就是这三大类媒体在高速增长。 三、户外真实到达率的困境 传统快销品牌面对晚上的电视收视时间日益下降的时代，开始重新审视户外广告，因为人们在户外的时间反而在扩大。
63930发布于 2018-04-27 - 来自专栏创作是最好的自我投资
通用大模型VS垂直大模型
在人工智能这个充满无限可能的领域内，通用大模型和垂直大模型各有千秋。就我个人而言，在二者之间的选择上，并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求，来挑选最为契合的大模型。 通用大模型通用大模型，乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面，通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时，选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而，由于垂直大模型的训练内容聚焦于当前行业，其涉猎的范围更集中，数据针对性更强，所以在提供专业咨询时往往更加精准、细致，这也正是垂直大模型的独特价值所在。 因此，对于通用大模型或者垂直大模型，更倾向于哪一方不取决于个人想法，而是取决于用户需要。
76101编辑于 2024-12-30 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.5K30编辑于 2023-10-10 - 来自专栏庄帅
同城零售模型与规模化增长困境
搞清楚概念之后，再来分析同城零售模型和规模化增长困境。 同城零售模型 O2O原来是一个特别宽范的概念，涵盖了生活服务、上门服务和实物零售，最终在中国被验证成功的是生活服务，并成长出美团这样的巨头。 所以，纵观三大巨头的基础能力和条件，它们的同城零售模型需要围绕着“品类和物流”两个维度展开。 同城零售规模化增长的四大困境 根据我在沃尔玛（中国）、王府井百货的实践，结合这些年对阿里、京东和美团在同城零售业务的长期观察和深入研究。 总结了同城零售规模化增长的四大困境： 一、单店“浅库存”与促销培养消费习惯的矛盾 许多以线下实体店为主的品牌商大体都会经历“库存之殇”，这是实体店数字化问题，也是管理经营问题，还有“老天爷”的问题。 这就是同城零售的四大困境，深入研究下去和连接起来，似乎是一个“死循环”，无法解开。 当年，由于投入越来越大，加上单个零售商不可能自己投入自建物流体系，许多传统零售商在O2O都止步了。
67700发布于 2020-10-13 - 来自专栏学习
开源大模型与闭源大模型
在人工智能（AI）和机器学习（ML）的快速发展过程中，大模型（Large Models）已经成为推动技术进步的重要力量。当前，业界存在两种主要的大模型开发模式：开源大模型和闭源大模型。 一、开源大模型 开源大模型是指开发者将模型的代码和训练数据公开，使得任何人都可以访问、修改和使用这些资源。 二、闭源大模型 闭源大模型是指模型的代码和数据不对外公开，通常由商业公司开发和维护。代表性的闭源大模型包括OpenAI的GPT-3和Google的BERT。 三、开源大模型与闭源大模型的对比 1.透明性与可控性： 开源大模型的透明性更高，任何人都可以查看和验证其代码和数据，确保模型的行为符合预期。这对于学术研究和技术验证非常重要。 闭源大模型通过控制代码和数据的访问，能够更好地保护用户隐私和数据安全，降低被恶意利用的风险。 五、总结 开源大模型和闭源大模型各有优缺点，适合不同的应用场景和需求。
1.7K10编辑于 2024-10-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号