- 综合排序
- 最热优先
- 最新优先
腾讯医学大模型产品能力与产业应用深度解析
一、 产品定位与核心亮点 腾讯医学大模型是基于“腾讯混元”通用大模型底座，深度融合医学行业知识图谱与海量医疗数据，专为医疗行业打造的企业级垂直大模型矩阵。 医学研究与政策追踪：解决科研人员与管理者在海量医疗政策文件、医学文献中比对细微修订标准、提取关键指标效率低下的问题。 三、 应用框架和功能介绍 1. 功能框架 产品采用“底座-中枢-应用”的三层架构： 模型层：基于腾讯通用大模型“腾讯混元”。 平台与中枢层： TI 平台：集成了TI-DataTruth（数据标注）、TI-ONE（训练平台）、TI-Matrix（应用平台），提供大模型开发应用一体化服务。 解决方案：利用腾讯医学大模型，自动读取医患自然问诊对话历史（包含症状、用药建议等），直接提取信息生成诊疗报告。
23510编辑于 2026-05-31- 来自专栏喔家ArchiSelf
大模型应用的10个架构挑战
基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择 对于大模型应用而言，生成环境的运行时是一个推理架构。 尽管我们已经有了一些探索，例如《大模型应用的10个架构模式》(https://mp.weixin.qq.com/s? 性能挑战——如何评估大模型应用 对 LLM 输出进行评估对于验证大模型应用能否始终如一地产生高质量的结果至关重要。 适用性挑战——大模型的应用边界 大模型在人工智能领域确实展现出了强大的能力，它们在各种控制平面和应用场景中都发挥着重要作用。然而，尽管大模型的应用范围广泛，但并不意味着它们是无所不能的。 虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10.
1.3K10编辑于 2024-12-24 - 来自专栏喔家ArchiSelf
大模型应用设计的10个思考
基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。 通过这些通用模式的应用，不仅提高了工作效率，还能轻松产生有价值、与众不同的结果。这种权衡精准性与交互消歧的策略，无疑是基于大模型应用设计中的重要思维方式。 5 数据质量至上，LLM的应用与高质量数据息息相关 大模型确实展现出了非凡的能力，如同“受过良好教育的”个体，但在实际应用中，它们仍然缺乏某些背景和主动性。 因此，只要我们对模型进行适当的控制和引导，它就能成为我们工作中得力的“助手”。而这种控制的基础，就是我们对模型内部机制和特点的深入了解和掌握。 10. 因此，我们在使用大模型时，应该保持理性和谨慎的态度，既要欣赏它们所带来的便利和进步，也要警惕它们的局限性和潜在风险。这样，才能更好地利用这些模型，推动基于大模型应用的健康发展。
66210编辑于 2023-12-04 - 来自专栏喔家ArchiSelf
大模型应用的10种架构模式
然而，当我们转向大模型应用和人工智能领域，情况可能会有所不同。面对新兴技术，例如生成式AI，我们尚缺乏成熟的设计模式来支撑这些解决方案。 作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 面向微调的分层缓存策略模式 我们将缓存策略和相关服务引入到大模型应用架构中，可以成功地解决成本、数据冗余以及训练数据等组合问题。 没有结束 老码农认为，这些大模型应用的架构模式不仅仅是一种范式，很可能成为未来智能系统赖以成长的框架。 我希望能够持续更新本系列，也希望对此有兴趣的朋友联系我， 共同研究探索，致力于大模型应用的架构模式。
5.4K11编辑于 2024-04-03 - 来自专栏TechLead
大模型应用曙光 - 10X压缩技术
拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 如何在不牺牲性能的情况下将大语言模型缩小十倍？ 虽然LLM的巨大规模赋予了它们在各种用例中的出色性能，但这也在其应用于现实世界问题时带来了挑战。在本文中，我将讨论如何通过压缩LLM来克服这些挑战。 不用说，大多数消费设备（如手机、平板电脑、笔记本电脑）无法处理如此庞大的模型。但……如果我们可以让模型变小呢？ 模型压缩 模型压缩旨在在不牺牲性能的前提下减少机器学习模型的大小。 量化——使用更低精度的数据类型表示模型 剪枝——从模型中删除不必要的组件 知识蒸馏——通过较大的模型训练较小的模型 _注意_：这些方法是相互独立的。 最近的蒸馏应用完全摒弃了logits的需求，而是通过教师模型生成的合成数据进行学习。
56410编辑于 2024-09-24 - 来自专栏喔家ArchiSelf
大模型应用的10种攻击方式
我们将探索的每种技术都揭示了这些模型如何思考和推理的迷人之处。我特别高兴能够分享这些见解，因为它们不仅帮助我们理解如何打破这些系统，而且帮助我们理解如何更好地构建大模型应用系统。 1. 对于使用不太广泛或缺乏强大保护措施的微调模型来说尤其如此。 影响的严重性和本质可能会有很大的不同，并且很大程度上取决于模型操作的业务上下文和模型架构的代理。 明显的无意义字符创建了一种标记混乱的形式，混淆了模型的安全层，同时保持了核心请求的完整性。 目前，这种技术对于顶层模型只是部分有效。 对于那些尚未针对提示词提取尝试进行特别强化的模型，这种技术已被证明特别有效。 10. 多智能体妥协攻击 多智能体妥协攻击利用人工智能系统的协作特性，通过它们的交互机制传播妥协行为。 虽然并非所有这些技术都在 OWASP 的 10 大 LLM 应用程序漏洞中被明确归类，但是许多技术都属于其更广泛的类别： 提示注入、数据中毒和系统提示泄漏。
15710编辑于 2026-06-15 - 来自专栏深度学习与python
大模型应用的 10 种架构模式
作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 1. 面向微调的分层缓存策略模式 我们将缓存策略和相关服务引入到大模型应用架构中，可以成功地解决成本、数据冗余以及训练数据等组合问题。 混合规则模式 许多现行的商业系统和企业应用在一定程度上仍然依赖于基于规则的架构。通过将大模型与基于规则的逻辑结合，我们能够融合结构化的精确性，旨在创造出既富有创意又遵循规范的解决方案。 10. 双重安全模式 围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户 Proxy 代理；二是防火墙，它为模型提供了保护层。 没有结束 老码农认为，这些大模型应用的架构模式不仅仅是一种范式，很可能成为未来智能系统赖以成长的框架。
95610编辑于 2024-04-12 - 来自专栏大模型应用
大模型应用：大模型性能评估指标：CLUE任务与数据集详解.10
，应运而生，它就像一把精准的尺子，为中文大模型的性能评估提供了标准化方案。 同样，没有CLUE这样的基准，我们也难以比较不同大模型的优劣。CLUE不仅填补了中文自然语言处理评估的空白，更为模型研发提供了明确的方向指引。二. CLUE基准概述1. 典型数据集：TNEWS：新闻文本分类，包含15个新闻类别IFLYTEK：应用描述分类，涵盖200+个应用领域技术要点：1. ，更为产业应用建立了可靠的质量保障体系。 随着人工智能技术的不断演进，CLUE基准也将持续完善，更好地服务于大模型的研发和应用。 正如一句古语所说："工欲善其事，必先利其器。"CLUE基准就是我们评估和提升大模型能力的利器。
68032编辑于 2026-02-07 - 来自专栏喔家ArchiSelf
10个构建Agent的大模型应用框架
为了更便捷地构建这些基于大模型的应用程序，开源社区和产品开发者们正以前所未有的速度进行创新。 LangChain LangChain是目前最受欢迎的大模型应用开发框架之一，几乎成为了构建大模型应用的行业标准。 增强的大模型推理 API优化大语言模型的推理性能，同时降低成本。 Autogen 特别适合与 开源系统 和 微软生态系统 结合使用，是构建 Agentic AI 和大模型应用的理想选择。 大模型应用的10个架构挑战 浅析面向场景的大模型应用框架选择 解读小模型——SLM 大模型应用系列：从Ranking到Reranking 大模型应用系列：Query 变换的示例浅析 初探大模型压缩 解读大模型应用的可观测性 大模型应用的10种架构模式 LLM运行框架对比：ollama与vllm浅析
12.6K30编辑于 2025-03-24 - 来自专栏开源服务指南
大语言模型的垂直应用：学术优化、房间设计、短视频创作、医学交流
本文介绍了几款开源项目，包括学术优化、房间设计、短视频创作和医学交流等领域。这些项目通过图形交互界面、AI技术和大型语言模型等特点，为用户提供了便捷、创新的解决方案。 无论是提升学术写作质量，重新设计房间，还是实现自动化的短视频创作，甚至获取个人私人医学建议，这些开源项目都能帮助用户提高效率、获得更好的体验和创意。 可以上传任何房间照片并生成变体 使用名为 ControlNet 的 ML 模型进行图像处理 ML 模型托管在 Replicate 上，图片存储使用 Upload 该项目提供了本地运行和一键部署两种方式。 llSourcell/DoctorGPT[5] Stars: 2.0k License: NOASSERTION DoctorGPT 是一个大型语言模型，可以通过美国医疗执业考试。 DoctorGPT 是 Meta's Llama2 70 亿参数大型语言模型的版本，在医学对话数据集上进行了微调，并使用强化学习和宪法 AI 进一步改进。
55820编辑于 2023-09-02 - 来自专栏实验盒
NBT｜BioChatter：为生物医学量身定制的开源大语言模型应用平台
引言 近年来，生成式人工智能尤其是大语言模型（LLM）取得了显著进展，但在生物医学研究中的应用仍处于起步阶段。 因此，LLM在生物医学的应用仍停留在零散案例，远落后于医学影像领域成熟的AI框架。 BioChatter的模块化架构使其能够广泛应用于各种生物医学研究场景，其灵活的组合方式支持从快速原型设计到完全封装部署的广泛应用。 生物医学研究中的应用 基准测试与持续监测 为解决LLM工作流程中的可重复性挑战，BioChatter开发了一个持续基准测试系统，允许社区监控所有包含模型在特定任务上的性能。 结语 BioChatter为生物医学研究提供了一个灵活、模块化的平台，旨在减轻开发和维护负担，同时增强应用的稳健性。它不仅关注技术的前沿发展，更强调社区的参与和合作，以推动生物医学研究的进步。
58610编辑于 2025-02-05 - 来自专栏AiCharm
医学多模态大模型LLaVA-Med | 基于LLaVA的医学指令微调
因此，尽管生成式对话AI已经展示了在生物医学应用方面的巨大潜力，但当前的研究通常仅限于单模态文本。 已经证明，针对生物医学自然语言处理（NLP）应用和生物医学视觉-语言（VL）任务进行领域特定的预训练是有效的。 该数据集比下一个最大的公共数据集MIMIC-CXR大两个数量级，并且涵盖了多种类型的图像。 我们的实证研究验证了领域特定指令调整的有效性，并揭示了将多模态对话助手应用于高价值垂直领域的最佳实践和有趣的发现。 (iii) 10K。一个较小的数据集（10个样本），没有IM。它们用于实验中对我们的数据生成策略及其对经过训练的LLaVA-Med的影响进行消融实验分析。
3.6K20编辑于 2023-07-26 - 来自专栏AIGC大模型应用
AI大模型企业应用实战(10)-LLMs和Chat Models
1 模型 两种模型： LLM 聊天模型 咋用： 提示模板格式化这些模型的输入 输出解析器来处理输出 LangChain 中的语言模型有两种类型： 1.1 Chat Models 通常由 LLM 支持，但针对会话进行调整 不同模型有不同最佳提示策略，如： Anthropic 模型最适合用 XML OpenAI 模型最适合用 JSON 示例将使用聊天模型，可用 Anthropic 或 OpenAI 等 API 或通过 Ollama 使用本地开源模型。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 # LLM类大模型的流式输出方法 from shared.llm_utils import create_qwen_model #构造一个llm llm = create_qwen_model(
53200编辑于 2026-04-24 - 来自专栏JavaEdge
AI 大模型企业应用实战(10)-LLMs和Chat Models
1 模型 来看两种不同类型的模型--LLM 和聊天模型。然后，它将介绍如何使用提示模板来格式化这些模型的输入，以及如何使用输出解析器来处理输出。 并非所有模型都一样。不同的模型有不同的最佳提示策略。如： Anthropic 模型最适合使用 XML OpenAI 的模型最适合使用 JSON 设计应用程序时牢记这点。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 #LLM类大模型的流式输出方法 from langchain.llms import OpenAI import os api_base = os.getenv("OPENAI_PROXY") api_key 作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。
47610编辑于 2025-06-01 - 来自专栏DrugOne
. | 大语言模型在医学领域的革命性应用
尽管越来越多研究探索其在临床诊断辅助、医学教育等任务中的应用，但关于其发展、实际应用与成效的系统评估仍然缺失。 近年来，通用大语言模型（LLMs）如 PaLM、LLaMA、GPT 系列与 ChatGLM，在文本生成、摘要、问答等自然语言处理任务中取得了显著进展，并逐步拓展至医学领域。 医学大语言模型的构建原理 医学LLMs主要通过三种方式构建：从头预训练、基于通用模型微调，以及使用提示对齐通用模型。 展望 尽管大语言模型（LLMs）已通过聊天机器人与搜索引擎影响了大众生活，但其在医疗实践中的应用仍处于初级阶段。当前评估基准多集中于医学问答任务，难以覆盖真实临床场景所需的多种能力。 多模态模型（MLLMs）与时序数据挑战 尽管现有LLMs主要针对文本任务，融合视觉、语言甚至音频的多模态大模型（MLLMs）已初现成效。
1.2K10编辑于 2025-04-11 分享6类10种政务AI大模型应用场景
大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。 6类政务AI大模型的应用场景：政务咨询领域：通过构建具备深厚专业知识的智能助手，针对财务、环保等专业领域，提供精确的咨询和解答服务。这有助于提升企业和公众的办事体验，同时增强政府机构的工作效率。 城市治理领域：大模型专注于快速响应民意诉求、智能分类问题、高效处理事件工单等城市治理需求，开发特色应用，提高城市事件处理的效率，提升城市治理的智能化水平。 专业工具开发：应用大模型技术，在业务统计分析、报告报表生成、法律法规咨询等专业领域，开发一系列通用工具，帮助公务人员高效开展工作，同时协助企业和公众理解专业知识。 10种具体应用实例：政务服务- 智能问答系统：全天候提供咨询服务，解答政府服务相关问题。- 政策解读与推荐：自动解析政策文件，推荐与用户需求相关的政策信息。
2.9K10编辑于 2024-08-06. | 大语言模型辅助的临床医学领域大语言模型系统综述
DRUGONE 自2022年以来，大语言模型在临床医学中的评估研究迅速增长，但相关证据体系仍然缺乏系统梳理。 自ChatGPT于2022年11月公开发布以来，大语言模型在医学人工智能领域引发了显著的研究热潮。 图3: 各研究中使用的数据集类型、医学专科以及大语言模型的总体概览。 大语言模型与人类专家的比较 在部分研究中，大语言模型的表现被直接与人类专家进行比较。 此外，目前研究高度集中于少数医学专科，而许多其他临床领域仍缺乏系统研究。研究人员认为，这种不均衡的研究格局可能限制了大语言模型在医学中的全面应用。 为了推动临床应用，研究人员提出了一条逐步推进的研究路径。
26810编辑于 2026-03-30- 来自专栏大模型应用
医学大模型应用实践：基于SKILL架构构建糖尿病高血压智能咨询助手.137
一、系统概述 本系统是一套基于SKILL技能架构、聚焦糖尿病 + 高血压双慢病管理的全栈智能体，整合了专业医学大模型（AntAngelMed）、前后端实时交互、模块化技能体系，专为慢病患者 早前我们通过普通调用的方式也实现慢病管理的基础智能体，可以结合对比看看基于SKILL做了哪些特性应用变更： 大模型应用：基于安诊儿AntAngelMed模型+FastAPI构建慢病管理AI助手.86二、 模型调用层：基于 OpenAI SDK，严格按照标准格式调用 AntAngelMed 医学模型，确保医学建议的专业性和准确性。 调用AntAngelMed医学模型，传入格式化后的查询，获取专业医学建议；4. 对模型返回的建议进行简单优化（简化专业术语，确保普通用户可理解）；5. 运动注意事项：运动前热身5-10分钟，运动后放松5-10分钟，运动中若出现头晕、胸闷，立即停止休息；4. 运动后监测血压，观察波动情况。"
21210编辑于 2026-06-14 - 来自专栏GPUS开发者
在Jetson上玩转大模型Day10：OWL-ViT应用
做过机器视觉模型训练的人都知道，最耗时费力的阶段，就是对图片集进行标注的环节，这通常必须交由人力来进行，很难交给计算机去自动化标注，因此这个阶段也是除了采购设备之外，成本最高的环节。 不过总的来说，YOLO和OWL-ViT还是各有优势的，适用于不同的应用场景。 /data/owl_predict_out.jpg" --model：使用的模型，預設值爲 "google/owlvit-base-patch32" --image_encoder_engine：使用的圖片編碼引擎 /data/owl_image_encoder_patch32.engine"，這是用build_image_encoder_engine.py所訓練的模型。 --num_profiling_runs：預設值爲30 如果我們執行下面最簡單的指令，所有參數都用預設值： $ python3 owl_predict.py 第一次執行時，會如下圖一樣先下載所需要的模型到本地使用
61710编辑于 2024-11-06 - 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 ，这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要，例如检索增强生成或RAG。 1️⃣根据与字符串查询的相似性返回文档： # 接受一个文本字符串作为输入，并返回与该文本最相似的向量 results = vector_store.similarity_search( "大模型的发展和繁荣既是当前 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
67921编辑于 2024-12-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号