- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型
04-LLM与MCP集成实践
04-LLM与MCP集成实践概述在前三篇文章中,我们分别介绍了MCP协议、服务器开发和客户端开发。 本文将深入探讨如何将MCP工具集成到大语言模型(LLM)中,使用LangGraph构建智能代理应用,实现自动化的工具调用和状态管理。 文件:展开代码语言：BashAI代码解释#DeepSeekAPI配置DEEPSEEK_API_KEY=sk-your-actual-api-key-here#调试模式(可选)DEBUG=false基础集成架构架构图展开代码语言 (result["messages"])==1集成测试展开代码语言：PythonAI代码解释@pytest.mark.asyncioasyncdeftest_graph_execution():#创建图 参考资源LangGraph官方文档LangChainMCPAdaptersDeepSeekAPI文档文章标签展开代码语言：TXTAI代码解释LangGraph,LLM集成,MCP集成,智能代理,工具调用
26910编辑于 2026-02-03 - 来自专栏DeepHub IMBA
LLM-Client一个轻量级的LLM集成工具
所以这时候LangChain就解决了这个问题，LLM集成工具为将不同的语言模型集成到您的项目中提供了一种简化的方法。抽象了与每个LLM相关的复杂性和细微差别。 我这里又发现了一个刚刚发布不久的集成工具LLM-Client就出现了，本文将深入研究LLM -client和LangChain的特性、优势和注意事项。 而LLM-Client是专门为大型语言模型(llm)集成而设计的。它用户友好的界面，专注于消除集成复杂性为开发人员提供了无缝的体验。 LangChain LangChain庞大的社区是一个显著的优势。 LLM-Client llm-client提供了一个带有标准化参数的包装器，使开发人员能够绕过复杂的设置或不一致的配置。该工具专为与llm无缝集成而设计，调用起来更简单。 LLM-Client客户端的性能、灵活性和LLM集成的针对性设计使其成为那些寻求最大控制、高效和精简工作流程的人的是一个很好的工具，尤其是有异步的调用可以提高响应性能。 作者：Uri Peled
73310编辑于 2023-08-30 LLM集成 - API客户端与流式响应
第6篇：LLM集成 - API客户端与流式响应 构建生产级LLM API集成方案 Claude Code 与 Claude API 的集成展示了现代 AI 应用如何高效、可靠地与 LLM 交互。
12410编辑于 2026-06-2211让LLM更懂FunctionCalling返回值
让LLM更懂函数返回类型 当前，在向AI模型提供函数返回类型元数据这一领域，尚未有清晰明确的行业标准。 当出现返回类型属性的名称无法让大语言模型（LLM）准确推断其内容，或者需要关联其他上下文信息、处理指令到返回类型，以此来实现方案建模或增强方案效果的情况时，可考虑运用以下技术： 在对函数进行描述的过程中 这是因为这一举措是提升大语言模型（LLM）对返回类型理解程度的最直接途径，而且从令牌使用的角度来看，这种做法也能有效控制成本，具有较高的性价比。
8800编辑于 2026-06-17- 来自专栏新智元
11个LLM一起上，性能爆炸提升！AI2联合USC开源LLM-Blender集成学习框架：先排序再融合｜ACL 2023
新智元报道 编辑：LRS 【新智元导读】11个LLM臭皮匠，能不能比得上GPT-4？ 有没有可能通过集成学习来综合诸多开源的「弱」LLM的能力，来使得他们整体成为一个「强」LLM呢？ AI2，USC，和浙大的研究员由此提出了一个集成学习框架，LLM-Blender，它通过排序和融合来对各个LLM的输出进行集成，从而达到了较为稳定的提升。 其中的每一条指令都包含了来自Vicuna等数十个当前流行的开源LLMs的回答，用来训练与评估集成学习框架LLM-Blender。 3. 首次证明了集成学习在LLM社区的显著效果与其应用价值。 4. 尽管如此，他们的GPT-Rank也并非一个接近最低排名（11）的数字，再次说明每个LLM的回答都有他们自己的优势。
64210编辑于 2023-08-07 - 来自专栏charlieroro
矢量数据库与LLM的集成：实践指南
矢量数据库与LLM的集成：实践指南 本文将了解到什么是矢量数据库，以及如何与LLMs进行集成。通过LLMs和向量数据库的结合，可以节省微调带来的开销和时间。 本文给出了如何使用向量数据库构建一个LLM，并改进LLM对该流程的使用。我们将会看到二者的结合是如何让LLMs更加准确可靠(特别针对特定主题)。 使用Falcon-7B 和 ChromaDB构建一个封闭式问题机器人 本章中，我们将介绍如何使用向量数据库来构建一个LLM，是使用的模型是一个封闭式问题机器人(Closed Q&A bot)，该机器人使用一组集成的技术组件来有效解答与科学相关的问题 ", "category": "closed_qa" } 下面，我们将重点为每组指令及其各自的上下文生成词嵌入，并将它们集成到矢量数据库ChromaDB中。 其友好的Python设置增强了对我们项目的吸引力，简化了与我们工作流程的集成。更多参见Chroma DB 文档。
89310编辑于 2024-03-16 - 来自专栏AI SPPECH
32_语音到文本：Whisper与LLM集成_深度解析
这表明Whisper技术还在持续演进，为与LLM的更深度集成奠定了基础。 第2章：LLM技术基础与语音理解能力 2.1 大语言模型的语音理解基础 大语言模型（LLM）在语音理解领域展现出了巨大潜力。 第3章：Whisper与LLM集成的技术架构 3.1 集成架构设计原则 Whisper与LLM的集成需要遵循一系列关键设计原则，以确保系统的稳定性、性能和用户体验： 模块化设计：将音频处理、语音识别、 3.2 集成系统的核心组件 一个完整的Whisper与LLM集成系统通常包含以下核心组件： 音频采集与预处理模块：负责从麦克风、音频文件或流媒体获取音频数据，并进行降噪、归一化等预处理。 第5章：2025年Whisper与LLM集成的最新进展 5.1 WhisperLiveKit：全栈语音处理解决方案 2025年最引人注目的Whisper与LLM集成项目之一是WhisperLiveKit 第6章：Whisper与LLM集成的应用场景 6.1 语音购物助手 在电子商务领域，Whisper与LLM的集成催生了新一代语音购物体验： 全流程语音交互：实现从"语音搜索-商品推荐-下单支付"的全流程语音购物体验
1K10编辑于 2025-11-13 - 来自专栏DeepHub IMBA
LLM-Blender：大语言模型也可以进行集成学习
最近在看arxiv的时候发现了一个有意思的框架：LLM-Blender，它可以使用Ensemble 的方法来对大语言模型进行集成。 官方介绍如下：LLM-Blender是一个集成框架，可以通过利用多个开源大型语言模型(llm)的不同优势来获得始终如一的卓越性能。 LLM集成 我们都知道集成学习是一种机器学习方法，旨在提高预测模型的性能和鲁棒性。它通过将多个不同的学习器（如决策树、神经网络等）结合成一个整体，来取得比单个学习器更好的预测效果。 基准测试 论文介绍了一个名为mixdirective的新数据集，用于对llm在指令跟随任务中的集成模型进行基准测试。 使用N = 11个流行的开源LLM进行测试。候选的输出使用ChatGPT对所有候选对进行评估。对于每一对，ChatGPT被要求判断那个是更好的。 可以看到各个LLM有不同的优势和劣势。
64330编辑于 2023-08-30 - 来自专栏开源优测
Playwright系列：第11章 CICD集成（JenkinsGitlab）
重磅发布 - 自动化框架基础指南pdfv1.1 大数据测试过程、策略及挑战 测试框架原理，构建成功的基石 在自动化测试工作之前，你应该知道的10条建议 在自动化测试中，重要的不是工具 CI/CD即持续集成 每次Git提交后重复第3-7步,完成持续集成与交付流程。 Jenkins Pipeline集成示例 pipeline { agent any stages { stage('Build & Test') { GitLab CI Pipeline集成示例 test: image: node:latest cache: paths: - node_modules 总结 理解CI/CD原理及其Playwright集成步骤,可以帮助我们实现UI自动化测试在开发流程中的深度集成。
1.7K20编辑于 2023-06-09 - 来自专栏AI SPPECH
11_文本总结实战：用LLM浓缩长文章
随着大语言模型（LLM）技术的快速发展，特别是基于Transformer架构的模型如BART的出现，文本摘要技术取得了突破性进展。 标准Transformer架构的LLM受限于固定的上下文窗口长度（如BART的默认上下文窗口为1024个token），直接处理超长文本会遇到性能瓶颈甚至超出模型能力。 模型层面的优化： 模型微调：使用特定领域的数据微调预训练模型 模型集成：结合多个模型的输出，提高摘要质量 参数调优：调整生成参数，如温度、束搜索宽度等 2. 领域知识集成： 引入领域特定术语表和知识图谱 设计领域特定的提示模板 集成领域规则和约束 4. 至此，我们的《文本总结实战：用LLM浓缩长文章》课程已全部结束。希望通过本课程的学习，您能够全面掌握文本摘要技术，并能够在实际项目中灵活运用。
1.2K11编辑于 2025-11-13 可定制NLP工具包spaCy与LLM集成技术解析
]}}, {"LOWER": "received"}, {"POS": "NOUN"}]matcher.add("TreatmentGroup", [pattern])大语言模型集成方案多后端支持 TrialSummaryTask:def parse_responses(self, docs, responses): for doc, response in zip(docs, responses): # 将LLM 自由文本输出转换为结构化实体 matcher.add("Patient\_Group", patterns) doc.ents = filter\_spans(matches)生产部署策略混合架构设计：LLM 快 | 高 || 监督学习模型 | 高 | 中 | 中 || 大语言模型 | 极高 | 慢 | 低 |进阶应用场景LLM
21310编辑于 2025-08-11在Mac上微调LLM：DagsHub与Apple MLX-LM集成
TL;DRDagsHub现已完全支持基于MLX-LM的Apple Silicon LLM微调工作流。在MacBook上本地训练模型、追踪实验、对数据集进行版本控制并部署——全部集成在一个无缝的体验中。 本地LLM开发在Apple Silicon上的兴起Apple的MLX框架开启了Mac上机器学习的新纪元。 我们激动地宣布DagsHub与Apple MLX-LM完成全面集成，将企业级MLOps带到本地Apple Silicon LLM开发中。什么是DagsHub？ 完整工作流图DagsHub与MLX-LM集成的工作流程示意图（原始文章包含图示）。 加入社区：Discord获取问题和反馈Apple Silicon使本地LLM开发走向大众。
18100编辑于 2026-05-14- 来自专栏Hadoop实操
11-如何为Cloudera Manager集成Active Directory认证
SSSD服务和集成SSH登录》、《05-如何为Hive集成AD认证》、《06-如何为Impala集成AD认证》、《07-如何为Hue集成AD认证》、《08-如何为Navigator集成Active Directory 认证》、《09-如何为CDSW集成Active Directory认证》和《如何为CDH集成Active Directory的Kerberos认证》。 本篇文章Fayson主要介绍如何为Cloudera Manager集成Active Directory认证。 内容概述 1.测试环境描述 2.Cloudera Manager集成Active Directory 3.Cloudera Manager集成验证 4.总结 测试环境 1.RedHat7.3 2.CM和 以上完成Cloudera Manager与AD的集成。
3K30发布于 2018-10-23 - 来自专栏Elasticsearch专栏
【极数系列】Flink集成KafkaSink & 实时输出数据（11）
--java_JDK版本--> <java.version>11</java.version> <! --================================集成外部依赖==========================================--> <! --集成日志框架 start--> <dependency> <groupId>org.apache.logging.log4j</groupId> --集成日志框架 end--> <!
88410编辑于 2024-03-04 - 来自专栏Springboot
11. Springboot集成Dubbo3（二）示例demo
今天简单介绍下Dubbo3和Springboot的集成过程。 2、注册中心 官方仍然推荐zookeeper作为注册中心。 SpringApplication.run(Dubbo3PortalApplication.class, args); } } 3.4.5、启动成功，访问测试 4、小结 Dubbo3与Springboot的简单集成几步就可以了 ，集成还是相当容易的。 目前为止Dubbo3和Dubbo2在集成上发现还是有一些区别的。如： Server注册到Zookeeper中，Dubbo2的注解为@Service，Dubbo3使用@DubboService。 配置上，同样Dubbo2和Dubbo3提供了XML配置方式和注解方式，但是Dubbo3相比Dubbo2，配置起来更加简单 依赖不同，Dubbo3特地提供了Springboot集成模块依赖，而不是独立的apache
1.6K10编辑于 2024-02-20 - 来自专栏AI工程落地
TensorRT LLM vs OpenPPL LLM
支持模型和功能对比PPL LLM只支持baichuan、chatglm、llama三个模型，Tensor-LLM支持几乎所有大模型。 TensorRT-LLM使用起来更方便模型量化TensorRT-LLM是离线量化，支持更多的量化方法，smooth quant、weight only、AWQ等PPL LLM是实时量化（i8i8），支持整个网络一起量化 模型DeployTensorRT-LLM量化结束，不需要deploy中间模型，直接进入编译器。部分模型可以支持onnx可视化PPL LLM不需要deploy以及编译，直接用onnx调算子。 /docs/llama_guide.md at master · openppl-public/ppl.llm.serving (github.com)TensorRT LLM原模型-->量化-->编译 两个框架都是tensor并行框架依赖Tensor-LLM需要依赖tensorrt，但主要是一些单算子（卷积、激活函数、gemm等），融合算子都是Tensor-LLM自带的。PPL LLM没有依赖
1.2K30编辑于 2023-11-21 - 来自专栏学习java的小白
springcloud Hoxton.SR11集成gateway网关 坑！！！
这里根据官网新推出的springcloud Hoxton.SR11版本去集成gateway的一个坑 首先先写版本号： 框架 版本号 springcloud Hoxton.SR11 springboot 在集成gateway网关时会报错如下： *************************** APPLICATION FAILED TO START *************************
2.3K10发布于 2021-06-08 - 来自专栏NewBeeNLP
LLM in Reranking——利用LLM进行重排
现有的涉及LLM的重排方法大致可以分为三类： 用重排任务微调LLM 使用prompt让LLM进行重排 以及利用LLM做训练数据的增强 本文中针对前两种方法介绍一些研究。 部分可以填为 _< X > = “Read the following” and < Y > = “answer the”_，作者采用了两种不同的模板，并且用不同的instruction的最终得分进行集成 作者同样通过集成的方法来解决这一问题，即每个提示包含一个不同的示例，最终通过集成不同提示的得分，使模型同时能从多个示例中进行学习。 在实验中，作者用语言模型生成了200种instructions并随机采样其中10个，集成分数的方法采用最大值。 一方面，LLM的输入长度对于一个文档列表来说还是十分受限的，必须通过滑动窗口或集成的方式才能实现文档输入。
3.7K30编辑于 2023-10-25 - 来自专栏黑泽君的专栏
c语言基础学习11_项目实战：IDE(集成开发环境)
11 char *p = (char *)malloc(100); 12 free(p); 13 14 return 0; 15 } 如下图所示： ? 10 char *p1 = new char[100]; 11 delete p1; //释放第一个char。 12 delete []p1;//释放一个数组。 10 void test01(void) 11 { 12 printf("aaaa\n"); 13 } 14 15 //函数的重载。 11 //在c++里面读写一个结构的成员的时候，往往更多时候是用成员函数去读写它。而不是直接通过初始化列表去初始化它。 6 A() 7 { 8 } 9 10 /* 11 int age; 12 void set_age(int a) 13
2.8K21发布于 2018-10-11 - 来自专栏Hadoop实操
11.如何为CDSW集成RedHat7的OpenLDAP认证
1.文档编写目的 ---- 在前面的文章中Fayson介绍了CDH各个组件与OpenLDAP的集成，具体可以看Fayson更新的《从入门到精通 - Fayson带你玩转CDH》文章里面包含了公众号内所有的文章 本篇文章Fayson主要介绍如何为CDSW集成RedHat7的OpenLDAP并指定的用户组分配访问权限。 内容概述 1.测试环境描述 2.CDSW与OpenLDAP集成 3.CDSW集成验证 4.总结 测试环境 1.OpenLDAP版本为2.4.44 2.CDSW1.4 3.CM和CDH版本为5.15 前置条件 到此为止完成CDSW服务的集成及测试。 5.CDSW集成验证 ---- 1.CDSW与OpenLDAP集成，需要为OpenLDAP启用MemberOf功能，具体可以参考Fayson前面的文章《如何在OpenLDAP启用MemberOf》 2.
1.3K30发布于 2018-09-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号