- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型
04-LLM与MCP集成实践
04-LLM与MCP集成实践概述在前三篇文章中,我们分别介绍了MCP协议、服务器开发和客户端开发。 本文将深入探讨如何将MCP工具集成到大语言模型(LLM)中,使用LangGraph构建智能代理应用,实现自动化的工具调用和状态管理。 文件:展开代码语言：BashAI代码解释#DeepSeekAPI配置DEEPSEEK_API_KEY=sk-your-actual-api-key-here#调试模式(可选)DEBUG=false基础集成架构架构图展开代码语言 (result["messages"])==1集成测试展开代码语言：PythonAI代码解释@pytest.mark.asyncioasyncdeftest_graph_execution():#创建图 参考资源LangGraph官方文档LangChainMCPAdaptersDeepSeekAPI文档文章标签展开代码语言：TXTAI代码解释LangGraph,LLM集成,MCP集成,智能代理,工具调用
27010编辑于 2026-02-03 - 来自专栏DeepHub IMBA
LLM-Client一个轻量级的LLM集成工具
所以这时候LangChain就解决了这个问题，LLM集成工具为将不同的语言模型集成到您的项目中提供了一种简化的方法。抽象了与每个LLM相关的复杂性和细微差别。 我这里又发现了一个刚刚发布不久的集成工具LLM-Client就出现了，本文将深入研究LLM -client和LangChain的特性、优势和注意事项。 而LLM-Client是专门为大型语言模型(llm)集成而设计的。它用户友好的界面，专注于消除集成复杂性为开发人员提供了无缝的体验。 LangChain LangChain庞大的社区是一个显著的优势。 LLM-Client llm-client提供了一个带有标准化参数的包装器，使开发人员能够绕过复杂的设置或不一致的配置。该工具专为与llm无缝集成而设计，调用起来更简单。 LLM-Client客户端的性能、灵活性和LLM集成的针对性设计使其成为那些寻求最大控制、高效和精简工作流程的人的是一个很好的工具，尤其是有异步的调用可以提高响应性能。 作者：Uri Peled
73410编辑于 2023-08-30 LLM集成 - API客户端与流式响应
第6篇：LLM集成 - API客户端与流式响应 构建生产级LLM API集成方案 Claude Code 与 Claude API 的集成展示了现代 AI 应用如何高效、可靠地与 LLM 交互。
12410编辑于 2026-06-22- 来自专栏charlieroro
矢量数据库与LLM的集成：实践指南
矢量数据库与LLM的集成：实践指南 本文将了解到什么是矢量数据库，以及如何与LLMs进行集成。通过LLMs和向量数据库的结合，可以节省微调带来的开销和时间。 使用Falcon-7B 和 ChromaDB构建一个封闭式问题机器人 本章中，我们将介绍如何使用向量数据库来构建一个LLM，是使用的模型是一个封闭式问题机器人(Closed Q&A bot)，该机器人使用一组集成的技术组件来有效解答与科学相关的问题 , "context": "Komorida was born in Kumamoto Prefecture on July 10, 1981. ", "response": "Tomoaki Komorida was born on July 10, 1981. 其友好的Python设置增强了对我们项目的吸引力，简化了与我们工作流程的集成。更多参见Chroma DB 文档。
89310编辑于 2024-03-16 - 来自专栏自然语言处理(NLP)论文速递
分享10篇优秀论文，涉及LLM对齐、LLM评估、LLM隐私、RAG增强等热门话题！
今天继续给大家分享10篇最新论文，其中涉及大模型幻觉、大模型对齐、大模型剪枝、大模型隐私、大模型毒性、大模型评估、RAG能力增强、Transformer架构优化等热门研究方向。 SELF-RAG 是一个新框架，通过按需检索和自反思来提高LLM的质量和真实性。它使用反射Token进行自评估，在各种任务中显着优于传统的LLM。该框架涉及两个组件：生成器和批评家模型。 在六项任务的评估结果中表明，SELF-RAG 优于经过预训练和指令调整的 LLM，包括那些具有更多参数的 LLM。 LLM评估 https://arxiv.org/pdf/2310.14424.pdf 本文解决了通过人工标注有效评估大型语言模型 (LLM) 的问题。 RepE 的应用之一是增强大型语言模型 (LLM) 中的诚实性，减少大模型幻觉。
1.2K10编辑于 2024-01-31 - 来自专栏AI SPPECH
32_语音到文本：Whisper与LLM集成_深度解析
这表明Whisper技术还在持续演进，为与LLM的更深度集成奠定了基础。 第2章：LLM技术基础与语音理解能力 2.1 大语言模型的语音理解基础 大语言模型（LLM）在语音理解领域展现出了巨大潜力。 第3章：Whisper与LLM集成的技术架构 3.1 集成架构设计原则 Whisper与LLM的集成需要遵循一系列关键设计原则，以确保系统的稳定性、性能和用户体验： 模块化设计：将音频处理、语音识别、 第5章：2025年Whisper与LLM集成的最新进展 5.1 WhisperLiveKit：全栈语音处理解决方案 2025年最引人注目的Whisper与LLM集成项目之一是WhisperLiveKit 第6章：Whisper与LLM集成的应用场景 6.1 语音购物助手 在电子商务领域，Whisper与LLM的集成催生了新一代语音购物体验： 全流程语音交互：实现从"语音搜索-商品推荐-下单支付"的全流程语音购物体验 防止用于不当目的 监控异常使用模式，及时发现和阻止滥用 建立滥用举报和处理机制 透明度与问责： 向用户清晰说明系统的能力和局限性 提供关于决策过程的解释机制 建立明确的责任框架，处理系统错误和伤害 第10
1K10编辑于 2025-11-13 - 来自专栏DeepHub IMBA
LLM-Blender：大语言模型也可以进行集成学习
最近在看arxiv的时候发现了一个有意思的框架：LLM-Blender，它可以使用Ensemble 的方法来对大语言模型进行集成。 官方介绍如下：LLM-Blender是一个集成框架，可以通过利用多个开源大型语言模型(llm)的不同优势来获得始终如一的卓越性能。 LLM集成 我们都知道集成学习是一种机器学习方法，旨在提高预测模型的性能和鲁棒性。它通过将多个不同的学习器（如决策树、神经网络等）结合成一个整体，来取得比单个学习器更好的预测效果。 基准测试 论文介绍了一个名为mixdirective的新数据集，用于对llm在指令跟随任务中的集成模型进行基准测试。 有10万例用于训练，5万例用于验证，5万例用于测试。 使用N = 11个流行的开源LLM进行测试。候选的输出使用ChatGPT对所有候选对进行评估。
64430编辑于 2023-08-30 - 来自专栏NowlNowl_AI
机器学习第10天：集成学习
介绍 集成学习的思想是很直观的：多个人判断的结合往往比一个人的想法好 我们将在下面介绍几种常见的集成学习思想与方法 投票分类器 介绍 假如我们有一个分类任务，我们训练了多个模型：逻辑回归模型 model, accuracy_score(y_test, y_pred)) 运行结果 该示例代码可以看到各个模型在相同数据集上的性能测试，该示例的数据集较小，所以性能相差不大，当数据集增大时 ，集成学习的性能往往比单个模型更优 软投票与硬投票 当基本模型可以计算每个类的概率时，集成学习将概率进行平均计算得出结果，这种方法被称作软投票，当基本模型只能输出类别时，只能实行硬投票（以预测次数多的为最终结果） bagging与pasting 介绍 除了投票分类这种集成方法，我们还有其他方法，例如：使用相同的基础分类器，但是每个分类器训练的样本将从数据集中随机抽取，最后再结合性能，若抽取样本放回，则叫做bagging方法，若不放回，则叫做pasting （-1代表使用所有可用内核） 设置为False时采用Pasting不放回采样法 随机森林 介绍 随机森林就是一种基本模型是决策树的Bagging方法，你可以使用BaggingClassifier集成
37710编辑于 2024-01-18 可定制NLP工具包spaCy与LLM集成技术解析
]}}, {"LOWER": "received"}, {"POS": "NOUN"}]matcher.add("TreatmentGroup", [pattern])大语言模型集成方案多后端支持 TrialSummaryTask:def parse_responses(self, docs, responses): for doc, response in zip(docs, responses): # 将LLM 自由文本输出转换为结构化实体 matcher.add("Patient\_Group", patterns) doc.ents = filter\_spans(matches)生产部署策略混合架构设计：LLM 快 | 高 || 监督学习模型 | 高 | 中 | 中 || 大语言模型 | 极高 | 慢 | 低 |进阶应用场景LLM
21310编辑于 2025-08-11在Mac上微调LLM：DagsHub与Apple MLX-LM集成
TL;DRDagsHub现已完全支持基于MLX-LM的Apple Silicon LLM微调工作流。在MacBook上本地训练模型、追踪实验、对数据集进行版本控制并部署——全部集成在一个无缝的体验中。 本地LLM开发在Apple Silicon上的兴起Apple的MLX框架开启了Mac上机器学习的新纪元。 我们激动地宣布DagsHub与Apple MLX-LM完成全面集成，将企业级MLOps带到本地Apple Silicon LLM开发中。什么是DagsHub？ 完整工作流图DagsHub与MLX-LM集成的工作流程示意图（原始文章包含图示）。 加入社区：Discord获取问题和反馈Apple Silicon使本地LLM开发走向大众。
18300编辑于 2026-05-14- 来自专栏菩提树下的杨过
spring cloud 学习(10) - 利用springfox集成swagger
github上有一个springfox项目，可以在开发rest服务时，只要加一些注解，就自动生成swagger-ui界面，以及相关的文档，而且可以跟spring-boot/spring-cloud无缝集成 springfox.documentation.builders.PathSelectors; 9 import springfox.documentation.builders.RequestHandlerSelectors; 10 springfox.documentation.swagger2.annotations.EnableSwagger2; 15 16 /** 17 * Created by yangjunming on 13/10 io.swagger.annotations.ApiOperation; 9 import org.springframework.beans.factory.annotation.Autowired; 10 io.swagger.annotations.ApiModelProperty; 8 import lombok.Data; 9 import lombok.EqualsAndHashCode; 10
1.2K70发布于 2018-01-18 - 来自专栏Rust语言学习交流
【Rust日报】2023-10-08 Orca 简介：LLM 编排框架！
https://crates.io/crates/tdyne-peer-id-registry Orca 简介：LLM 编排框架！ Github 链接： https: //github.com/scrippt-tech/orca 我决定启动这个项目是因为当我在之前的项目中使用 Rust 时，我缺乏一个干净的界面来与 LLM 交互。
66740编辑于 2023-10-10 - 来自专栏AI工程落地
TensorRT LLM vs OpenPPL LLM
支持模型和功能对比PPL LLM只支持baichuan、chatglm、llama三个模型，Tensor-LLM支持几乎所有大模型。 TensorRT-LLM使用起来更方便模型量化TensorRT-LLM是离线量化，支持更多的量化方法，smooth quant、weight only、AWQ等PPL LLM是实时量化（i8i8），支持整个网络一起量化 模型DeployTensorRT-LLM量化结束，不需要deploy中间模型，直接进入编译器。部分模型可以支持onnx可视化PPL LLM不需要deploy以及编译，直接用onnx调算子。 /docs/llama_guide.md at master · openppl-public/ppl.llm.serving (github.com)TensorRT LLM原模型-->量化-->编译 两个框架都是tensor并行框架依赖Tensor-LLM需要依赖tensorrt，但主要是一些单算子（卷积、激活函数、gemm等），融合算子都是Tensor-LLM自带的。PPL LLM没有依赖
1.2K30编辑于 2023-11-21 - 来自专栏程序员的知识天地
10个最好用的Python集成开发环境
这篇文章收集了一些对开发者非常有帮助的，最好的 10 款 Python IDE。 1. PyCharm PyCharm 是 JetBrains 开发的 Python IDE。 Vim 不需要花费太多的学习时间，一旦你需要一个无缝的编程体验，那么就会把 Vim 集成到你的工作流中。这是黑客最喜欢的编辑器之一。 ? 3. 2018年，10个最好用的Python集成开发环境（IDE） 7. Emacs GNU Emacs 是可扩展，自定义的文本编辑器，甚至是更多的功能。 10. Wing 支持测试驱动开发，集成了单元测试，nose 和 Django 框架的执行和调试功能。
21.1K40发布于 2018-11-26 - 来自专栏DevOps持续集成
2020年10种最佳持续集成工具
因此，持续集成工具的引入使开发人员可以更轻松地简化开发流程。 ? 持续集成方法使开发人员可以在代码中发现任何缺陷时立即提供报告，以便可以立即采取纠正措施。 比较市场上可用的最佳持续集成工具，以下是10种最佳且使用最广泛的持续集成工具的列表，这些工具在2020年不容忽视。 ? 1.Jenkins Jenkins是当今已知且最常用的持续集成工具。 5.提供API以允许更好的产品集成。 ---- 6.Circle CI Circle CI是市场上最好的持续集成和交付工具之一。 4.易于与AWS，Google Cloud和其他集成服务。 5.可以轻松集成Maven，Gradle等构建工具 。 7.CodeShip Codeship持续集成工具被Cloudbees收购。 5.支持跨多个平台的分布式并行执行，并提供广泛的状态报告 10. GoCD GoCD Continuous Integration服务器由Thoughtworks拥有。
8.4K11发布于 2020-03-24 - 来自专栏NewBeeNLP
LLM in Reranking——利用LLM进行重排
现有的涉及LLM的重排方法大致可以分为三类： 用重排任务微调LLM 使用prompt让LLM进行重排 以及利用LLM做训练数据的增强 本文中针对前两种方法介绍一些研究。 部分可以填为 _< X > = “Read the following” and < Y > = “answer the”_，作者采用了两种不同的模板，并且用不同的instruction的最终得分进行集成 作者同样通过集成的方法来解决这一问题，即每个提示包含一个不同的示例，最终通过集成不同提示的得分，使模型同时能从多个示例中进行学习。 评价指标使用召回率Recall@2/10/20。 在实验中，作者用语言模型生成了200种instructions并随机采样其中10个，集成分数的方法采用最大值。 一方面，LLM的输入长度对于一个文档列表来说还是十分受限的，必须通过滑动窗口或集成的方式才能实现文档输入。
3.7K30编辑于 2023-10-25 - 来自专栏Springboot
10. Springboot集成Dubbo3（一）简单介绍
云原生时代的基础设施能力不断向上释放，像 Kubernetes 等平台都集成了微服务概念抽象，Dubbo3 的应用级服务发现是适配各种微服务体系的通用模型。 提升性能与可伸缩性。 除此之外，Dubbo3 也对众多第三方协议进行了集成，并将它们纳入 Dubbo 的编程与服务治理体系， 包括 gRPC、Thrift、JsonRPC、Hessian2、REST 等。
93110编辑于 2024-02-08 - 来自专栏Java帮帮-微信公众号-技术文章全总结
10个好用的Python集成开发环境【大牛经验】
Pydev能高居榜首，得益于这些关键功能，包括Django集成、自动代码补全、多语言支持、集成的Python调试、代码分析、代码模板、智能缩进、括号匹配、错误标记、源代码控制集成、代码折叠、UML编辑和查看和单元测试整合等 和大多数的专业python IDE一样，Komodo也提供了代码重构，自动补全，调用提示，括号匹配，代码浏览器，代码跳转，图形化调试，多进程调试，多线程调试，断点，代码分析，集成测试单元等功能，并且集成其他的第三方库 PTVS - Best Python IDE for Windows PTVS（Python Tools forVisual Studio）集成在Visual Studio中，就像Pydev可以集成在eclipse Eric Python Eric是一个开源python代码编辑器和集成开发环境，提供了很多高效编程需要的功能。它是纯python编写的，基于Qt GUI并集成了强大的Scintilla 编辑器功能。 10. Emacs - Python Editor cum IDE Emacs有属于它自己的生态系统，它是一个可扩展的并能高度定制的GNU文本编辑器。
2.6K60发布于 2018-10-24 - 来自专栏Elasticsearch专栏
【极数系列】Flink集成KafkaSource & 实时消费数据（10）
秒检查一次新分区 10 事件时间和水印 默认情况下，Kafka Source 使用 Kafka 消息中的时间戳作为事件时间。 --================================集成外部依赖==========================================--> <! --集成日志框架 start--> <dependency> <groupId>org.apache.logging.log4j</groupId> --集成日志框架 end--> <! )构建全部参数 KafkaSource<String> kafkaSource = kafkaSourceBuilder.build(); //(7)动态检查新分区, 10
4.6K10编辑于 2024-03-04 - 来自专栏AI SPPECH
10_大模型开发环境：从零搭建你的LLM应用平台
├── 第一章：LLM开发环境基础准备 ├── 第二章：本地部署方法详解 ├── 第三章：Docker容器化部署 ├── 第四章：性能优化技术 ├── 第五章：完整应用平台搭建 ├── 第六章：开发工具与集成 将本地知识库与LLM集成，可以显著提升模型在特定领域的表现： 1. 响应加速技术，特别适合长上下文场景： LMCache工作原理： KV缓存复用 → 预填充加速 → 多级存储利用 → 响应速度提升3-10倍 1. 应用开发示例 创建新应用 设计对话流程 添加知识库 配置提示模板 部署应用 5.2 Ollama + Dify + Qwen2集成方案 1. 知识库集成 在Dify中创建知识库 上传文档或连接数据源 配置检索参数 测试问答效果 5.3 RAGflow知识库平台 RAGflow是专注于知识库构建的开源平台： 1.
1K11编辑于 2025-11-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号