- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型
04-LLM与MCP集成实践
04-LLM与MCP集成实践概述在前三篇文章中,我们分别介绍了MCP协议、服务器开发和客户端开发。 本文将深入探讨如何将MCP工具集成到大语言模型(LLM)中,使用LangGraph构建智能代理应用,实现自动化的工具调用和状态管理。 文件:展开代码语言：BashAI代码解释#DeepSeekAPI配置DEEPSEEK_API_KEY=sk-your-actual-api-key-here#调试模式(可选)DEBUG=false基础集成架构架构图展开代码语言 (result["messages"])==1集成测试展开代码语言：PythonAI代码解释@pytest.mark.asyncioasyncdeftest_graph_execution():#创建图 参考资源LangGraph官方文档LangChainMCPAdaptersDeepSeekAPI文档文章标签展开代码语言：TXTAI代码解释LangGraph,LLM集成,MCP集成,智能代理,工具调用
27010编辑于 2026-02-03 - 来自专栏DeepHub IMBA
LLM-Client一个轻量级的LLM集成工具
所以这时候LangChain就解决了这个问题，LLM集成工具为将不同的语言模型集成到您的项目中提供了一种简化的方法。抽象了与每个LLM相关的复杂性和细微差别。 我这里又发现了一个刚刚发布不久的集成工具LLM-Client就出现了，本文将深入研究LLM -client和LangChain的特性、优势和注意事项。 而LLM-Client是专门为大型语言模型(llm)集成而设计的。它用户友好的界面，专注于消除集成复杂性为开发人员提供了无缝的体验。 LangChain LangChain庞大的社区是一个显著的优势。 LLM-Client llm-client提供了一个带有标准化参数的包装器，使开发人员能够绕过复杂的设置或不一致的配置。该工具专为与llm无缝集成而设计，调用起来更简单。 LLM-Client客户端的性能、灵活性和LLM集成的针对性设计使其成为那些寻求最大控制、高效和精简工作流程的人的是一个很好的工具，尤其是有异步的调用可以提高响应性能。 作者：Uri Peled
73410编辑于 2023-08-30 LLM集成 - API客户端与流式响应
第6篇：LLM集成 - API客户端与流式响应 构建生产级LLM API集成方案 Claude Code 与 Claude API 的集成展示了现代 AI 应用如何高效、可靠地与 LLM 交互。
12410编辑于 2026-06-22- 来自专栏charlieroro
矢量数据库与LLM的集成：实践指南
矢量数据库与LLM的集成：实践指南 本文将了解到什么是矢量数据库，以及如何与LLMs进行集成。通过LLMs和向量数据库的结合，可以节省微调带来的开销和时间。 本文给出了如何使用向量数据库构建一个LLM，并改进LLM对该流程的使用。我们将会看到二者的结合是如何让LLMs更加准确可靠(特别针对特定主题)。 使用Falcon-7B 和 ChromaDB构建一个封闭式问题机器人 本章中，我们将介绍如何使用向量数据库来构建一个LLM，是使用的模型是一个封闭式问题机器人(Closed Q&A bot)，该机器人使用一组集成的技术组件来有效解答与科学相关的问题 ", "category": "closed_qa" } 下面，我们将重点为每组指令及其各自的上下文生成词嵌入，并将它们集成到矢量数据库ChromaDB中。 其友好的Python设置增强了对我们项目的吸引力，简化了与我们工作流程的集成。更多参见Chroma DB 文档。
89310编辑于 2024-03-16 - 来自专栏AI SPPECH
32_语音到文本：Whisper与LLM集成_深度解析
这表明Whisper技术还在持续演进，为与LLM的更深度集成奠定了基础。 第2章：LLM技术基础与语音理解能力 2.1 大语言模型的语音理解基础 大语言模型（LLM）在语音理解领域展现出了巨大潜力。 第3章：Whisper与LLM集成的技术架构 3.1 集成架构设计原则 Whisper与LLM的集成需要遵循一系列关键设计原则，以确保系统的稳定性、性能和用户体验： 模块化设计：将音频处理、语音识别、 3.2 集成系统的核心组件 一个完整的Whisper与LLM集成系统通常包含以下核心组件： 音频采集与预处理模块：负责从麦克风、音频文件或流媒体获取音频数据，并进行降噪、归一化等预处理。 第5章：2025年Whisper与LLM集成的最新进展 5.1 WhisperLiveKit：全栈语音处理解决方案 2025年最引人注目的Whisper与LLM集成项目之一是WhisperLiveKit 第6章：Whisper与LLM集成的应用场景 6.1 语音购物助手 在电子商务领域，Whisper与LLM的集成催生了新一代语音购物体验： 全流程语音交互：实现从"语音搜索-商品推荐-下单支付"的全流程语音购物体验
1K10编辑于 2025-11-13 - 来自专栏DeepHub IMBA
LLM-Blender：大语言模型也可以进行集成学习
最近在看arxiv的时候发现了一个有意思的框架：LLM-Blender，它可以使用Ensemble 的方法来对大语言模型进行集成。 官方介绍如下：LLM-Blender是一个集成框架，可以通过利用多个开源大型语言模型(llm)的不同优势来获得始终如一的卓越性能。 LLM集成 我们都知道集成学习是一种机器学习方法，旨在提高预测模型的性能和鲁棒性。它通过将多个不同的学习器（如决策树、神经网络等）结合成一个整体，来取得比单个学习器更好的预测效果。 可以集成LLM的输出(基于输入、任务和领域)，以便在不同的示例中提供一致的卓越性能。结合他们独特的贡献;可以减轻个别LLM的偏差、误差和不确定性，从而使产出与人类偏好保持一致。 基准测试 论文介绍了一个名为mixdirective的新数据集，用于对llm在指令跟随任务中的集成模型进行基准测试。
64330编辑于 2023-08-30 可定制NLP工具包spaCy与LLM集成技术解析
]}}, {"LOWER": "received"}, {"POS": "NOUN"}]matcher.add("TreatmentGroup", [pattern])大语言模型集成方案多后端支持 TrialSummaryTask:def parse_responses(self, docs, responses): for doc, response in zip(docs, responses): # 将LLM 自由文本输出转换为结构化实体 matcher.add("Patient\_Group", patterns) doc.ents = filter\_spans(matches)生产部署策略混合架构设计：LLM 快 | 高 || 监督学习模型 | 高 | 中 | 中 || 大语言模型 | 极高 | 慢 | 低 |进阶应用场景LLM
21310编辑于 2025-08-11在Mac上微调LLM：DagsHub与Apple MLX-LM集成
TL;DRDagsHub现已完全支持基于MLX-LM的Apple Silicon LLM微调工作流。在MacBook上本地训练模型、追踪实验、对数据集进行版本控制并部署——全部集成在一个无缝的体验中。 本地LLM开发在Apple Silicon上的兴起Apple的MLX框架开启了Mac上机器学习的新纪元。 我们激动地宣布DagsHub与Apple MLX-LM完成全面集成，将企业级MLOps带到本地Apple Silicon LLM开发中。什么是DagsHub？ 完整工作流图DagsHub与MLX-LM集成的工作流程示意图（原始文章包含图示）。 加入社区：Discord获取问题和反馈Apple Silicon使本地LLM开发走向大众。
18200编辑于 2026-05-14- 来自专栏全栈开发那些事
6-8 求二叉树高度 (20分)
本题要求给定二叉树的高度。 函数接口定义： int GetHeight( BinTree BT ); 其中BinTree结构定义如下： typedef struct TNode *Position; typedef Position BinTree; struct TNode{ ElementType Data; BinTree Left; BinTree Right; }; 要求函数返回给定二叉树BT的高度值。 裁判测试程序样例： #include <stdio.h> #inclu
29310编辑于 2023-02-27 基于多Agent动态调度的CTF智能渗透系统：腾讯黑盲松竞赛实战解析
腾讯云黑盲松竞赛首次引入LLM智能体进行全流程自动化渗透测试，面临三大核心挑战：LLM解题路径存在显著不稳定性（可能快速突破或陷入冗长试错）、题目预设难度与LLM实际解决能力不匹配、模型易受冗余信息干扰而偏离核心漏洞 重新聚焦漏洞点 执行模块采用ReAct框架（Reasoning-Action-Observation），集成定制化工具集： 文件读取、命令执行、Python脚本运行等基础操作工具 dirsearch_scan 团队通过Agent集群的并行探索，在不出网环境下（仅能访问大模型API）完成从信息收集到攻击利用的完整链路，平均每个解题时段（3小时）处理6-8个题目。 腾讯云安全赋能智能攻防创新 该系统依托腾讯云鼎实验室和腾讯安全众测平台的技术支撑，展现三大技术优势： ReAct框架企业级应用：实现语言模型与安全工具的高效集成 资源调度算法创新：动态优先级调整解决LLM 能力不对称问题 多模态处理扩展能力：为复杂场景自动化渗透提供技术基础 团队未来将深化提示词优化和工具集成，进一步提升系统在复杂攻防场景中的适用性和稳定性。
42610编辑于 2026-04-04- 来自专栏申龙斌的程序人生
如何在6-8小时之内读完300页的书？
Michigan大学的一位老师Paul N. Edwards写了一篇学术文章《How to Read a Book》，当前已经更新到v5.0版本，个人感觉好过另外一本非常著名的、厚厚的同名书《如何阅读一本书》，英文版原文并不难，链接地址（微信中不让加链接，点击无效，自行下载阅读）： http://pne.people.si.umich.edu/PDF/howtoread.pdf 该书的重要观点： 小说需要按顺序读，但对于非虚构类的书不需要从头到尾按顺序去阅读，而是要跳读、略读、标记，对重点的地方还要仔细地
991100发布于 2018-03-06 - 来自专栏AI工程落地
TensorRT LLM vs OpenPPL LLM
支持模型和功能对比PPL LLM只支持baichuan、chatglm、llama三个模型，Tensor-LLM支持几乎所有大模型。 TensorRT-LLM使用起来更方便模型量化TensorRT-LLM是离线量化，支持更多的量化方法，smooth quant、weight only、AWQ等PPL LLM是实时量化（i8i8），支持整个网络一起量化 模型DeployTensorRT-LLM量化结束，不需要deploy中间模型，直接进入编译器。部分模型可以支持onnx可视化PPL LLM不需要deploy以及编译，直接用onnx调算子。 /docs/llama_guide.md at master · openppl-public/ppl.llm.serving (github.com)TensorRT LLM原模型-->量化-->编译 两个框架都是tensor并行框架依赖Tensor-LLM需要依赖tensorrt，但主要是一些单算子（卷积、激活函数、gemm等），融合算子都是Tensor-LLM自带的。PPL LLM没有依赖
1.2K30编辑于 2023-11-21 jvm入门3：6-8 本地方法接口+本地方法栈+堆
1一个Native Method是一个java调用非java代码的接口。一个Native Method由java语言实现， 这个特征非java所特有，其他的编程语言都有这个机制，C++的extern告知c++编译器调用c的函数；2在定义一个native method时，并不提供实现体，实体体由java语言在外面实现的；3本地接口的作用是融合不同的编程语言为java所用，初衷为融合c/c++程序
29600编辑于 2025-02-24- 来自专栏前行的CVer
LLM评测
Open LLM Leaderboard（英文） Open LLM Leaderboard中包含有下列Benchmark： 所有能力 通用&数学&code——MT-Bench，由80个高质量的多轮对话问题组成的基准 是多个数据集的结合，划分了LLM的语言、知识、推理、数学、Code、Agent几类能力。
2K10编辑于 2024-08-05 - 来自专栏CSDNToQQCode
软考中级(软件设计师)——操作系统(占6-8分)
软考中级(软件设计师)——操作系统(占6-8分) ---- 目录 软考中级(软件设计师)——操作系统(占6-8分) 主要考点： 1、进程管理 进程的同步与互斥 进程管理-PV操作【******】(超重点
58220编辑于 2022-11-30 - 来自专栏NewBeeNLP
LLM in Reranking——利用LLM进行重排
现有的涉及LLM的重排方法大致可以分为三类： 用重排任务微调LLM 使用prompt让LLM进行重排 以及利用LLM做训练数据的增强 本文中针对前两种方法介绍一些研究。 部分可以填为 _< X > = “Read the following” and < Y > = “answer the”_，作者采用了两种不同的模板，并且用不同的instruction的最终得分进行集成 作者同样通过集成的方法来解决这一问题，即每个提示包含一个不同的示例，最终通过集成不同提示的得分，使模型同时能从多个示例中进行学习。 在实验中，作者用语言模型生成了200种instructions并随机采样其中10个，集成分数的方法采用最大值。 一方面，LLM的输入长度对于一个文档列表来说还是十分受限的，必须通过滑动窗口或集成的方式才能实现文档输入。
3.7K30编辑于 2023-10-25 - 来自专栏k8s技术圈
LLM On Kubernetes
从今年开始，人们对大型语言模型 (LLM) 及其在 GPU 基础设施上的部署的兴趣显着增加。这种不断增长的热情是由人工智能和机器学习的进步推动的，这需要 GPU 能够有效提供大量的计算能力。 Ollama 是一个开源的机器学习模型部署工具，它可以帮助您将模型部署到生产环境中，简化大型语言模型 (LLM) 的管理和交互。
85810编辑于 2024-07-20 破解自动化渗透测试困境：基于ReAct框架的多智能体CTF攻防架构实践
突破隔离靶场限制：LLM自动化渗透的稳定性与推理困境 在现代网络安全攻防场景中，传统CTF（夺旗赛）模式正向自动化演进。 在“智能渗透挑战赛”中，参赛系统需在完全隔离的靶场环境（仅允许访问大模型API）下，于受限时间（每时段3小时，处理6-8个题目）内独立完成从信息收集到攻击利用的完整链路。 在此极端约束下，依赖大语言模型（LLM）进行自动化渗透面临三大核心业务瓶颈： 输出表现极度不稳定： LLM在漏洞挖掘过程中存在随机性，既可能瞬间定位漏洞，也极易陷入冗长的试错死循环，导致计算资源与时间成本的极大浪费 难度感知不对称： 人工评估的题目“难度级别”与LLM的实际解决能力存在严重脱节。简单题目可能导致LLM耗时过长且成功率低，引发任务调度失效。 工具缓存与状态持久化： 集成目录扫描（dirsearch）、漏洞扫描（sqlmap、fenjing）等定制工具。为降低并发探测带来的系统冗余负载，开发了结果缓存机制（目标与参数相同时直接读缓存）。
44320编辑于 2026-04-05- 来自专栏时空探索之旅
WWW 2026 | LLM×Graph论文总结【LLM4Graph & Graph4LLM】
本文总结了2026 WWW上有关LLM Graph的相关论文，包含Research一个Track的论文（没有其它track），总计24篇，如有疏漏，欢迎补充。 笔者将LLM和Graph结合的工作分为两大类，一类是LLM4Graph，即LLM做图任务。 另外一类是利用Graph4LLM，即利用图这种格式来增强LLM的能力。 LLM4Graph1. Disentangled Graph LLM for Molecule Graph Editing under Distribution Shifts4. ，RAG 推荐阅读 ICLR 2026 | LLM×Graph论文总结【LLM4Graph与Graph4LLM】 ICLR 2026 | Rebuttal前 图基础模型(GFM)&文本属性图(TAG)高分论文
51110编辑于 2026-03-10 - 来自专栏新智元
MIT等首次深度研究「集成LLM」预测能力：可媲美人类群体准确率
最近，来自伦敦政治经济学院、MIT和宾夕法尼亚大学的研究人员做了两项研究，通过简单、实际适用的预测集成方法，表明LLMs可以实现与人类群体竞赛相当的预测准确率。 论文链接：https://arxiv.org/pdf/2402.19379.pdf 在第一个研究中，将31个二元问题由12个LLM进行集成预测，与为期三个月的预测锦标赛中925名人类预测者的预测进行了比较 实验结果 研究人员从集成的12个LLM的31个问题中收集了总共1007个单独的预测，剩余的109个预测由于模型或界面的技术问题，或是内容限制政策没有收集完成。 实验结果的发现为进一步的研究和实际应用开辟了许多领域，因为LLM集成方法比从人群中收集数据要便宜得多，也快得多。 未来的研究可以旨在将集成方法与模型和支架进展相结合，这可能会在预测领域产生更强的能力增益。 参考资料： https://arxiv.org/pdf/2402.19379.pdf
47910编辑于 2024-04-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号