- 综合排序
- 最热优先
- 最新优先
- 来自专栏有文化的技术人
Eino LLM应用开发框架调研分析
项目概述 「eino」（发音类似 "I know"）是 CloudWeGo 团队开源的 Go 语言 LLM 应用开发框架，基于 Apache 2.0 许可证。 设计理念总结 4.1 框架定位 「eino 是 LLM 应用开发 SDK」，提供组件抽象和编排能力： ┌───────────────────────────────────────────────── 应用 │ │ │ └─────────────────────────────────────────────────────────┘ │ │ ──────────────┘ │ └───────────────────────────────────────────────────────────────┘ 「适用场景」： 需要灵活组合 LLM 能力的应用 已有服务框架，需要嵌入 LLM 能力 快速原型开发和实验 对类型安全有要求的 Go 项目 4.2 核心设计理念 「核心理念」：Runnable 抽象 + 流式优先 + 类型安全 ┌────
17710编辑于 2026-04-09 - 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
随着开发人员开始创建日益复杂的LLM应用程序，开发流程不可避免地变得更加复杂。 但是，对于面向Agent的大模型应用开发，有没有其独特之处呢？有没有聚焦于Agent的大模型应用开发框架呢？ 那么，什么又是Agent 呢？ 1. MetaGPT：MetaGPT 是一种基于Multi-Agent对话框架的LLM自动软件开发应用程序。他们为各种gpt分配不同的角色来协作开发软件，针对特定场景制定专门的解决方案。 上个月（2023年9月），微软提出了一个Autogen 的开源框架，为开发LLM的Agent 应用提供了有价值的参考。 4. 基于Multi-Agent的LLM 应用开发框架：Autogen AutoGen 是一个用于简化 LLM 工作流的编排、优化和自动化的开发框架。
7.9K33编辑于 2023-10-23 - 来自专栏Lcry个人博客
开源 LLM 应用开发平台 Dify 部署教程
在内的产品无疑幸免，在最新版本中 v1.11.1版本中才修复，虽然本站出了很多一些关于 dify 的使用教程，但是很多人还没有部署过这个平台，今天就趁到全新安装 v1.11.1为例带大家部署一下这个 AI 应用开发平台 介绍 Dify 是一款开源的大语言模型（LLM）应用开发平台，它结合了后端即服务（BaaS）和 LLMOps 理念，让开发者、企业甚至非技术人员都能快速构建、部署和管理生产级的生成式AI应用，例如智能客服 、知识库问答等，支持多种模型（如 OpenAI、Claude 3），并通过可视化界面、RAG（检索增强生成）、工作流编排等功能简化了开发流程。 最低配置要求：2C4G，硬盘 20G+，安装 Git、Docker和Docker Compose，尽量版本新一点就 ok，官方没具体明确主要看使用到哪些语法 开始安装 本文以一台 Centos7.9，4C8G
1.5K10编辑于 2026-01-09 - 来自专栏云云众生s
开发基于云的RAG应用，使用开源 LLM
检索增强生成 (RAG) 通常用于开发定制的 AI 应用程序，包括 聊天机器人、推荐系统 和其他个性化工具。该系统利用向量数据库和 大型语言模型 (LLM) 的优势来提供高质量的结果。 让我们探索一种类似的方法来开发使用云托管开源 LLM 和可扩展向量数据库的应用程序。 工具和技术 开发此基于 RAG 的 AI 应用程序需要使用多种工具。 之后，您就可以编写代码并开发 RAG 应用程序了。 它的简单性和灵活性使其成为开发人员的理想选择，使他们能够更多地专注于创新，而无需过多关注部署复杂性。 另一方面，MyScaleDB 是专门为 RAG 应用程序开发的，提供高性能 SQL 向量数据库。 它熟悉的 SQL 语法使开发人员可以轻松地将其集成到他们的应用程序中并使用它，因为学习曲线很小。MyScaleDB 的 多尺度树图 (MSTG) 算法在速度和准确性方面明显优于其他向量数据库。
58410编辑于 2024-07-07 基于MindSpore NLP的LLM应用开发 - - 五点
LLM介绍核心：Transforme1.什么是RAG：RAG(Retrieval-Augmented Generation)技术的原理与实践工作流2.Embedding3.知识库设计：常用向量数据库4. classmethod def read_markdown(cls, file_path: str): with open(file_path, 'r', encoding='utf-8' @classmethod def read_text(cls, file_path: str): with open(file_path, 'r', encoding='utf-8' BaseEmbeddings, path: str = 'storage'): with open(f"{path}/vectors.json", 'r', encoding='utf-8' gr.Files(label="上传文件（支持 .md, .txt, .pdf）") ], outputs=gr.Textbox(label="生成的回复"), title="RAG 应用
31910编辑于 2025-01-19LLM应用开发平台特训营-慕K学习分享
随着大语言模型（Large Language Models, LLM）的应用日益广泛，如何高效地部署和管理这些模型成为一个重要的课题。 而 Prompt 引擎作为 LLMOps 平台的重要组成部分，负责生成和优化提示（prompt），以提升模型的表现和应用效果。 1.3 LLMOps 平台的架构慕课LLM应用开发平台特训营中LLMOps 平台的架构通常包括以下几个模块：模型管理模块：负责模型的版本控制、打包和部署。监控模块：实现模型运行状态的监控和告警。 LLM应用开发平台特训营中Prompt 引擎需要与 LLMOps 平台及外部应用交互，这要求开发标准化的接口，支持数据输入输出和配置管理。 3.2 日志和监控慕课LLM应用开发平台特训营中集成日志和监控功能，使 LLMOps 平台可以跟踪 Prompt 引擎的运行状态和性能，便于调试和优化。
74310编辑于 2024-06-12「慕K体系」LLM应用开发平台特训营-入门
大语言模型（LLM）应用开发涵盖了使用预训练语言模型构建自然语言处理（NLP）应用程序的过程。以下是开发 LLM 应用的详细指南，包括安装、基础配置、常见应用场景和实际示例。1. 安装和配置1.1 安装必要的工具和库在开始开发之前，确保安装了以下工具和库：Python：确保已安装 Python 3.6 及以上版本。pip：Python 包管理工具。 LLM 应用场景2.1 文本生成LLM 可以用于生成高质量的自然语言文本。这在内容创作、自动写作等场景非常有用。 部署和优化3.1 部署 LLM 应用LLM 应用可以部署在各种平台上，包括云服务（如 AWS、GCP）和本地服务器。常见的方法有：使用 Flask 或 FastAPI 构建 API 服务。 使用 Docker 容器化应用，便于部署和扩展。3.2 优化性能由于 LLM 通常非常大，优化性能是关键。可以考虑以下方法：模型压缩：使用模型量化和剪枝技术减小模型体积。
72010编辑于 2024-07-02- 来自专栏腾讯技术工程官方号的专栏
一文入门最热的LLM应用开发框架LangChain
在这个背景下，LangChain 作为一个以 LLM 模型为核心的开发框架出现，为自然语言处理开启了一个充满可能性的世界。 nodejs 版本也在短短 4 个月收货了 7k+的 star，这无疑利好前端同学，不需要会 python 也能快速上手 LLM 应用开发。 笔者认为 Langchain 作为一个大语言模型应用开发框架，解决了现在开发人工智能应用的一些切实痛点。以 GPT 模型为例： 1.数据滞后，现在训练的数据是到 2021 年 9 月。 LLM 应用架构 LangChian 作为一个大语言模型开发框架，是 LLM 应用架构的重要一环。那什么是 LLM 应用架构呢？其实就是指基于语言模型的应用程序设计和开发的架构。 LangChian 可以将 LLM 模型、向量数据库、交互层 Prompt、外部知识、外部工具整合到一起，进而可以自由构建 LLM 应用。 2.
14.1K68编辑于 2023-08-18 - 来自专栏C++核心准则原文翻译
自学鸿蒙应用开发（8）- DatePicker组件
本文介绍在鸿蒙应用中DatePicker组件的基本用法。 增加DatePicker组件 如下代码中46行~51行所示，在布局中增加DatePicker组件。 <? xml version="1.0" encoding="utf-<em>8</em>"? " ohos:left_padding="<em>8</em>vp" /> <DatePicker ohos:id="$+id:date_pick 这样一方面可以使读者了解真实的软件<em>开发</em>工作中每个设计模式的运用场景和想要解决的问题；另一方面通过对这些问题的解决过程进行说明，让读者明白在编写代码时如何判断使用设计模式的利弊，并合理运用设计模式。 对设计模式感兴趣而且希望随学随用的读者通过本书可以快速跨越从理解到运用的门槛；希望学习Python GUI 编程的读者可以将本书中的示例作为设计和<em>开发</em>的参考；使用Python 语言进行图像分析、数据处理工作的读者可以直接以本书中的示例为基础
1.2K10发布于 2021-01-04 - 来自专栏云云众生s
LLM 如何转变企业应用
事实上， LLM 正在迅速成为应用程序栈的一个组成部分。 事实上，构建基于 LLM 的应用程序只需要一个可以进行数据库调用和 API 调用的开发人员。 因此，构建代理首先要考虑如何为 LLM 提供正确的上下文以获得所需的响应。 从广义上讲，此上下文来自三个位置：用户的问题、代理开发人员创建的预定义提示以及来自数据库或其他来源的数据（请参见下图）。 你会听到开发人员谈论像 LangChain 这样的框架，顾名思义，它通过将多个 LLM 调用的输入和输出链接在一起并根据需要自动从正确的数据源中提取正确的数据来实现 LLM 驱动的代理的开发。 您的开发人员可能正在使用诸如 LangChain 之类的框架构建您组织自己的专有基于代理的应用程序体验，但仅专注于此将带来巨大的机会成本。
70210编辑于 2024-03-27 - 来自专栏超级架构师
【移动应用开发】20222023 年 8 大移动应用程序开发趋势
迄今为止，技术进步见证了超过 500 万个应用程序的开发。在全球范围内，应用程序开发市场很火爆，预计未来几年将继续火爆。 到 2022 年，预计会更大、更快，总体上会带来向应用程序的巨大转变。 在未来几年，他们肯定会改善学习体验，使应用程序更具吸引力和吸引力。 区块链 这项技术确实是今年最新的移动应用程序开发趋势之一。区块链是应用程序用户担心的安全问题的解决方案。 PWA 和即时应用 PWA 越来越受欢迎，因为它们填补了大多数原生应用程序和网页的空白。由于减少了对互联网连接的依赖、更快的加载和开发时间、自动更新等，这些对消费者和服务提供商都有好处。 即时应用程序也将类似地开发，因为允许用户在下载和安装应用程序之前对其进行测试。 烽火科技 尽管早在 2013 年就推出了信标技术，但它越来越受欢迎，尤其是在零售业务中。 可穿戴设备 可穿戴移动应用程序开发也将在 2022 年出现大幅增长。可穿戴技术不仅限于智能手表。它包括所有可以佩戴在身上或附在衣服上的设备。 除此之外，未来几年可能会出现无数其他移动应用程序开发趋势。
2.8K30编辑于 2022-07-29 - 来自专栏人工智能
Java程序员该如何快速上手LLM应用开发呢?
作为Java开发者，你完全可以利用自己已有的技能栈，快速上手LLM应用开发。在过去的一年里，我尝试了把多种行业的系统成功的接入大模型能力，将原有的企业应用升级为智能应用。 我发现，Java开发者在构建LLM应用时其实有着独特的优势——扎实的工程实践、成熟的生态系统以及强大的企业级应用开发经验。 一句话，Java开发者学习LLM应用开发，就像是给你的技术工具箱里添加了一把新工具，而不是要换整个工具箱。 二、Java开发者的LLM应用开发栈：从API到框架要开始Java LLM应用开发，你需要了解这套完整的技术栈，从底层API到上层框架，逐层递进：2.1 底层API：与大模型对话的"翻译器"一句话概括： 三、Java LLM应用开发的核心模式：从理论到实践掌握了技术栈，还需要了解LLM应用开发的核心模式，这些模式就像是建筑的结构蓝图，指导你构建稳定可靠的应用：3.1 提示词工程模式：让大模型更好地理解你的需求核心模式
80700编辑于 2025-11-07 - 来自专栏开源服务指南
LLM DevOps 平台：加速大模型应用开发 | 开源日报 No.269
dataelement/bishenghttps://github.com/dataelement/bisheng Stars: 7.2k License: Apache-2.0 bisheng 是一款开源的 LLM 该项目旨在赋能和加速大模型应用开发，帮助用户以最佳体验进入下一代应用开发模式。 其主要功能、关键特性和核心优势包括： 便捷：通过预置的应用模板，业务人员可以快速搭建智能应用。 灵活：提供数百种开发组件，并支持可视化且自由的流程编排能力。 可靠与企业级：具备高并发下的高可用、实时运营及效果持续迭代优化等企业级特性。 产品应用广泛，包括分析报告生成、知识库问答、对话交互以及要素提取等多种场景。 Gemini API 的指南和示例 包括快速入门教程，展示如何编写提示以及使用 API 的不同功能 提供可构建的实际示例 支持多模态 Gemini 模型，可以无缝地跨文本、图像、代码和音频进行推理 可用于开发各种应用程序
83910编辑于 2024-05-30 - 来自专栏CoderJia的工作笔记
LLM 应用的宝藏库：Awesome LLM Apps 项目深度解析
在这个背景下，Awesome LLM Apps 项目应运而生，为开发者提供了一个全面的 LLM 应用示例库。 这个项目不仅仅是一个简单的代码集合，更像是一本活生生的 LLM 应用开发教科书。 结论与展望 Awesome LLM Apps 项目为 LLM 应用开发者提供了一个宝贵的学习和参考资源。 它不仅展示了当前 LLM 技术的应用边界，更为开发者提供了从零到一构建 LLM 应用的完整路径。 对于想要入门 LLM 应用开发的开发者来说，这个项目无疑是最好的起点之一。通过学习和实践这些示例，开发者不仅可以掌握 LLM 应用开发的核心技能，更能培养对 AI 技术应用的深度理解和创新思维。 在 AI 技术快速发展的今天，像 Awesome LLM Apps 这样的开源项目正在推动整个行业的进步。它降低了 AI 应用开发的门槛，让更多的开发者能够参与到 AI 技术的创新和应用中来。
2.2K10编辑于 2025-06-15 - 来自专栏AIGC大模型应用
AI大模型应用开发实战(02)-国内外LLM的多模型，强应用
最早在2017年左右，最早所有LLM都是基于谷歌Transformer架构设计。 2017年谷歌发布它的T5模型，后续不断有新的这种LLM衍生。 包括GPT-2、GPT-3、GLM-130B和以Facebook代表的开源的ollma，还有后来GPT-4及中东的科研机构开发的这个FanCL及最新GPT4，包括多模态模型。 LLM的所谓参数，代表一个模型的复杂程度，参数越大，也就说它需要的容量空间，它需要的算力也就越大，那相应的能力就越强。参数越小，所需算力越小，能力相对较弱。 llama也叫羊驼，https://www.alpacaml.com/：目前比较主流的一个开源模型，目前开源里参数较大，效果较好，最受欢迎LLM之一。
70810编辑于 2024-08-08 - 来自专栏超级架构师
【移动应用开发】2022 年 8 大移动应用设计趋势
如图 8 所示，混合和混合不同深浅的颜色可以为您的设计带来独特的氛围。 8.圆形 我们在移动应用程序设计中看到了很多圆形。什么时候应该使用圆角矩形？ 用户体验设计对移动应用程序的意义 移动应用程序设计的主要目标是增加应用程序的流量，进而增加公司的投资回报…… 今天，拥有一个好的移动应用程序是必不可少的。 通过 UX 设计，我们可以提供成功的移动应用程序并创造持久的客户体验。移动应用程序设计的主要目标是增加应用程序的流量，进而提高公司的投资回报率 (ROI)。 在移动应用市场中，具有吸引人的外观和精确导航的移动应用更有可能获得成功。例如，考虑一下我们几乎每天都在使用的一些应用程序。 公司如何从出色的用户体验设计中受益 开发设计良好的移动应用程序的公司可以从中获得以下好处： 提高客户满意度 更高的转化率 更高的投资回报 更好的客户保留 结论 您现在已经精通当今最热门的移动应用程序设计趋势
3.3K10编辑于 2022-07-29 - 来自专栏京东技术
LangChain：打造自己的LLM应用
导读 随着LLM的技术发展，其在业务上的应用越来越关键，通过LangChain大大降低了LLM应用开发的门槛。 本文通过介绍LangChain是什么，LangChain的核心组件以及LangChain在实际场景下的使用方式，希望帮助大家能快速上手LLM应用的开发。 LangChain是一个框架，用于开发由LLM驱动的应用程序。可以简单认为是LLM领域的Spring，以及开源版的ChatGPT插件系统。 开发框架，能和外部数据源交互、能集成各种常用的组件等等，大大降低了LLM应用开发的门槛。 个人认为，除了和业务结合落地LLM应用外，还有2个大的方向可以进一步去探索： 1）通过低代码的形式进一步降低LLM应用的开发门槛。
2.7K30编辑于 2023-11-05 LangServe如何革新LLM应用部署？
0 前言随LLM技术演进，AI应用开发部署越来越复杂。LangServe应运而生，旨在简化AI服务部署和运维的框架。专为LLM部署和管理而设计；本文旨在讲解LangServe的功能特点和实践运用。 可将LLM应用链接入常见Python Web框架（如FastAPI、Pydantic、uvloop、asyncio），进而生成一套RESTful API。 LangServe减少开发人员的运维部署任务，使他们可以更专注于LLM应用开发。不仅简化从开发到生产的过渡，还确保服务的高性能和安全性。 LangServe的目标是让开发者能够轻松集成、部署和管理AI模型，从零到一无缝地实现LLM应用从原型到产品的过渡。 # 8. HFL/THU Bert：由清华大学自然语言处理与社会人文计算实验室发布，是一个BERT的中文预训练模型，适用于中文NLP任务。# 9.
47010编辑于 2024-10-21- 来自专栏大语言模型
保姆级教程：使用dify源码本地部署LLM应用开发平台
LLM应用平台介绍 现在大模型应用平台让人挑花了眼，想创建个人智能体的选择越来越多了，列举一些国内主流AI平台： 腾讯元器：https://yuanqi.tencent.com/my-creation/ 本文介绍，如何基于Dify在本地部署一个自己的LLM应用开发平台。你不需要半年，你只需要半天，心怀感激的站在巨人肩膀打造自己的平台。 dify平台介绍 Dify 是一款开源的大语言模型(LLM) 应用开发平台。 它融合了后端即服务（Backend as Service）和LLMOPs的理念，使开发者可以快速搭建生产级的生成式 AI 应用。 ● 探索 LLM 的能力边界，即使你是一个技术爱好者，通过 Dify 也可以轻松的实践 Prompt 工程和 Agent 技术，在 GPTs 推出以前就已经有超过 60,000 开发者在 Dify 上创建了自己的第一个应用
54.2K611编辑于 2024-06-23 LLM&RAG快速应用小册
一个员工每天 8 小时的工作中，有多少时间花在了真正创造价值的思考上？又有多少时间被淹没在查找资料、撰写报告、回复邮件、整理数据等低价值的重复劳动中？ LLM 与 RAG 的组合拳，其核心目标就是压缩这些“低价值工时”，让员工从繁琐的事务中解放出来，专注于战略、创新和决策。 第二部分：RAG——为 LLM 注入企业“私有灵魂”直接使用通用的 LLM，就像让一位绝顶聪明但对你公司一无所知的“外部顾问”来工作。 通过 RAG，LLM 在回答任何问题时，都会先从这个私有知识库中检索最相关的信息，然后基于这些准确、实时的内部资料来生成回答。 结语：从“工具”到“战略”LLM 与 RAG 的应用，绝非简单地购买一个软件或部署一个模型。它是一项深刻的组织变革战略。
25910编辑于 2025-11-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号