- 综合排序
- 最热优先
- 最新优先
- 来自专栏有文化的技术人
Eino LLM应用开发框架调研分析
项目概述 「eino」（发音类似 "I know"）是 CloudWeGo 团队开源的 Go 语言 LLM 应用开发框架，基于 Apache 2.0 许可证。 检查是否为 DAG │ │ 4. topologicalSort() // 拓扑排序 │ │ 5. 设计理念总结 4.1 框架定位 「eino 是 LLM 应用开发 SDK」，提供组件抽象和编排能力： ┌───────────────────────────────────────────────── 能力的应用 已有服务框架，需要嵌入 LLM 能力 快速原型开发和实验 对类型安全有要求的 Go 项目 4.2 核心设计理念 「核心理念」：Runnable 抽象 + 流式优先 + 类型安全 ┌──── 易于嵌入现有系统 类型安全，编译期发现错误 流式优先，四范式自动互转 组件标准化，易于扩展 「局限」： 无内置 Server，需自行实现协议层 无内置会话管理，需自行处理持久化 无 Agent 转移等高级特性 5.
17710编辑于 2026-04-09 - 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
随着开发人员开始创建日益复杂的LLM应用程序，开发流程不可避免地变得更加复杂。 MetaGPT：MetaGPT 是一种基于Multi-Agent对话框架的LLM自动软件开发应用程序。他们为各种gpt分配不同的角色来协作开发软件，针对特定场景制定专门的解决方案。 上个月（2023年9月），微软提出了一个Autogen 的开源框架，为开发LLM的Agent 应用提供了有价值的参考。 4. 基于Multi-Agent的LLM 应用开发框架：Autogen AutoGen 是一个用于简化 LLM 工作流的编排、优化和自动化的开发框架。 5. Autogen的核心特性：可定制的Agent AutoGen 中的Agent具有由 LLM、人工、工具或这些元素混合启用的功能。
7.9K33编辑于 2023-10-23 - 来自专栏Lcry个人博客
开源 LLM 应用开发平台 Dify 部署教程
在内的产品无疑幸免，在最新版本中 v1.11.1版本中才修复，虽然本站出了很多一些关于 dify 的使用教程，但是很多人还没有部署过这个平台，今天就趁到全新安装 v1.11.1为例带大家部署一下这个 AI 应用开发平台 介绍 Dify 是一款开源的大语言模型（LLM）应用开发平台，它结合了后端即服务（BaaS）和 LLMOps 理念，让开发者、企业甚至非技术人员都能快速构建、部署和管理生产级的生成式AI应用，例如智能客服 、知识库问答等，支持多种模型（如 OpenAI、Claude 3），并通过可视化界面、RAG（检索增强生成）、工作流编排等功能简化了开发流程。
1.5K10编辑于 2026-01-09 - 来自专栏云云众生s
开发基于云的RAG应用，使用开源 LLM
检索增强生成 (RAG) 通常用于开发定制的 AI 应用程序，包括 聊天机器人、推荐系统 和其他个性化工具。该系统利用向量数据库和 大型语言模型 (LLM) 的优势来提供高质量的结果。 让我们探索一种类似的方法来开发使用云托管开源 LLM 和可扩展向量数据库的应用程序。 工具和技术 开发此基于 RAG 的 AI 应用程序需要使用多种工具。 之后，您就可以编写代码并开发 RAG 应用程序了。 它的简单性和灵活性使其成为开发人员的理想选择，使他们能够更多地专注于创新，而无需过多关注部署复杂性。 另一方面，MyScaleDB 是专门为 RAG 应用程序开发的，提供高性能 SQL 向量数据库。 它熟悉的 SQL 语法使开发人员可以轻松地将其集成到他们的应用程序中并使用它，因为学习曲线很小。MyScaleDB 的 多尺度树图 (MSTG) 算法在速度和准确性方面明显优于其他向量数据库。
58410编辑于 2024-07-07 基于MindSpore NLP的LLM应用开发 - - 五点
LLM介绍核心：Transforme1.什么是RAG：RAG(Retrieval-Augmented Generation)技术的原理与实践工作流2.Embedding3.知识库设计：常用向量数据库4. 大语言模型：prompt提示设计5.Rerank基础的RAG demo上，加入Rerank机制好的，以下是完整代码，包括app.py和Rerank.py的内容，以及在app.py中加入Rerank机制的修改 vector_store.persist(path='storage') retrieved_documents = vector_store.query(query, embedding_model, k=5) gr.Files(label="上传文件（支持 .md, .txt, .pdf）") ], outputs=gr.Textbox(label="生成的回复"), title="RAG 应用
31910编辑于 2025-01-19LLM应用开发平台特训营-慕K学习分享
随着大语言模型（Large Language Models, LLM）的应用日益广泛，如何高效地部署和管理这些模型成为一个重要的课题。 而 Prompt 引擎作为 LLMOps 平台的重要组成部分，负责生成和优化提示（prompt），以提升模型的表现和应用效果。 1.3 LLMOps 平台的架构慕课LLM应用开发平台特训营中LLMOps 平台的架构通常包括以下几个模块：模型管理模块：负责模型的版本控制、打包和部署。监控模块：实现模型运行状态的监控和告警。 LLM应用开发平台特训营中Prompt 引擎需要与 LLMOps 平台及外部应用交互，这要求开发标准化的接口，支持数据输入输出和配置管理。 3.2 日志和监控慕课LLM应用开发平台特训营中集成日志和监控功能，使 LLMOps 平台可以跟踪 Prompt 引擎的运行状态和性能，便于调试和优化。
74310编辑于 2024-06-12「慕K体系」LLM应用开发平台特训营-入门
大语言模型（LLM）应用开发涵盖了使用预训练语言模型构建自然语言处理（NLP）应用程序的过程。以下是开发 LLM 应用的详细指南，包括安装、基础配置、常见应用场景和实际示例。1. 安装和配置1.1 安装必要的工具和库在开始开发之前，确保安装了以下工具和库：Python：确保已安装 Python 3.6 及以上版本。pip：Python 包管理工具。 LLM 应用场景2.1 文本生成LLM 可以用于生成高质量的自然语言文本。这在内容创作、自动写作等场景非常有用。 部署和优化3.1 部署 LLM 应用LLM 应用可以部署在各种平台上，包括云服务（如 AWS、GCP）和本地服务器。常见的方法有：使用 Flask 或 FastAPI 构建 API 服务。 使用 Docker 容器化应用，便于部署和扩展。3.2 优化性能由于 LLM 通常非常大，优化性能是关键。可以考虑以下方法：模型压缩：使用模型量化和剪枝技术减小模型体积。
72010编辑于 2024-07-02- 来自专栏PHP在线
HTML5移动应用开发
1.离线缓存为HTML5开发移动应用提供了基础 HTML5 Web Storage API可以看做是加强版的cookie，不受数据大小限制，有更好的弹性以及架构，可以将数据写入到本机的ROM中，还可以在关闭浏览器后再次打开时恢复数据 2.专为移动平台定制的表单元素 浏览器中出现的html5表单元素与对应的键盘： 类型 用途 键盘 Text 正常输入内容 标准键盘 Tel 电话号码 数字键盘 Email 电子邮件地址文本框 带有@和. 提升互动能力：拖拽、撤销历史操作、文本选择等 Transition – 组件的移动效果 Transform – 组件的变形效果 Animation – 将移动和变形加入动画支持 设计师要知道，HTML5提供的交互方式是非常丰富的 4.HTML5使用上的优势 更低的开发及维护成本； 使页面变得更小，减少了用户不必要的支出；而且，性能更好使耗电量更低； 方便升级，打开即可使用最新版本，免去重新下载升级包的麻烦，使用过程中就直接更新了离线缓存 设计师要知道，用户想要什么，HTML5能提供给用户什么。 5.CSS3 视觉设计师的辅助利器 CSS3支持了字体的嵌入、版面的排版，以及最令人印象深刻的动画功能。
3.6K80发布于 2018-03-07 - 来自专栏腾讯技术工程官方号的专栏
一文入门最热的LLM应用开发框架LangChain
在这个背景下，LangChain 作为一个以 LLM 模型为核心的开发框架出现，为自然语言处理开启了一个充满可能性的世界。 nodejs 版本也在短短 4 个月收货了 7k+的 star，这无疑利好前端同学，不需要会 python 也能快速上手 LLM 应用开发。 笔者认为 Langchain 作为一个大语言模型应用开发框架，解决了现在开发人工智能应用的一些切实痛点。以 GPT 模型为例： 1.数据滞后，现在训练的数据是到 2021 年 9 月。 LLM 应用架构 LangChian 作为一个大语言模型开发框架，是 LLM 应用架构的重要一环。那什么是 LLM 应用架构呢？其实就是指基于语言模型的应用程序设计和开发的架构。 LangChian 可以将 LLM 模型、向量数据库、交互层 Prompt、外部知识、外部工具整合到一起，进而可以自由构建 LLM 应用。 2.
14.1K68编辑于 2023-08-18 - 来自专栏云云众生s
可用于AI应用的5个开放式LLM推理平台
译自 5 Open LLM Inference Platforms for Your Next AI Application，作者 Janakiram MSV。 可以轻松地将 Groq 与 LangChain 和 LlamaIndex 集成，以构建高级 LLM 应用程序和聊天机器人。 在定价方面，Groq 提供了一系列选项。 用户可以使用与 OpenAI 客户端兼容的界面将 API 与现有应用程序无缝集成，这对于熟悉 OpenAI 生态系统的开发人员来说非常方便。 除了令牌费用外，在线模型每千次请求还会产生 5 美元的固定费用。 3. Fireworks AI Fireworks AI 是一个生成式 AI 平台，使开发人员能够为其应用程序利用最先进的开源模型。 NIM API 允许开发者使用几行代码轻松地将这些最先进的 AI 模型集成到他们的应用程序中。
1.4K10编辑于 2024-06-08 - 来自专栏云云众生s
LLM 如何转变企业应用
事实上， LLM 正在迅速成为应用程序栈的一个组成部分。 事实上，构建基于 LLM 的应用程序只需要一个可以进行数据库调用和 API 调用的开发人员。 因此，构建代理首先要考虑如何为 LLM 提供正确的上下文以获得所需的响应。 从广义上讲，此上下文来自三个位置：用户的问题、代理开发人员创建的预定义提示以及来自数据库或其他来源的数据（请参见下图）。 你会听到开发人员谈论像 LangChain 这样的框架，顾名思义，它通过将多个 LLM 调用的输入和输出链接在一起并根据需要自动从正确的数据源中提取正确的数据来实现 LLM 驱动的代理的开发。 您的开发人员可能正在使用诸如 LangChain 之类的框架构建您组织自己的专有基于代理的应用程序体验，但仅专注于此将带来巨大的机会成本。
70210编辑于 2024-03-27 - 来自专栏人工智能
Java程序员该如何快速上手LLM应用开发呢?
作为Java开发者，你完全可以利用自己已有的技能栈，快速上手LLM应用开发。在过去的一年里，我尝试了把多种行业的系统成功的接入大模型能力，将原有的企业应用升级为智能应用。 我发现，Java开发者在构建LLM应用时其实有着独特的优势——扎实的工程实践、成熟的生态系统以及强大的企业级应用开发经验。 一句话，Java开发者学习LLM应用开发，就像是给你的技术工具箱里添加了一把新工具，而不是要换整个工具箱。 二、Java开发者的LLM应用开发栈：从API到框架要开始Java LLM应用开发，你需要了解这套完整的技术栈，从底层API到上层框架，逐层递进：2.1 底层API：与大模型对话的"翻译器"一句话概括： 三、Java LLM应用开发的核心模式：从理论到实践掌握了技术栈，还需要了解LLM应用开发的核心模式，这些模式就像是建筑的结构蓝图，指导你构建稳定可靠的应用：3.1 提示词工程模式：让大模型更好地理解你的需求核心模式
80700编辑于 2025-11-07 - 来自专栏开源服务指南
LLM DevOps 平台：加速大模型应用开发 | 开源日报 No.269
dataelement/bishenghttps://github.com/dataelement/bisheng Stars: 7.2k License: Apache-2.0 bisheng 是一款开源的 LLM 该项目旨在赋能和加速大模型应用开发，帮助用户以最佳体验进入下一代应用开发模式。 其主要功能、关键特性和核心优势包括： 便捷：通过预置的应用模板，业务人员可以快速搭建智能应用。 灵活：提供数百种开发组件，并支持可视化且自由的流程编排能力。 可靠与企业级：具备高并发下的高可用、实时运营及效果持续迭代优化等企业级特性。 产品应用广泛，包括分析报告生成、知识库问答、对话交互以及要素提取等多种场景。 Gemini API 的指南和示例 包括快速入门教程，展示如何编写提示以及使用 API 的不同功能 提供可构建的实际示例 支持多模态 Gemini 模型，可以无缝地跨文本、图像、代码和音频进行推理 可用于开发各种应用程序
83910编辑于 2024-05-30 - 来自专栏C++核心准则原文翻译
自学鸿蒙应用开发（5）- button组件
本文介绍在鸿蒙应用中button组件的基本用法。 增加按钮组件 如下代码中红色部分所示，在布局中增加button组件。 <?xml version="1.0" encoding="utf-8"? /> </DirectionalLayout> <Component ohos:height="0vp" ohos:weight="<em>5</em>"
1K31发布于 2020-12-31 - 来自专栏灵墨AI探索室
AI实用指南：5分钟搭建你自己的LLM聊天应用
在这个快节奏的时代，构建一个基础的LLM（Large Language Model，大型语言模型）聊天应用并不需要耗费太多时间。 Streamlit这一强大的工具，它能够让我们以最快速度搭建起一个具备流式打字机效果的聊天应用。对于那些和我一样，对前端代码望而却步的开发者来说，Streamlit无疑是一个福音。 演示视频看下吧：总结本文介绍了如何快速搭建一个基于大型语言模型（LLM）的混元聊天应用。 强调了开发速度的重要性，并指出了使用Streamlit这一工具的优势，特别是对于不熟悉前端代码的开发者来说，Streamlit提供了一种快速构建聊天应用的方法。 如果你对开发感兴趣，市面上确实提供了许多大型模型供你选择。即使简单的聊天应用并不具备太多技术性，但你可以利用这些基础框架，不断添加自己所需的任何组件。这需要开拓思维，挖掘创意，让你的应用更加丰富多彩。
90531编辑于 2024-03-26 - 来自专栏CoderJia的工作笔记
LLM 应用的宝藏库：Awesome LLM Apps 项目深度解析
在这个背景下，Awesome LLM Apps 项目应运而生，为开发者提供了一个全面的 LLM 应用示例库。 这个项目不仅仅是一个简单的代码集合，更像是一本活生生的 LLM 应用开发教科书。 结论与展望 Awesome LLM Apps 项目为 LLM 应用开发者提供了一个宝贵的学习和参考资源。 它不仅展示了当前 LLM 技术的应用边界，更为开发者提供了从零到一构建 LLM 应用的完整路径。 对于想要入门 LLM 应用开发的开发者来说，这个项目无疑是最好的起点之一。通过学习和实践这些示例，开发者不仅可以掌握 LLM 应用开发的核心技能，更能培养对 AI 技术应用的深度理解和创新思维。 在 AI 技术快速发展的今天，像 Awesome LLM Apps 这样的开源项目正在推动整个行业的进步。它降低了 AI 应用开发的门槛，让更多的开发者能够参与到 AI 技术的创新和应用中来。
2.2K10编辑于 2025-06-15 - 来自专栏AIGC大模型应用
AI大模型应用开发实战(02)-国内外LLM的多模型，强应用
-> GPT-3 -> GLM130B -> LLaMa -> GPT-4 -> Falcon -> GPT-4v发展角度，LLM最早在2017年左右，最早所有LLM都是基于谷歌Transformer架构设计 2017年谷歌发布它的T5模型，后续不断有新的这种LLM衍生。 包括GPT-2、GPT-3、GLM-130B和以Facebook代表的开源的ollma，还有后来GPT-4及中东的科研机构开发的这个FanCL及最新GPT4，包括多模态模型。 谷歌T5约110亿参数，最大特点是可实现多任务的微调，属于开源。GPT主要是OpenAI的，GPT-3.5面世后，举世震惊，因为效果非常好，但我们看到它的参数也非常可怕，达到1750亿。 很多开源模型可以找到：可见整个LLM发展生态繁荣。5 清华团队在PupilFace的主页ChatGLM就是清华团队的，他们在PupilFace上面的一个主页。可看到他们作品。
70810编辑于 2024-08-08 - 来自专栏5g风云
开发者：快来开发5G应用吧！
5G具有变革意义：数千兆比特速率、超低延时和大容量，将为消费者和行业带来全新体验和机遇。现在是开发者大显身手的时候了，释放5G强大的特性。 开发吞吐量感知的5G应用 您可以通过ConnectivityManager增强API找到Android Q中的5G钩子，ConnectivityManager可以使应用在Android设备上检测5G网络可用性和性能 将5G视为摆脱刻意简化设计和最低网络速度编程的机会，考虑“5G模式”并使用吞吐量感知来开发充分利用5G的卓越用户体验。 ConnectivityManager使应用识别5G 5G连接时了解带宽可用性 NetworkCapabilities.getLinkDownstreamBandwidthKbps() 根据网络计量改变应用行为 但除了这些改进之外，开发者也可以将5G视为一种连接结构。更高的网络效率、连接密度和频谱效率意味着您开发的应用可以在关键任务服务、联网车辆和物联网中发挥更大的作用。
78520发布于 2019-07-23 - 来自专栏京东技术
LangChain：打造自己的LLM应用
导读 随着LLM的技术发展，其在业务上的应用越来越关键，通过LangChain大大降低了LLM应用开发的门槛。 本文通过介绍LangChain是什么，LangChain的核心组件以及LangChain在实际场景下的使用方式，希望帮助大家能快速上手LLM应用的开发。 LangChain是一个框架，用于开发由LLM驱动的应用程序。可以简单认为是LLM领域的Spring，以及开源版的ChatGPT插件系统。 开发框架，能和外部数据源交互、能集成各种常用的组件等等，大大降低了LLM应用开发的门槛。 个人认为，除了和业务结合落地LLM应用外，还有2个大的方向可以进一步去探索： 1）通过低代码的形式进一步降低LLM应用的开发门槛。
2.7K30编辑于 2023-11-05 LangServe如何革新LLM应用部署？
0 前言随LLM技术演进，AI应用开发部署越来越复杂。LangServe应运而生，旨在简化AI服务部署和运维的框架。专为LLM部署和管理而设计；本文旨在讲解LangServe的功能特点和实践运用。 LangServe减少开发人员的运维部署任务，使他们可以更专注于LLM应用开发。不仅简化从开发到生产的过渡，还确保服务的高性能和安全性。 LangServe的目标是让开发者能够轻松集成、部署和管理AI模型，从零到一无缝地实现LLM应用从原型到产品的过渡。 5 客户端调用测试在后台开发LangServe客户端，进行远程调用REST API。 T5（Text-to-Text Transfer Transformer）：由Google发布，是一个通用的文本生成模型，可以应用于多种NLP任务。# 5.
47010编辑于 2024-10-21
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号