- 综合排序
- 最热优先
- 最新优先
大模型应用开发实战
我用的阿里魔塔modelscope（注意它不是模型，不是！它只是个下载工具）。直接在pycharm命令终端里面执行pip install modelscope，如图2： （图2） 注意图上红框的部分。 不得不吐槽下，大模型也搞前后端分离这套！. net java 有httprequest，js有jquery、axios，大模型也有个出名的库langchain，官方的解释它提供了“链”的概念，允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 为了搞大模型的人能安心研究模型，不用花精力在界面上。市场上就出现了2个常用的大模型web界面框架Gradio和Streamlit，不用去研究哪个更好，顺手就行！ 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.6K37编辑于 2026-05-08- 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 AI时代的顶峰" ) print(results) 2️⃣根据与嵌入式查询的相似性返回文档： # 首先将文本“大模型的发展是顶峰”转换为嵌入向量 embedding embedding = embeddings.embed_query ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
75931编辑于 2024-12-04 1大模型应用开发基础
1、大模型应用开发基础 AGI（Artificial General Intelligence）中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代，AI 无处不在，形成新的社会分层： AI 产品使用者，使用别人开发的 AI 产品 AI 产品制造者，设计和开发 AI 产品 基础模型相关，训练基础大模型，或为大模型提供基础设施（算力等） 大模型 AI 能干什么？ 大模型，全称「大语言模型」，英文「Large Language Model」，缩写「LLM」。 本课第一个专业向要求：分清对话产品和大模型。 划重点： 大模型就是一个函数，给输入，生成输出 任何可以用语言描述的问题，都可以输入文本给大模型，就能生成问题的结果文本 进而，任意数据，都可以输入给大模型，生成任意数据 大模型是怎样工作的？ 这些字之间的概率关系，就是大模型训练时学到的。 用不严密但通俗的语言描述原理： 训练： 大模型阅读了人类说过的所有的话。
17110编辑于 2026-06-16- 来自专栏AI技术应用
AI教育大模型的开发
代码能力（部分模型）： 理解和生成代码，这在编程教育中尤为重要。AI教育大模型接入的流程接入AI教育大模型通常涉及以下步骤：1.需求分析与场景定义：明确目标： 你希望大模型解决教育中的哪些具体问题？ 用户群体： 大模型将服务于谁？（学生、教师、家长、教研人员）核心功能： 确定大模型将扮演的角色和提供的核心功能。 2.大模型选择与评估：开源 vs 商业API：开源模型（如Llama系列、Qwen等）： 优势是可控性高，可进行深度定制和私有化部署；挑战是部署和微调成本高，需要较强的技术实力。 通过将大模型与一个外部知识库（如课程资料、教材、习题库等）结合，让模型在生成回答前先检索相关信息，从而提高回答的准确性和专业性，解决大模型的“幻觉”问题。 4.开发与集成：后端开发： 搭建后端服务，负责处理用户请求、调用大模型API、管理数据、实现业务逻辑。前端开发： 开发用户界面，与后端服务进行交互，展示大模型输出。
1.2K10编辑于 2025-06-18 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
98120编辑于 2023-08-28 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 未出现截断情况（即分布区域超过量化上下限）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大， Sensitive Layers:") for r in results[:5]: print(f"{r[0]:40s} | Acc: {r[1]:.4f} | ΔAcc: {r[2] :.4f}") return results 其他分析方法层级 fallback 到 FP32与敏感性分析相关，该方法是将原模型逐层量化，观察精度下降情况误差传播分析对 float32 模型 和 模型 vs INT8 模型输出差异有多大
90010编辑于 2025-06-27 - 来自专栏大模型成长之路
【大模型学习 | BLIP2原理】
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 作者提出一种从离线、梯度冻结的图像、语言模型中提升图文的预训练模型。为了联系两个不同模态预训练模型，作者提出一种使用两个阶段预训练模型Querying Transformer (Q-Former)。 一、预训练方法这种预训练方法分为了两个阶段 （1）视觉语言特征表示学习阶段 （2）视觉到文本的生成学习阶段 1.1 Q-Former主要作用就是对齐两个不同模态的冻结预训练模型 Q-Former包含了两个 transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ; 一组可学习的查询嵌入向量作为 Image 作者尝试了两种LLM冻结模型：(1) decoder-based LLMs : query 表征作为 LLM 的输入前缀（prefix） → LLM 自己完成文本生成(2) encoder-decoder-based
1.3K00编辑于 2025-07-01 - 来自专栏深度学习与python
AI 大模型爆发，如何 2 周上手 AI 应用开发？| 极客时间
首要原因是随着 GPT-3 / 4 等预训练好的大语言模型的出现，你我可以在没有机器学习的理论下，就能在短期内快速开发出一个有实用价值的 AI 应用。 前段时间，我就在 GitHub 上看到不少开发者只花了 1-2 天时间就做出来了图书翻译、人工智能语音对话等应用，甚至刚上线就已经开始赚钱了。 说了这么多，到底该如何快速跟上时代节奏，掌握新一代的 AI 应用开发技术呢？我从去年 12 月份就开始筹备《AI 大模型之美》，希望能够把新一代的 AI 应用开发的方法和机会介绍给你。 扫码免费试读 如果你也想以最快的速度跟上 AI 大模型时代潮流，掌握 AI 应用开发最核心的技能，一定不要错过这个专栏。 而且所有的这些代码，基本都可以通过在线的 Notebook 的方式运行，不需要你在自己的电脑上搭建开发环境。即使你是一个产品经理或者业务方，你也可以自己动手体验到新一代的 AI 应用。 2.
2.5K20编辑于 2023-04-21 - 来自专栏项目文章
【大模型开发教学智能体】：你的专属大模型教学助手
通过这一平台，开发者能够利用文心大模型，针对自己的行业和应用场景，选择适合的开发方式，打造具有时代特征的产品。 例如咱们的大模型开发教学智能体设定如下： 角色与目标 作为一个大模型相关的专家，你的主要任务是解答用户的代码问题，教授机器学习的基础知识，以及解释大模型算法。 在解释大模型算法时，需要清晰地阐述算法的原理、应用以及优缺点，以便用户能够全面了解。 若用户的问题超出你的知识范围或无法清晰解答，应诚实告知用户，并尝试提供相关的学习资源或建议。 零代码智能体开发体验让我深刻感受到其带来的便利和高效，它不仅降低了技术门槛，还极大提升了开发速度，让开发者能够更专注于业务逻辑的创新和实现。 这种开发模式预示着人工智能应用开发的未来趋势，预示着它将为更多开发者带来无限的便利和机遇，推动智能技术在各行各业的广泛应用和创新。
1.1K10编辑于 2024-06-07 微软密谋超级AI大模型！LangChain带你轻松玩转大模型开发
国内有百度的文心一言、阿里的通义千问、360的360智脑、科大讯飞的星火大模型、商汤的商量、华为的盘古大模型、复旦大学的MOSS和清华大学的ChatGLM 2，等等。 在这一背景下，为了帮助开发者更方便、灵活地构建基于大语言模型的应用，一批大型模型应用开发框架应运而生，LangChain这个大语言模型时代下的“新星”也应运而生，它不仅让AI应用的开发变得易如反掌，更是从单一的开发框架演变为一个包含开发 在这样一个技术飞速进步的时代，了解并掌握LangChain无疑是每一个AI开发者的必修课。 《LangChain技术解密：构建大模型应用的全景指南》一书便可以带你领略大语言模型的应用开发世界！ 第2章 详细介绍了开始LangChain开发前需要做的准备工作，如安装LangChain框架、获取OpenAI API密钥、搭建开发环境等，确保读者能够顺利启动自己的项目。 这使得开发人员不仅能够运用那些已极为成熟的资源去构建应用，同时能够借助那些集成的工具，迅速洞悉并尝试大语言模型的最新技术。 目前，LangChain已成为进行大语言模型应用开发必须掌握的框架之一。
70510编辑于 2024-05-28- 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain 简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
87610编辑于 2023-09-06 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 技巧2：角色扮演——限定AI的知识边界问题：通用模型可能给出不专业的回答。 解决方案： ✅ 为AI指定角色（如“资深Python工程师”“医学专家”）。 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
1.2K10编辑于 2025-06-23 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。langchain的主要特点有两个，第一点就是组件化。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
1.1K20编辑于 2023-06-28 - 来自专栏算法channel
大模型开发工程师 roadmap
大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图： 我翻译了一下，供英文不是很好的同学参考： 运行LLMs： LLM engineering） 结构化输出（Structuring outputs） 构建向量存储： 摄入文档（Ingesting documents） 分割文档（Splitting documents） 嵌入模型
1.1K10编辑于 2024-04-11 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 2. 背景 在深入探讨为什么需要一个用于构建基于语言模型的应用程序的框架之前，我们需要弄清楚语言模型是什么，并了解使用语言模型时可能遇到的一些典型复杂性。 2.1. 不过，社区开发了 Java 版本 LangChain，称为 LangChain4j[15] ，支持 Java 8 或更高版本，并兼容 Spring Boot 2 和 3。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
3.3K12编辑于 2025-03-29 - 来自专栏大前端开发
《大前端开发》培训2周小结
原先打算将前端和后端的内容先独立分开来讲的，但是在讲课的过程中，发现穿插在一起讲能更好的让同学们理解前端和后端的异同和各自的职责，以及相互间的关系等，可以更好的建立软件开发的大局观，从更高的角度来认识编程 然后，尽量让同学们在了解某个具体技术知识点的同时，也让他们了解这些技术在整个软件开发和部署的体系中所处的角色和位置。 把最重要的东西完全搞明白，力图做到： 不要写一行你自己都没理解的代码 除了这些基础知识，我们也开始引入介绍一些以后需要用到的内容，比如：Nginx、MongoDB的基本用法，微信小程序和网页应用开发的技术关联性 模拟芝麻信用页面 通过开发这些demo程序，同学们对HTML和CSS在搭建界面方面的使用，以及使用DOM事件进行对用户交互的处理，都有了一个更加形象的认识。 在讲课的过程中，我觉得自己也得到了非常大的成长，比如当同学们遇到比较难理解的知识点，我会想方设法、不断的组织自己的语言、编制各种容易理解的例子，让自己能将它们解释清楚；以及在课程内容上，我会不断的去思考如何将前一天课和后一天课的内容更好的衔接起来
88420发布于 2018-08-21 AI大模型智能体开发：把大模型变成“会干活”的技术逻辑
大模型就像个满腹经纶的学者，能说会道却迈不出书房；而AI智能体，就是给这位学者装上“行动能力”的技术方案——不用重构底层模型，核心是通过三层技术设计，让大模型从“只会回答”变成“自主做事”。 今天用大白话拆解智能体开发的核心技术，普通人也能看懂落地逻辑。首先要明确：智能体开发的技术核心是“闭环能力”，而非创造新模型。 比如做一个“市场分析智能体”，技术上要先定义Prompt模板：“用户需求是{目标}，需依次执行：1.调用行业数据库获取{时间范围}数据→2.用统计工具分析核心指标→3.生成可视化报告→4.校验数据准确性 其实AI智能体开发，本质是“技术落地的工程思维”。不用纠结大模型的底层原理，核心是把“用户需求”通过任务规划、工具对接、反馈闭环三大技术环节，转化为大模型能执行的行动。 开发的关键永远是：让复杂技术服务于实际需求，让大模型真正走出“书房”，成为能落地干活的实用工具。
60010编辑于 2025-11-24- 来自专栏周末程序猿
机器学习|从0开发大模型之模型预训练
继续写《从0开发大模型》系列文章，本文主要介绍预训练过程。 预训练是目的是让模型学习知识，需要将预处理的数据（《机器学习|从0开发大模型之数据预处理》）中生成的 pretrain_data.bin 文件的上下文全部学习到，那预训练怎么做呢？ 3、初始化模型 初始化模型，借鉴 llama2.c 的代码，路径：https://github.com/karpathy/llama2.c/blob/master/model.py，使用 Transformer ，这个系列出一篇文章具体分析 llama2.c 源码，讲述是如何实现模型创建的。 这些策略可以帮助优化器在训练过程中更有效地探索参数空间； 支持正则化：某些优化器可以集成正则化技术（如 L2 正则化），以防止模型过拟合； 在下面的迭代训练中，主要作用是根据损失值调整优化器参数： #
85310编辑于 2025-02-27 大模型与 Agent 智能体开发实战
大模型与 Agent 智能体开发实战摘要大语言模型（LLM）的爆发式增长不仅改变了自然语言处理领域，更催生了一个全新的技术范式——Agent 智能体。 本文将系统性地介绍大模型 Agent 的核心原理、主流框架、开发实战、高级技巧和落地案例，帮助开发者从零开始构建自己的智能体应用。 一、理解大模型 Agent1.1 什么是 Agent 智能体Agent 智能体是指以大语言模型为核心，具备感知环境、自主决策、执行动作能力的 AI 系统。 阶段二：规模化开发（1-2 个月）在验证成功的基础上，迁移到 LangChain 或 AutoGen，接入真实业务系统，添加更多工具和安全机制。 结语大模型 Agent 智能体代表了 AI 技术的重要演进方向——从"能对话"到"能做事"，从"被动响应"到"主动服务"。它让大语言模型的能力从"理解世界"延伸到"改变世界"。
63210编辑于 2026-07-01- 来自专栏喔家ArchiSelf
基于大模型（LLM）的Agent 应用开发
目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Agent。 但是，对于面向Agent的大模型应用开发，有没有其独特之处呢？有没有聚焦于Agent的大模型应用开发框架呢？ 那么，什么又是Agent 呢？ 1. Agent 在大模型领域，大模型替代了传统agent 中的规则引擎以及知识库，Agent提供了并寻求推理、观察、批评和验证的对话通道。 在了解了Agent 和 Multi-Agent 的基本概念以及常见系统之后，如何开发一个基于大模型的Agent应用呢？
8.3K34编辑于 2023-10-23
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号