- 综合排序
- 最热优先
- 最新优先
- 来自专栏掘金安东尼
👾打开 RAG 对接大模型的黑盒 —— 9 大隐藏问题
Prompt 给他介绍一下相关背景，然后大模型就有更专业的应答能力了。 言而总之，大数据时代，很多公司都拥有大量的专有数据，如果能基于它们创建 RAG，将显著提升大模型的特异性。 对于很多人来说，RAG 的引入、与大模型的对接是一个黑盒，任何微小参数的变动都将引起结果发生很大的变化。 /模型没有回答问题/模型编造有害的或带有偏见的答案 接下来，一起揭秘：RAG 对接大模型的黑盒 —— 9 大问题 来源：Seven Failure Points When Engineering a Retrieval 总结 本篇提供了开发 RAG 通道 9 个痛点，并针对每个痛点都给了相应的解决思路。 RAG 是非常重要的专用检索+通用大模型的技术手段，在赋能模型、满足特定化场景中非常重要！
95610编辑于 2024-04-04 - 来自专栏xiaosen
LangChain大模型应用开发
LangChain作为一个新兴的框架，旨在简化大模型应用的开发过程。它提供了一套工具和接口，帮助开发者将大模型无缝集成到各种应用场景中。 通过LangChain，开发者可以更专注于业务逻辑的实现，而不必过多关注底层模型的复杂性。 prompt) print(response.content) 这时我们的langSmith后台： 构建语义搜索引擎 我们使用LangChain的文档加载器、嵌入、向量库来从其他来源检索数据，与大模型工作集成 1️⃣根据与字符串查询的相似性返回文档： # 接受一个文本字符串作为输入，并返回与该文本最相似的向量 results = vector_store.similarity_search( "大模型的发展和繁荣既是当前 ("大模型的发展是顶峰") # 接受一个嵌入向量作为输入，并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding
75931编辑于 2024-12-04 大模型应用开发实战
不得不吐槽下，大模型也搞前后端分离这套！. net java 有httprequest，js有jquery、axios，大模型也有个出名的库langchain，官方的解释它提供了“链”的概念，允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 为了搞大模型的人能安心研究模型，不用花精力在界面上。市场上就出现了2个常用的大模型web界面框架Gradio和Streamlit，不用去研究哪个更好，顺手就行！ 这时随便问大模型几个问题吧（再次友情提示：视频剪辑过，后面那个问题1500多秒！）： （图9） 到这里，入门流程介绍完毕。看的人多的话，我会继续介绍模型微调和训练，希望大家喜欢！ 最后 经过无数的蹂躏，我开发了个小应用【i歌词】，无任何条件免费提供全部源码。它基于chatglm4-9b大模型，从部署到训练，通用对话功能，核心根据歌名查歌词并创作歌词！
1.6K37编辑于 2026-05-08- 来自专栏DeepHub IMBA
9月大型语言模型研究论文总结
大型语言模型(llm)在今年发展迅速，随着新一代模型不断地被开发，研究人员和工程师了解最新进展变得非常重要。本文总结9-10月期间发布了一些重要的LLM论文。 这些论文涵盖了一系列语言模型的主题，从模型优化和缩放到推理、基准测试和增强性能。最后部分讨论了有关安全训练并确保其行为保持有益的论文。 这种方法产生了MathCoder模型，这是一组能够生成基于代码的解决方案的模型，用于解决具有挑战性的数学问题。 SmartPlay中的每个游戏都独特地挑战了智能LLM代理的9个重要功能的子集，包括对象依赖性推理，提前计划，空间推理，从历史中学习和理解随机性。 为了更系统地开发和优化LM管道，论文提出了DSPy，这是一个编程模型，它将LM管道抽象为文本转换图，即命令式计算图，其中通过声明性模块调用LM。
88121编辑于 2023-10-23 1大模型应用开发基础
1、大模型应用开发基础 AGI（Artificial General Intelligence）中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代，AI 无处不在，形成新的社会分层： AI 产品使用者，使用别人开发的 AI 产品 AI 产品制造者，设计和开发 AI 产品 基础模型相关，训练基础大模型，或为大模型提供基础设施（算力等） 大模型 AI 能干什么？ 大模型，全称「大语言模型」，英文「Large Language Model」，缩写「LLM」。 本课第一个专业向要求：分清对话产品和大模型。 划重点： 大模型就是一个函数，给输入，生成输出 任何可以用语言描述的问题，都可以输入文本给大模型，就能生成问题的结果文本 进而，任意数据，都可以输入给大模型，生成任意数据 大模型是怎样工作的？ 这些字之间的概率关系，就是大模型训练时学到的。 用不严密但通俗的语言描述原理： 训练： 大模型阅读了人类说过的所有的话。
17110编辑于 2026-06-16- 来自专栏AI技术应用
AI教育大模型的开发
代码能力（部分模型）： 理解和生成代码，这在编程教育中尤为重要。AI教育大模型接入的流程接入AI教育大模型通常涉及以下步骤：1.需求分析与场景定义：明确目标： 你希望大模型解决教育中的哪些具体问题？ 用户群体： 大模型将服务于谁？（学生、教师、家长、教研人员）核心功能： 确定大模型将扮演的角色和提供的核心功能。 通过将大模型与一个外部知识库（如课程资料、教材、习题库等）结合，让模型在生成回答前先检索相关信息，从而提高回答的准确性和专业性，解决大模型的“幻觉”问题。 4.开发与集成：后端开发： 搭建后端服务，负责处理用户请求、调用大模型API、管理数据、实现业务逻辑。前端开发： 开发用户界面，与后端服务进行交互，展示大模型输出。 技术复杂性： 接入和优化大模型需要较高的AI技术能力。接入AI教育大模型是教育产品迈向智能化的重要一步，它能带来前所未有的个性化和效率提升。
1.2K10编辑于 2025-06-18 - 来自专栏开发者技术前线
9 大跨平台移动 App 开发工具推荐
如今，移动应用开发已经变得越来越重要，开发人员面临最大的挑战之一就是在多个平台上运行应用程序。 本文我们将为大家介绍 9 个优秀的移动 App 开发工具，帮你在短时间内设计出最前沿、最高效的应用。 ? 9、移动应用开发工具 Codename One ? 8、手机 Web 应用开发平台 PhoneGap ? PhoneGap 是一款HTML5平台，通过它，开发商可以使用HTML、CSS及JavaScript来开发本地移动应用程序。 开发者使用HTML/JavaScript/VSS/Ruby等技术开发应用。Rhomobile表示自己遵循苹果的开发者授权。 1、移动开发框架 Xamarin ? 2018年你应该了解的十大技术趋势
8.5K20发布于 2020-11-23 - 来自专栏【腾讯云开发者】
服务端开发必备：9大性能优化秘技
本文总结了在服务架构设计时，提升服务性能的 9 大常用办法，相信可以有效帮到你的日常工作。期待你的点赞转发收藏一键三连！ 01、缓存 性能优化，缓存为王，所以开始先介绍一下缓存。 随着数据量和并发量的越来越大，I/O 成了 Redis 的性能瓶颈点，因此在6.0版本引入了多线程模型。 此外 go 语言最开始的调度模型时 GM 模型，所有的内核级线程想要执行 goroutine 需要加锁从全局队列中获取，所以不同线程之间的竞争很激烈，调度效率很差。 在日常移动端开发应用中，对于多 tab 的数据，可以采用懒加载的方式，只有用户切换到新的tab之后才会发起请求，避免很多无用请求。 服务端开发随着版本的迭代，有些功能字段端上已经不展示，但是服务端依然会返回数据字段，对于这些不需要的数据字段可以从数据源获取上就做下线处理，避免无用请求。
1.6K63编辑于 2024-08-06 - 来自专栏项目文章
【大模型开发教学智能体】：你的专属大模型教学助手
通过这一平台，开发者能够利用文心大模型，针对自己的行业和应用场景，选择适合的开发方式，打造具有时代特征的产品。 例如咱们的大模型开发教学智能体设定如下： 角色与目标 作为一个大模型相关的专家，你的主要任务是解答用户的代码问题，教授机器学习的基础知识，以及解释大模型算法。 在解释大模型算法时，需要清晰地阐述算法的原理、应用以及优缺点，以便用户能够全面了解。 若用户的问题超出你的知识范围或无法清晰解答，应诚实告知用户，并尝试提供相关的学习资源或建议。 零代码智能体开发体验让我深刻感受到其带来的便利和高效，它不仅降低了技术门槛，还极大提升了开发速度，让开发者能够更专注于业务逻辑的创新和实现。 这种开发模式预示着人工智能应用开发的未来趋势，预示着它将为更多开发者带来无限的便利和机遇，推动智能技术在各行各业的广泛应用和创新。
1.1K10编辑于 2024-06-07 微软密谋超级AI大模型！LangChain带你轻松玩转大模型开发
在这一背景下，为了帮助开发者更方便、灵活地构建基于大语言模型的应用，一批大型模型应用开发框架应运而生，LangChain这个大语言模型时代下的“新星”也应运而生，它不仅让AI应用的开发变得易如反掌，更是从单一的开发框架演变为一个包含开发 在这样一个技术飞速进步的时代，了解并掌握LangChain无疑是每一个AI开发者的必修课。 《LangChain技术解密：构建大模型应用的全景指南》一书便可以带你领略大语言模型的应用开发世界！ 这使得开发人员不仅能够运用那些已极为成熟的资源去构建应用，同时能够借助那些集成的工具，迅速洞悉并尝试大语言模型的最新技术。 目前，LangChain已成为进行大语言模型应用开发必须掌握的框架之一。 随着时间的推移，LangChain已不再仅仅是一个大语言模型开发框架，而是演化为一个包含开发、调试、部署乃至应用商店的一站式完整生态圈。 正值大语言模型开发以潮涌之势席卷而来之际，越来越多的开发人员对于怎样利用LangChain迅速构建AI应用产生了浓厚的兴趣。 在这样的背景下，本书应运而生。
70510编辑于 2024-05-28- 来自专栏云计算D1net
云服务应用开发所面临的9大挑战
02 客户不理解 认为云只是大服务器集群已经是过去时，但这并不意味着我们可以忽略云发展的事实。关于公有云和私有云如何协同工作，以及对从一种基础设施转向另一种基础设施的难易程度的问题，也存在太多的误解。
1.9K80发布于 2018-03-27 - 来自专栏猫头虎博客专区
开源大模型DeepSeek.ai火遍全球:9条让DeepSeek颠覆通用大模型的事实
DeepSeek.ai火遍全球的几个事实: DeepSeek 不是套壳不是蒸馏美国的大模型。 虽然中国有些大模型是套壳和蒸馏的, 但 DeepSeek 不是。 数据, 训练了 R1-Zero 模型, 探索了模型不依赖人类标注数据微调、自主推演的能力, 打开了新的思路。 底层通信优化: 开发了高效的通信内核, 优化对带宽的利用, 保证数据传输效率, 并能支持大规模部署。 比如轻量化设计把大钢板换成钢条 (类似通过稀疏的办法减少大模型的参数量); 涡轮增压利用废气能量增加空气供给, 提高燃烧效率; 精密制造, 使得发动机零部件的配合更加紧密, 从而减少能量损失; 等等。 基础大模型终将 commoditize (商品化), toB 领域看谁能将 LLM 更好和复杂的生产环节衔接好帮客户落地提高生产效率, toC 领域看谁有流量入口, 最终才会获取 AI 产业价值创造中最多的利润
1.4K10编辑于 2025-02-02 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain 简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
87610编辑于 2023-09-06 - 来自专栏大模型
大模型应用开发基础-Prompt工程
大模型应用开发基础-Prompt工程1. 什么是Prompt？Prompt（提示词）是用户输入给AI模型的指令或问题，用于引导模型生成特定输出。 Prompt工程的定义Prompt工程（Prompt Engineering）是通过优化输入指令的结构、措辞和上下文，使大语言模型（LLM）输出更准确、可靠且符合需求的技术。 大语言模型（如GPT-4、Claude、Gemini）本质是“概率生成器”，它们会根据输入提示猜测用户意图。 Prompt工程的五大核心技巧Prompt工程的核心在于如何设计清晰、有效的指令，让AI生成更符合预期的输出。 最终剩余：4个 不过2023年后发布的主流大模型（GPT-4 Turbo、Claude 3、Gemini 1.5）已原生集成思维链推理能力。
1.2K10编辑于 2025-06-23 - 来自专栏程序那些事
大语言模型的开发利器langchain
当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。langchain的主要特点有两个，第一点就是组件化。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt 比如我们现在需要向openai询问昨天的天气，但是openai本身只是一个大模型，它并不知道实时的信息。
1.1K20编辑于 2023-06-28 - 来自专栏码农编程进阶笔记
Java + LangChain 开发大语言模型应用！
在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发大语言模型应用的基础入门文章，写的非常不错，非常适合初学者。于是，我抽空翻译了一下。 1. 简介 在本教程中，我们将详细探讨 LangChain[1]，一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念，这些知识将对本教程有所帮助。 它通过结构化文本向模型描述任务目标，使其能够理解并执行任务： 提示词工程 提示词帮助大型语言模型执行上下文学习[9]，这种学习是暂时的。 链简化了开发更复杂应用程序的过程，并使调试、维护和改进更加容易。 链还可以组合多个链来构建更复杂的应用程序，这些应用程序可能需要与多个语言模型交互。 这些库未来将快速发展，它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣！
3.3K12编辑于 2025-03-29 - 来自专栏算法channel
大模型开发工程师 roadmap
大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图： 我翻译了一下，供英文不是很好的同学参考： 运行LLMs： LLM engineering） 结构化输出（Structuring outputs） 构建向量存储： 摄入文档（Ingesting documents） 分割文档（Splitting documents） 嵌入模型
1.1K10编辑于 2024-04-11 AI大模型智能体开发：把大模型变成“会干活”的技术逻辑
大模型就像个满腹经纶的学者，能说会道却迈不出书房；而AI智能体，就是给这位学者装上“行动能力”的技术方案——不用重构底层模型，核心是通过三层技术设计，让大模型从“只会回答”变成“自主做事”。 今天用大白话拆解智能体开发的核心技术，普通人也能看懂落地逻辑。首先要明确：智能体开发的技术核心是“闭环能力”，而非创造新模型。 大模型听不懂“模糊需求”，得通过技术手段把用户目标拆成可执行的步骤。这不是简单列清单，而是用“结构化Prompt+任务拆解算法”，给大模型定好行动规则。 其实AI智能体开发，本质是“技术落地的工程思维”。不用纠结大模型的底层原理，核心是把“用户需求”通过任务规划、工具对接、反馈闭环三大技术环节，转化为大模型能执行的行动。 开发的关键永远是：让复杂技术服务于实际需求，让大模型真正走出“书房”，成为能落地干活的实用工具。
60010编辑于 2025-11-24- 来自专栏大模型应用
大模型应用：本地大模型部署中的Token效率优化与性能分析.9
引言 在大模型应用日益普及的今天，对模型交互过程中Token消耗的深入理解和有效管理变得至关重要。 Token作为大模型处理文本的基本单位，不仅直接关系到模型的响应速度和质量，更影响着计算资源的消耗和使用成本。 随着模型规模的不断扩大和应用场景的多样化，如何在不牺牲对话质量的前提下优化Token使用效率，已成为提升大模型应用经济性和实用性的关键问题。 助理回复："我是通义千问，一个由开发的大语言模型。我致力于帮助用户解答问题、提供信息和执行各种任务。" Token效率优化将在推动大语言模型普惠应用方面发挥越来越重要的作用。
1K43编辑于 2026-02-06 - 来自专栏周末程序猿
机器学习|从0开发大模型之模型预训练
继续写《从0开发大模型》系列文章，本文主要介绍预训练过程。 预训练是目的是让模型学习知识，需要将预处理的数据（《机器学习|从0开发大模型之数据预处理》）中生成的 pretrain_data.bin 文件的上下文全部学习到，那预训练怎么做呢？ ，所以一般做成配置文件携带模型一起发布。 使用混合精度可以减少内存使用和计算时间，从而加速训练过程，GradScaler 通过动态调整缩放因子，帮助在保持数值稳定性的同时，充分利用混合精度的优势； 简化代码：使用 GradScaler 可以简化混合精度训练的实现，开发者不需要手动管理缩放因子和反缩放操作 tab=readme-ov-file#%E6%95%B0%E6%8D%AE%E9%9B%86%E4%B8%8B%E8%BD%BD%E5%9C%B0%E5%9D%80 （2）https://github.com
85310编辑于 2025-02-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号