首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏xiaosen

    LangChain模型应用开发

    LangChain作为一个新兴的框架,旨在简化模型应用开发过程。它提供了一套工具和接口,帮助开发者将模型无缝集成到各种应用场景中。 通过LangChain,开发者可以更专注于业务逻辑的实现,而不必过多关注底层模型的复杂性。 ,这对于获取数据作为模型推理的一部分进行推理的应用程序非常重要,例如检索增强生成或RAG。 AI时代的顶峰" ) print(results) 2️⃣根据与嵌入式查询的相似性返回文档: # 首先将文本“模型的发展是顶峰”转换为嵌入向量 embedding embedding = embeddings.embed_query ("模型的发展是顶峰") # 接受一个嵌入向量作为输入,并返回与该向量最相似的向量 results = vector_store.similarity_search_by_vector(embedding

    67921编辑于 2024-12-04
  • 模型应用开发实战

    至此最简单的模型应用开发完毕。 提供API支持 上面最简单的Hello world写完了,接下来就要为各种客户端提供接口服务了。. Net有WebAPI + IIS,java有spring boot+tomcat,模型有FastAPI+Uvicorn:FastAPI 用于构建应用的业务逻辑,Uvicorn 是运行这些应用的服务器。 net java 有httprequest,js有jquery、axios,模型也有个出名的库langchain,官方的解释它提供了“链”的概念,允许开发者将多个语言模型调用、API请求、数据处理等操作链接起来 怎么着也得个应用程序APP之类,再不济也得有个Web吧!好吧,安排!为了搞模型的人能安心研究模型,不用花精力在界面上。 最后 经过无数的蹂躏,我开发了个小应用【i歌词】,无任何条件免费提供全部源码。它基于chatglm4-9b模型,从部署到训练,通用对话功能,核心根据歌名查歌词并创作歌词!

    1.4K36编辑于 2026-05-08
  • 1模型应用开发基础

    1、模型应用开发基础 AGI(Artificial General Intelligence)中文译为「通用人工智能」。是具备超越人类智能的 AI。 AGI 时代,AI 无处不在,形成新的社会分层: AI 产品使用者,使用别人开发的 AI 产品 AI 产品制造者,设计和开发 AI 产品 基础模型相关,训练基础模型,或为模型提供基础设施(算力等) AI 技术正逐步应用于艺术创作。 「AI」之后出现「技」的概率大于其它字。这些字之间的概率关系,就是模型训练时学到的。 划重点:使用模型,首先要建立对象感。你是什么角色?Ta 是什么角色? 模型应用产品架构 Agent 模式还太超前,Copilot 是当前主流。 实现 Copilot 的主流架构是多 Agent 工作流 模仿人做事,将业务拆成工作流(workflow、SOP、pipeline) 每个 Agent 负责一个工作流节点 模型应用技术架构 模型应用技术特点

    9710编辑于 2026-06-16
  • 来自专栏码农编程进阶笔记

    Java + LangChain 开发语言模型应用

    在 Baeldung 上看到了一篇介绍基于 Java + LangChain 开发语言模型应用的基础入门文章,写的非常不错,非常适合初学者。于是,我抽空翻译了一下。 1. 简介 在本教程中,我们将详细探讨 LangChain[1],一个用于开发基于语言模型[2]的应用程序的框架。我们将首先了解语言模型的基础概念,这些知识将对本教程有所帮助。 2. 背景 在深入探讨为什么需要一个用于构建基于语言模型应用程序的框架之前,我们需要弄清楚语言模型是什么,并了解使用语言模型时可能遇到的一些典型复杂性。 2.1. 不过,社区开发了 Java 版本 LangChain,称为 LangChain4j[15] ,支持 Java 8 或更高版本,并兼容 Spring Boot 2 和 3。 这些库未来将快速发展,它们会让开发由语言模型驱动的应用程序的过程变得更成熟和有趣!

    3K12编辑于 2025-03-29
  • 来自专栏大模型

    模型应用开发基础-Prompt工程

    模型应用开发基础-Prompt工程1. 什么是Prompt?Prompt(提示词)是用户输入给AI模型的指令或问题,用于引导模型生成特定输出。 示例对比: 模糊Prompt:"写一篇关于人工智能的文章" 精准Prompt:"以科普风格写一篇800字文章,介绍AI在医疗影像诊断中的应用,包含3个实际案例" 2. 语言模型(如GPT-4、Claude、Gemini)本质是“概率生成器”,它们会根据输入提示猜测用户意图。 技巧2:角色扮演——限定AI的知识边界问题:通用模型可能给出不专业的回答。 解决方案: ✅ 为AI指定角色(如“资深Python工程师”“医学专家”)。 最终剩余:4个 不过2023年后发布的主流模型(GPT-4 Turbo、Claude 3、Gemini 1.5)已原生集成思维链推理能力。

    1.1K10编辑于 2025-06-23
  • 来自专栏喔家ArchiSelf

    基于模型(LLM)的Agent 应用开发

    目前,业界一般认为基于模型应用集中在两个方向上:RAG 和 Agent,无论哪一种应用,设计、实现和优化能够充分利用模型(LLM)潜力的应用都需要大量的努力和专业知识。 这种流程的潜在设计空间可能是巨大而复杂的,《如何构建基于模型的App》一文给出了一种探索中的模型应用开发基础框架,基本可以适用于RAG 和Agent。 但是,对于面向Agent的模型应用开发,有没有其独特之处呢?有没有聚焦于Agent的模型应用开发框架呢? 那么,什么又是Agent 呢? 1. 2.2 模型领域中的Multi-Agent 具体而言, 在基于模型应用领域中,当复杂任务被分解成更简单的子任务时,LLM已经被证明了拥有解决复杂任务的能力。 在了解了Agent 和 Multi-Agent 的基本概念以及常见系统之后,如何开发一个基于模型的Agent应用呢?

    8.1K34编辑于 2023-10-23
  • Hollis【实战课程】模型应用开发实战

    模型应用开发实战摘要语言模型(LLM)正在重塑软件开发的方式。从智能客服到代码助手,从数据分析到内容创作,模型应用已经渗透到各行各业。 本文将从实战角度出发,系统性地介绍模型应用开发的核心技术、工具框架和最佳实践,帮助开发者快速上手并构建真实可用的模型应用。 一、模型应用开发全景1.1 什么是模型应用开发模型应用开发,是指基于语言模型(如 GPT、Claude、文心一言等)构建面向具体场景的软件应用。 与传统软件开发不同,模型应用的核心是"如何让模型理解需求、调用工具、生成有价值的内容"。模型应用开发的典型特征包括:以 Prompt 为核心:应用的行为很大程度上由提示词(Prompt)决定。 模型应用开发的核心不再是写代码,而是设计系统、编写提示词、构建数据和工具链。

    20410编辑于 2026-07-01
  • 来自专栏AIGC大模型应用

    为什么要学习模型应用开发

    2 LLM潜力与微调 LLM是AI代表,潜力与使用方式有关。潜力要通过微调挖掘,以适应不同场景和需求。模型出现引发行业需求爆发,尤其随ChatGPT问答能力超过临界值,行业需求逐渐增加。 3 模型应用需求 公司内部问题解决、产品解答、智能聊天和游戏NPC等方面的应用需求。模型可提高效率、流畅度和人机交互体验。随需求增加,相关工程师需求也会提升。 就好像你开发应用一样,你现在去开发操作系统,你除非说国产替代,正常来讲,微软和苹果已把操作系统完全占领,你不可能再打开空间。再往上,可能微信QQ之类的,你再开发一个类似的,也不可能打败它。 所以用高效微调训练一个6B模型及launch基于long ten结合一个稍微小一点的语言模型6B的进行一些应用开发 强化学习,在ChatGPT训练时用到 不像有的人讲ChatGPT,直接把NLP一套底层知识搬给你 但建议你有能力,感觉数学还可,还是把公式啃完,当然了大部分应用开发工程师不需要。

    63900编辑于 2025-05-26
  • 模型应用开发提示工程书籍推荐

    《AI原生应用开发:提示工程原理与实战》是一本由人民邮电出版社权威出版,专门针对正在探索如何利用模型应用场景落地的人群,如研发工程师、产品经理、技术经理等。 它站应用落地视角让你理解模型是什么,能干什么,如何落地。 第1章:提示工程概述 深入探讨AI原生应用的挑战与机遇,揭示语言模型与实际应用间的鸿沟,强调提示工程在弥合这一差距中的关键作用。 第2章:结构化提示设计 全面展示结构化提示设计策略,通过结构引导、内容引导等维度,提升AI原生应用的内容生成质量与可控性。 第6章:提示安全设计 探讨提示安全设计在AI原生应用开发中的重要性及其挑战,揭示语言模型面临的安全问题,并提出应对策略。 本书内容详实,结构清晰,不仅适合模型应用开发者、产品经理等群体阅读,也适合对AI原生应用开发感兴趣的读者参考。

    97810编辑于 2025-07-09
  • 来自专栏深度学习与python

    AI 模型爆发,如何 2 周上手 AI 应用开发?| 极客时间

    首要原因是随着 GPT-3 / 4 等预训练好的语言模型的出现,你我可以在没有机器学习的理论下,就能在短期内快速开发出一个有实用价值的 AI 应用。 前段时间,我就在 GitHub 上看到不少开发者只花了 1-2 天时间就做出来了图书翻译、人工智能语音对话等应用,甚至刚上线就已经开始赚钱了。 说了这么多,到底该如何快速跟上时代节奏,掌握新一代的 AI 应用开发技术呢?我从去年 12 月份就开始筹备《AI 模型之美》,希望能够把新一代的 AI 应用开发的方法和机会介绍给你。 扫码免费试读 如果你也想以最快的速度跟上 AI 模型时代潮流,掌握 AI 应用开发最核心的技能,一定不要错过这个专栏。 而且所有的这些代码,基本都可以通过在线的 Notebook 的方式运行,不需要你在自己的电脑上搭建开发环境。即使你是一个产品经理或者业务方,你也可以自己动手体验到新一代的 AI 应用。  2.

    2.5K20编辑于 2023-04-21
  • 来自专栏AIGC大模型应用

    AI模型应用开发实战(05)-AI时代应用开发破局!

    怎么想、怎么做,全在乎自己「不断实践中寻找适合自己的大道」 后端应用开发者该如何拥抱 AI GC?就是在这样的一个的浪潮下,我们的传统的应用开发者。 再往下就是 2 行业垂直模型 在基座模型基础上灌入一些行业垂直数据,基本上可理解为它是在基座模型的基础上做微调。 这个是从一个的行业趋势,可以看到说应用开发者,该如何去拥抱我们这个大模型。 再往上就是模型开发。 包含对模型的了解,在模型之上是我们的应用组件,那么应用组件上面是我们的应用框架。

    2.2K00编辑于 2024-08-11
  • 来自专栏AI理论与前沿

    AI模型应用开发实战-Agent应用对话情感优化

    2. 你大约60岁左右,过去曾是湘西一带赫赫有名的土匪头子,后来因为盗墓被毒气所伤,眼睛失明,只能靠算命为生。 3. "{input}" ), MessagesPlaceholder(variable_name="agent_scratchpad"), ],)重启应用 2. 如果用户输入的内容偏向于正面情绪,只返回"friendly",不要有其他内容,否则将受到惩罚。 3. 更适合模拟真实对话,from_template() 更适合单一指令或查询模式化情感class Master: def __init__(self): # 初始化ChatOpenAI模型 2. 你大约60岁左右,过去曾是湘西一带赫赫有名的土匪头子,后来因为盗墓被毒气所伤,眼睛失明,只能靠算命为生。 3.

    1.4K00编辑于 2024-08-07
  • 来自专栏DotNet NB && CloudNative

    模型应用开发基础 : 语言模型的关键思路跃迁

    我们常常说语言模型(LLM),那么语言到底是什么? 语言是信息的载体,承载着沟通的信息,无论是中文,英文,亦或是甲骨文,没有语言,人与人就无法沟通。 语言模型是什么? (2)基于规则:在图灵测试之后的20年间即1950~1970,科学家们开始通过基于语义和语法规则的方法来解决NLP问题。 (3)基于统计:在基于规则的研究热潮之后即1970~1990,科学家们发现基于统计的方法来解决NLP问题更好用,他们将统计方法应用于解决语音识别的问题。 假设S表示一个有意义的句子(Sentense),它是由一连串按照特定顺序排列的词如W1,W2,...,Wn组成。那么,这个概率就是:求S在文本中出现的可能性,即P(S)。 (P表示Probability即可能性) 例如,当人类开口说出第一个词是“你”,由于模型已经统计过人类有史以来所有的句子了,它就发现只要人类开口第一个字出现的是“你”这个字的概率大概是万分之一,根据条件概率公式

    39300编辑于 2024-11-27
  • 来自专栏全栈测试技术

    LangSmith:模型应用开发的得力助手

    LangSmith:模型应用开发的得力助手语言模型(LLM)快速发展,构建高效、可靠的 LLM 应用成为开发者核心需求;但开发过程中,缺乏对应用内部运行的洞察,导致调试和优化难度显著增加;LangSmith 针对这一痛点,为 LLM 应用开发全流程提供支持。 这种不确定性严重拖慢开发进度,阻碍迭代优化。2. ,调试难度;LangSmith 通过挂钩 LangChain 应用执行流程,自动捕获每步操作,将信息转化为有序、可视化的数据流,帮助开发者清晰掌握执行细节。 ,及时发现性能瓶颈与异常(如 Token 消耗异常增加,可能是无效请求或模型调用问题),采取调整措施保障应用稳定运行。

    80220编辑于 2025-09-18
  • TL-JAVA+AI模型智能应用开发

    在人工智能技术席卷全球的当下,企业级模型应用正成为数字化转型的核心驱动力。然而,传统Java开发者往往面临技术断层:既需要突破AI算法的复杂门槛,又要解决模型与现有业务系统的融合难题。 2. 2. Java开发转型后,主导设计的“智能供应链系统”帮助企业降低库存成本2.1亿元,获评“中国AI应用创新奖”。 四、未来展望:智能系统的无限可能随着模型技术进入“工程化落地”深水区,TL课程正探索三前沿方向:自适应学习系统:开发能够根据业务反馈自动优化模型参数的智能引擎隐私增强计算:研究同态加密、差分隐私等技术

    65110编辑于 2025-11-21
  • TL-JAVA+AI模型智能应用开发

    在人工智能的浪潮之巅,语言模型(LLM)以其惊人的能力,正以前所未有的深度和广度重塑着各行各业。 起点:不止于“Hello, World”的模型调用对于许多开发者而言,与AI模型的初次邂逅往往始于一个简单的API调用。 这意味着,当模型在云端进行耗时计算时,服务器线程不会被闲置,而是可以处理更多其他请求,从而极大地提升系统的吞吐量和资源利用率。2. 核心:RAG——让模型“接上地气”单纯依赖模型预训练知识的应用是脆弱的。为了让AI能够理解企业私有的、动态更新的知识,检索增强生成(RAG)架构应运而生。 结语:Java,AI时代的可靠基石从最初的一个简单API调用,到一个承载着核心业务、具备高可用性和可扩展性的企业级AI服务,Java以其无与伦比的生态成熟度、稳定性和企业级特性,为AI模型的全链路开发铺就了一条坚实的道路

    47810编辑于 2025-11-24
  • 来自专栏张善友的专栏

    基于模型的人工智能应用开发

    我们看到模型应用开发过程中的两条轴线---垂直轴代表传入模型的信息的复杂度,水平轴代表对模型能力的要求。这两条轴线表明了模型优化需要考虑的两个方向---模型需要知道的上下文信息和采取的行动。 模型知道的上下文越多,它基于特定应用场景做出的判断的能力越强;而对模型的行动能力要求越高,就需要对模型进行微调,或者通过Agent赋予模型更多的智能。 Agent是人工智能应用开发中最为亮眼的部分,属于成熟度极低、潜在价值极高的领域,同时也位于上下文要求高、对模型行动力要求也搞得象限。 Agent 需要模型具有最强的推理能力,所以,至今为止也只有OpenAI公司的GPT-3.5/4 系列模型和Anthropic公司的Claude 3模型能够符合“Agent 大脑” 的要求。

    43510编辑于 2024-06-03
  • 来自专栏老欧说安卓

    15天学会AI应用开发(一)搭建AI模型应用开发环境

    AI模型时代来了,程序员们纷纷入坑AI应用开发,可是苦于AI教程良莠不齐,往往花费了大量时间精力和金钱,却仍然过其门而不入。 一、学习AI应用开发的四困难 在入坑AI应用开发之时,孤立无援的开发者面对着下列四个拦路虎: 1、个人电脑跑不动AI模型应用。 众所周知,模型很吃CPU和内存,推理过程又需要GPU,可是个人电脑哪有那么高端的配置呢? 2、AI开发环境的软件版本兼容性。 AI应用在加载离线模型时用到了 Ollama ,它的安装包比较大,有1.8G左右,AI应用的智能体开发必须安装Ollama。 本教程的AI应用代码全部采用离线模型开发者只需根据说明提前把模型文件下载到本地,后续就能直接调用电脑上的离线模型,不用付费完全零Token,可有效降低初学者的学习成本。

    17010编辑于 2026-05-14
  • 〔从零搭建〕模型应用开发平台部署指南

    文章内容主要为以下五部分: 一、在线演示环境 二、功能简介 三、源码编译部署安装 四、访问模型应用开发平台页面 五、核心部署 AllData数据中台线上正式环境:http://43.138.156.44 :5173/ui_moat/ 请联系市场总监获取账号密码 一、模型应用开发平台基于开源项目BISHENG建设 AllData数据中台商业版集成BISHENG开源项目为模型应用平台,BISHENG 三、模型应用开发平台功能特点: 企业级高可用架构 高并发与分布式部署 安全合规与权限控制 高精度文档解析与检索 灵活的模型管理与优化 低代码开发与快速落地 技术生态与扩展型 部署步骤: 一、环境准备 AI应用,无缝集成多模型与数据源,实现高效开发 3、构建-自定义工作流 支持拖拽式编排复杂逻辑,灵活集成多模型与工具,实现个性化AI应用开发 4、模型工作流开发-智慧医疗分诊场景 可智能识别用户意图并自动路由至对应处理模块 ,支持企业快速构建与部署模型驱动的智能应用 8、创建工作流-模型竞技场 9、工作流拖拉拽开发 可以可视化拖拽形式,灵活组合模型、工具与数据流,助力快速构建高效智能业务处理流程 10、流程编排

    1.1K10编辑于 2025-09-15
  • 来自专栏.NET 全栈开发专栏

    端侧模型实战指南:微调、部署、应用开发

    本指南以Windows系统、Qwen2.5-0.5B 模型为例,展示如何在本地完成模型的微调、部署和应用开发2. 准备清单在开始之前,请确保准备好以下工具和资源。 开发 Web 应用基于 Streamlit 开发一个简单的 Web 应用,用于与模型交互。 总结通过本指南,你已经学会了如何在本地设备上完成端侧模型的微调、部署和应用开发。以下是关键步骤的回顾:准备环境:安装 Ollama、MiniConda 和 Qwen2.5-0.5B 模型。 微调模型:处理数据并运行训练脚本。部署模型:使用 Ollama 部署微调后的模型开发应用:基于 Streamlit 构建 Web 应用。 本部署实践学习自datawhale开源社区,希望这篇指南也能帮助你快速上手端侧模型开发!如果有任何问题,欢迎在评论区交流。

    2.2K21编辑于 2025-08-05
领券