- 综合排序
- 最热优先
- 最新优先
5种大模型Agent模式
大模型中的5种AI Agent模式在大模型中，AI Agent（人工智能代理）模式是一种重要的应用方式，可以从以下几个方面来理解：1. 在大模型的背景下，AI Agent 是基于大规模预训练模型（如 GPT 等）构建的智能代理，能够利用模型的语言理解和生成能力来完成复杂的任务。 智能性：它基于大模型的强大语言理解能力，能够理解自然语言指令，并生成自然语言响应。这种智能性使其能够处理复杂的语言任务，如对话、写作、翻译等。 工作原理感知与理解：AI Agent 首先通过输入（如用户指令、环境数据等）感知外部信息，然后利用大模型的语言理解能力解析这些信息，确定任务目标。 下面介绍5种常见的AI Agent模式：1.
4.2K10编辑于 2025-05-07- 来自专栏锤子代码
Nginx反向代理大模型推理接口(SSE)
Nginx作用这么大？ 在后台写了一个接口，用来调用第三方的AI接口，SSE方式返回。 用普通的Nginx代理配置接口返回特别慢。 找了下原因，发现是代理配置有问题。 接口总算丝滑了。 http://192.168.0.105:228866 这个地址是你对应第三方AI大模型返回数据的接口。
1.1K10编辑于 2025-04-04 - 来自专栏啄木鸟软件测试
大模型测试：性能优化的5大实战策略
引言 随着ChatGLM、Qwen、DeepSeek及Llama系列大语言模型在金融、政务、医疗等关键场景加速落地，模型测试已远超传统‘功能是否正确’的范畴——性能成为决定能否上线的核心瓶颈。 这些并非个例，而是大模型测试进入深水区的典型信号：性能不是附加项，而是可信AI的第一道防线。 一、明确性能基线：拒绝‘拍脑袋’指标 大模型性能测试首要误区是套用小模型标准。 二、分层注入式压测：从单卡到集群的穿透验证 传统压力测试常止步于API层，而大模型性能瓶颈常藏于框架底层。 推荐采用‘四层注入法’： 1）API层：模拟真实用户请求分布（如80%短提示+15%中长提示+5%对抗性长上下文），避免均匀负载失真； 2）Engine层：直连vLLM/Triton推理引擎，注入不同 结语 大模型性能测试的本质，是构建‘可测量、可归因、可演进’的效能反馈闭环。
22810编辑于 2026-03-31 【大模型微调】一文掌握5种大模型微调的方法
（Prompt Tuning）在内的5种主流方法。 大模型微调究竟是什么？直观上，大模型微调即是指通过输入特定领域或任务的数据，并有选择性地调整模型参数的技术过程。 我们所讨论的5种微调方法，本质上都是对这个基础架构中自注意力机制与前馈神经网络等核心组件的参数进行优化的不同策略。 5、提示调整-轻量级的参数优化提示调整（Prompt Tuning）是一种“润物细无声”的微调，不改变模型自身，而是通过优化输入提示词的嵌入表示来引导模型输出。 四、大模型微调赋能智能未来综上所述，大模型微调是连接通用基座模型强大能力与具体业务需求的关键桥梁。
3.7K40编辑于 2025-10-23- 来自专栏大模型应用
大模型应用：大模型的本地 API 服务：FastAPI 封装与接口鉴权.44
一、引言 大模型的里里外外我们都进行了很多细节的讲解，但大模型的部署引用还没有涉及太多，今天我们重点讲一下模型的接口发布，以及利用Postman工具的鉴权调试，Postman 是一款轻量、 核心作用：把大模型的 "推理功能"（比如文本生成、问答），包装成 "可网络调用的接口"。2.3 接口鉴权的核心目的身份验证：确认调用者是 "自己人"，不是恶意攻击者。 定义接口函数：写一个 Python 函数，接收用户请求，比如提示词，调用大模型生成结果，再返回给用户。 5. 验证结果处理： 如果令牌有效，服务器执行业务逻辑（例如，使用大模型生成文本）。如果令牌无效（如签名错误、已过期等），则返回401错误。6. 处理请求验证结果验证通过→调用大模型生成文本，返回结果给客户端；验证失败（令牌篡改 / 过期 / 无效）→返回 401 错误，提示 “重新获取令牌”。5.
48153编辑于 2026-03-13 - 来自专栏张俊红
5 大常用机器学习模型类型总结
本文介绍了 5 大常用机器学习模型类型：集合学习算法，解释型算法，聚类算法，降维算法，相似性算法，并简要介绍了每种类型中最广泛使用的算法模型。我们希望本文可以做到以下三点： 1、应用性。 所以我们希望通过给出模型的一般类别，让你更好地了解这些模型应当如何应用。 2、相关性。 因此，与其创建模型来预测响应变量的值，不如创建解释性模型来帮助我们理解模型中变量之间的关系。 如果你不能解释一个模型是如何工作的，那么这个模型就很难取信于人，自然也就不会被人们应用。 参考链接： https://towardsdatascience.com/all-machine-learning-algorithms-you-should-know-in-2022-db5b4ccdf32f
3.6K20编辑于 2022-03-29 - 来自专栏韩曙亮的移动开发专栏
【AI 大模型】函数调用 Function Calling ① ( 人机交互接口 与 应用程序编程接口 | 语言界面接口 | AI 大模型缺陷与补救措施 | 函数调用为大模型赋能 真逻辑 )
应用程序编程接口 发展问题 , 短时间内实现的可能性不大 ; 二、AI 大模型缺陷与补救措施 - 函数调用 Function Calling 引入 1、AI 大模型原理 GPT 大模型 ( Generative ; 根据现有提示词 , 后面生成每个词的概率中 , sat 的概率是 0.5 , 概率最大 , 则生成 sat 单词 ; 2、AI 大模型缺陷 AI 大模型有如下 缺陷 : 并非全知全能 : AI 大模型 上述 三种缺陷 , 因此 需要 有一种机制 , 使得 AI 大模型 需要 与 外部进行交互 , 为 AI 大模型 对接 各种接口 ; 特定领域的知识或消息 , 如 : 非公开信息等 ; 专业领域的接口 , 数据输入进去 , 跟炼丹一样 , 得到一个结果 , 不知道具体的推理步骤和过程 ; GPT 大模型 并没有 逻辑推理能力 ; 5、函数调用 Function Calling 为 大模型 赋能 " 解决各种具体的问题 ; 函数调用 Function Calling 就是 使用代码 实现的 " 真逻辑 " , 嵌入到 AI 大模型中 , 在 大模型 的 概率生成文本的 基础上 增加 确定性的 "
1.8K10编辑于 2024-07-14 - 来自专栏有三AI
【模型解读】历数GAN的5大基本结构
如全卷积的DCGAN模型[1]，输入就是1*100的向量，然后经过一个全连接层学习，reshape到4*4*1024的张量，再经过4个上采样的反卷积网络，生成64*64的图。 5.1 级联结构[5] 早期以DCGAN为代表的网络生成的图片分辨率太低，质量不够好，都不超过100×100，在32×32或者64×64左右。 在图像分割中进行上采样时也采用学习小倍率的放大而不是大倍率的方法，如利用两个2倍上采样替换一个4倍的上采样，不仅可以增强网络的表达能力，还降低了学习难度。 5.2 并行与循环结构[6] GAN有一大应用就是风格化，实现两个域之间的风格互换，以CycleGAN[6]为典型代表。它包含了多个生成器和多个判别器。Cycle的典型结构如下： ? ? Triple Generative Adversarial Nets[J]. neural information processing systems, 2017: 4088-4098. [5] Denton
1.4K10发布于 2019-07-26 - 来自专栏啄木鸟软件测试
多模态大模型技术原理及实战(5)
国内外多模态大模型对比 国内 LLaMA-Adapter V2 香港中文大学 双语输出 输入 •图像 •语音 •文本 •视频 • 3D 点云 起源：LLaMA-Adapter •在线性层上进行偏差调整 •4、ChatGLM-6B 在 GLM 框架下，专门针对中文问答和对话进行了优化 mPLUG-Owl 阿里巴巴达摩研究院 2023年5月 架构 •视觉基础模块(采用开源的VTL-L) •视觉抽象模块 多模态大模型评测数据集 国内评测数据集 OwlEval •基于mPLUG-Owl模型发布 • 包含 •50 张图片 •82 个回题 •功能 •故事生成 •广告生成 •代码生成 MME •开发 •结构 •265 016张图片 •每张图片至少有 3 个问题(平均 5.4个每个问题） •每个问题 •有 10 个基本事实答案 •有 3 个合理(但可能不正确)的答案 多模态大模型的评测标准 国内评测标准 KROCC( Kendall Rank Order Correlation Coefficient，肯德尔秩相关系数) •RMSE( Root Mean Square Error,均方根误差 ) 多模态大模型对比
36310编辑于 2024-09-10 - 来自专栏星哥的AI自留地
OpenAI发布最新大模型GPT5、本地部署GPT开源模型
OpenAI发布最新大模型GPT5、本地部署GPT开源模型GPT-5概述北京时间 2025年8月8日 凌晨1点 OPENAI举行了1个小时的线上发布会，正式推出了其史上最聪明、最强大的大模型GPT-5 GPT-5是OpenAI发布的最新一代大型语言模型，它基于Transformer架构，经过大规模的文本数据训练，能够生成流畅、自然的语言输出。 GPT-5具备以下几个显著特点：更大的参数规模：GPT-5拥有比GPT-4更多的参数，使其能够处理更为复杂的语言任务。 使用微软的copilot可以免登录使用GPT5、但是需要一些魔法。 最后以上就是全部内容，GPT-5的简介和在本地搭建使用OpenAI的GPT-oss的开源模型。写文不易，如果你都看到了这里，请点个赞和在看，分享给更多的朋友；也别忘了关注星哥玩云！
1.3K10编辑于 2025-08-27 - 来自专栏每天学Java
Java-BlockingQueue 接口5大实现类的使用场景
标题中说的是五大实现类，但是该接口实际上拥有7个实现类，它们的区别主要体现在存储结构上或对元素操作上的不同，如下: ArrayBlockingQueue ：一个由数组结构组成的有界阻塞队列。 今天主要聊一聊前面5个类的使用场景，对于最后两个类，笔者没有在真实项目上使用过，所以也不妄加分析。 ArrayBlockingQueue使用场景 特征: 基于数组实现，队列容量固定。 (Delayed接口继承了Comparable接口) 分析: 由于是基于优先级队列实现，但是它比较的是时间，我们可以根据需要去倒叙或者正序排列(一般都是倒叙，用于倒计时) 使用场景: 订单超时取消功能 Work work = new Work("用户一", 25, TimeUnit.SECONDS); Work work2 = new Work("用户二", 5, } catch (InterruptedException e) { e.printStackTrace(); } } } 以上是笔者对于阻塞线程5大实现类使用场景分析
6.6K54发布于 2020-06-01 - 来自专栏Android 研究
Android跨进程通信IPC之5——Binder的三大接口
定义新接口的时候，你必须从IInterface派生。 (二)、抽象方法注释 如果想获取和该接口关联的Binder对象。你必须使用这个方法来而不是使用一个简单的类型转化。 这个接口描述了与远程对象进行交互的抽象协议。建议继承Binder类，而不是直接实现这个接口。 5、可以使用pingBinder()方法来检测目标进程是否存在 6、可以调用linkToDeath()来向IBinder注册一个IBinder.DeathRecipien。 7、建议继承Binder类，而不是直接实现这个接口。 Java层的Binder对象模型.png
1.8K61发布于 2018-08-30 - 来自专栏量子位
清华大模型人才遭哄抢！盘点5大学术重镇10大产业玩家
经唐杰手的大模型，都是这几年里大家的“老朋友”：超大规模预训练大模型“悟道”（悟道2.0参数规模达到1.75万亿）；2021年与阿里达摩院联合发布的中文多模态预训练大模型M6；已经开源的中英文预训练语言大模型 黄民烈本人不仅参与了“悟道”大模型的开发，还基于大模型和对话系统的学术背景，在前年创办致力于打造“超拟人大模型”的聆心智能。 国内大模型力量百家争鸣：5大学术重镇，10大产业巨头 清华不是这轮浪潮中唯一的宠儿。随着AIGC和类ChatGPT产品相关话题日益高涨的热度，国内大模型人才市场好不热闹。 为此，量子位梳理了百家争鸣的国内产学研界大模型重镇，代表性机构和代表性人物，共计5支学术界团队和10大产业界力量，排名不分先后。当然极有可能挂一漏万，欢迎在评论区中补充。 科大讯飞公开资料披露，2022年12月，科大讯飞已经进一步启动生成式预训练大模型任务攻关，类ChatGPT技术将在今年5月落地公司AI学习机产品中。
1.9K20编辑于 2023-02-24 - 来自专栏大模型应用
大模型应用：概率驱动：大模型文字预测的核心机制与理论基础.5
大模型文字预测1. 基本原理 文字预测，就是让模型根据已经出现的文字，预测下一个最可能出现的字（或词）。比如，输入“今天天气很”，模型可能预测出“好”、“热”、“冷”等。2. 大模型的做法：它的大脑里有一个“概率字典”。 大模型不是一个真正的大脑，而是一个极其复杂的数学网络。我们可以把它想象成一个巨大的、经过特殊训练的自动补全机器。模型的输入：你给它的所有文字（我们称之为 “上下文” 或 “提示”）。 5. 纠错与调整： 如果模型预测“分支”的概率很高，系统就会表扬它，并微调内部参数，强化这个连接。 5. 损失函数：衡量预测的差距 模型会用一个叫做损失函数的指标来衡量预测值与真实值的差距。
33132编辑于 2026-02-02 2026-2027 大模型领域5大突破性方向展望
结合当前技术瓶颈与行业需求，笔者判断，2026-2027年大模型领域的下一波大进展，将集中在交互体验、模型架构、底层基建、认知能力和推理可靠性五大核心方向，每一个方向的突破，都将为AGI（通用人工智能） 对于腾讯云开发者而言，这意味着未来可基于标准化接口，快速将智能体能力集成到自身应用中，大幅降低开发成本，同时也能推动智能体从“小众场景”走向“普惠应用”，挖掘更多行业落地价值。 二、参数可调基座大模型：从“固定能力”到“动态适配”，解锁模型复用新可能当前主流的大模型，本质上是“训练完即固定”的静态模型——即便通过LoRA微调、Prompt工程等方式优化，也存在迭代周期长、资源消耗大 而参数可调的基座大模型，将成为下一代大模型架构的核心突破点。 大模型的发展已进入“质变”前夜，这五大突破性方向，不仅将重塑大模型的技术格局，也将推动AI技术从“实验室”走向“产业界”，真正赋能千行百业。
2.2K10编辑于 2026-03-15从零到一：使用pycharm搭建API接口调用大模型
从零到一：使用pycharm搭建API接口调用大模型【前言】随着人工智能技术的快速发展，大语言模型（LLM）已成为许多应用场景的核心技术。 本文将详细介绍如何使用PyCharm开发环境搭建API接口调用大模型的完整流程，包括两种主流调用方式、模型列表查看方法，以及一个完整的求职岗位查询实战案例。 【任务】1.掌握使用OpenAI库和requests库调用大模型API的方法。2.学会查看和展示可用的大模型列表。3.实现基于大模型的求职岗位查询系统。4.掌握API调用的错误处理和结果展示技巧。 () 图4：获取模型列表表格形式代码示例三.通过pycharm调用API接口，实现大模型求职岗位查询第一步：准备工作在运行代码之前，请确保你的项目目录下有以下文件和配置。 if __name__ == "__main__": main()第三步：运行结果图5：程序运行结果展示图6：大模型返回岗位信息.xlxs文件四.掌握API调用的错误处理和结果展示技巧
1.7K21编辑于 2025-12-23- 来自专栏CreateAMind
大语言模型无法实现具身智能：5万字自我模型
大语言模型无法实现具身认知 具身智能到底是什么？ 正如知觉错觉所证明的那样[51,52]，到达感官的信息本质上是模糊的，因为类似的输入可能来自无限数量的世界状态（例如，一个物体是小而近，还是大而远？）。 5. Neurophenomenology of Agency 5.1. 我们实际上填充了一个完整而丰富的模拟环境，还是这种主观体验是某种“大幻觉”，实际上我们只填充了环境的局部方面 以一种特别的方式[8,324-326]？ 虽然意识的某些丰富性可能代表了一种“大幻觉”，但在许多方面，这种所谓的幻觉现象可能会通过根据需要填充细节来发挥作用，就好像一个丰富而完整的领域总是存在的。
27110编辑于 2026-03-11 - 来自专栏创作是最好的自我投资
通用大模型VS垂直大模型
在人工智能这个充满无限可能的领域内，通用大模型和垂直大模型各有千秋。就我个人而言，在二者之间的选择上，并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求，来挑选最为契合的大模型。 通用大模型通用大模型，乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面，通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时，选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而，由于垂直大模型的训练内容聚焦于当前行业，其涉猎的范围更集中，数据针对性更强，所以在提供专业咨询时往往更加精准、细致，这也正是垂直大模型的独特价值所在。 因此，对于通用大模型或者垂直大模型，更倾向于哪一方不取决于个人想法，而是取决于用户需要。
78101编辑于 2024-12-30 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 应用领域 首先来谈一谈大模型的·成就 大模型已经在许多应用领域取得了显著的成果，包括： 自然语言处理： import torch from transformers import T5Tokenizer , T5ForConditionalGeneration # 加载预训练模型和分词器 model = T5ForConditionalGeneration.from_pretrained('t5-base 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。
1.5K30编辑于 2023-10-10 - 来自专栏机器学习与推荐算法
SIGIR2024 | OpenP5: 大模型推荐评测平台
TLDR: 本文介绍了一个开源大模型推荐评测平台OpenP5，旨在促进用于研究的基于大模型生成式推荐系统的开发、训练和评估。 上述局限性可能会阻碍基于大模型推荐研究的探索。 本文提出了一个开源平台OpenP5，旨在促进用于研究目的的基于大模型的生成式推荐系统的开发、训练和评估。该平台在10个广泛认可的公共数据集上进行实验。 另外，OpenP5使用编码器-解码器大模型(如T5)和仅解码器的大模型(如Llama-2)实现，满足了两个基本的推荐任务:序列推荐和直接推荐。下图展示了不同推荐任务所对应的提示的不同。 认识到物品ID在基于大模型的推荐中的重要作用，我们还在OpenP5平台中纳入了三种物品索引方法:随机索引、顺序索引和协同索引。 下表展示了OpenP5相比于基线方法的优越性，并探索了在不同大模型基础上的实验效果。
68910编辑于 2024-07-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号