- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
AI 语音大模型的调用
AI 语音大模型（AILM）通常作为云服务 API 提供给开发者，这使得我们无需部署昂贵的硬件，就能在应用程序中集成高性能的语音功能。调用过程涵盖了身份认证、数据传输和参数配置等关键环节。1. 核心调用流程与模型选择调用 AILM API 的基本流程可以概括为：认证 → 数据输入 → 参数配置 → 接收输出。2. 2.2 实时语音转文本（ASR）的调用ASR 服务通常提供流式 API 和批处理 API 两种调用方式。流式调用（Streaming ASR）： 适用于实时语音输入（如语音聊天、实时字幕）。 phrase_hints 或 context_boost: 提供专有名词、行业术语或人名列表，帮助模型提高对特定词汇的识别准确率。 通过遵循这些步骤和最佳实践，您可以高效且安全地将 AI 语音大模型的功能集成到您的应用程序中。
67210编辑于 2025-09-29 - 来自专栏go
go调用腾讯混元大模型
go-easy-llm 点击 github go-easy-llm 查看更多 一个满足你的调用多种大模型API的轮子，支持目前市面多家第三方大模型，包含ChatGPT、通义千问、文心大模型、混元、盘古、 百川智能等； 一套写法兼容所有平台，简单配置即可灵活使用第三方大模型API。 简单几步即可使用第三方大模型API 混元大模型调用 创建密钥 点击我 进行密钥创建 通过这一步，你就会拿到腾讯的 secretId、secretKey，主要用于鉴权使用 引入go-easy-llm go Chat 模式大模型 一次性回复 NormalChat resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest Message: "介绍一下你自己", }) for content := range resp { fmt.Println(content) } 通过以上简单几步，你就可以轻松的调用腾讯混元大模型了
47410编辑于 2024-09-02 - 来自专栏掘金安东尼
👾打开 RAG 对接大模型的黑盒 —— 9 大隐藏问题
Prompt 给他介绍一下相关背景，然后大模型就有更专业的应答能力了。 言而总之，大数据时代，很多公司都拥有大量的专有数据，如果能基于它们创建 RAG，将显著提升大模型的特异性。 /模型没有回答问题/模型编造有害的或带有偏见的答案 接下来，一起揭秘：RAG 对接大模型的黑盒 —— 9 大问题 来源：Seven Failure Points When Engineering a Retrieval 速率限制 如果大模型的 API 允许配置多个密钥、一个应用轮番调用，可以采用分布式系统，将请求分散到多个 RAG 通道，即使通道有速率限制，也能通过负载均衡、动态分配请求的方式来解决这个速率限制问题。 总结 本篇提供了开发 RAG 通道 9 个痛点，并针对每个痛点都给了相应的解决思路。 RAG 是非常重要的专用检索+通用大模型的技术手段，在赋能模型、满足特定化场景中非常重要！
88610编辑于 2024-04-04 - 来自专栏软件测试学习
怎么通过API调用AI大模型获取响应结果
要通过api在代码里面去调用大模型，需要先申请大模型的api key,以deepseek官网为例，apikey的申请地址：https://platform.deepseek.com/api_keys 目前 ，deepseek通过apikey调用是要收费的，注册后需要充值使用，也可以用其他第三方平台的apikey调用的方式进行接入，代码都是差不多的，改一下相关的配置就行。 代码案例的话，deepseek官网就有提供最简单的案例： https://api-docs.deepseek.com/zh-cn/ 调用上面的代码，需要安装依赖： pip install openai 通过上面2篇文章，一个是可以将大模型切换为其他第三方平台的api进行调用，有的平台注册会赠送一定的体验额度，可以临时用于代码调试啥的，另一篇文章的话，是可以将代码里面的apikey以及对应的api地址等信息放到配置文件里面 模型列表可以参考：https://huggingface.co/deepseek-ai/models https://modelscope.cn/models
5.1K10编辑于 2025-06-23 - 来自专栏人工智能应用
大模型本地部署与应用调用的技术指南
本地部署大模型是指将预训练好的语言模型下载到本地设备（个人电脑、服务器或边缘设备）上，并通过特定的推理框架进行加载和调用的过程。 本文将帮助您克服这些挑战，实现大模型的高效本地部署。 目前主流的开源大模型包括： 1. 智谱AI的GLM系列 GLM-4：最新一代开源大模型 许可证：允许非商业使用 优势：中文理解能力强，指令遵循度高 模型下载与准备 模型获取途径 Hugging Face：最主要的模型分发平台 随着开源模型质量的提升和部署技术的成熟，本地LLM应用将变得越来越普及。希望本指南能帮助您成功部署自己的大模型应用，探索AI技术的无限可能。
4.6K10编辑于 2025-08-01 - 来自专栏DeepHub IMBA
9月大型语言模型研究论文总结
大型语言模型(llm)在今年发展迅速，随着新一代模型不断地被开发，研究人员和工程师了解最新进展变得非常重要。本文总结9-10月期间发布了一些重要的LLM论文。 这些论文涵盖了一系列语言模型的主题，从模型优化和缩放到推理、基准测试和增强性能。最后部分讨论了有关安全训练并确保其行为保持有益的论文。 这些查询需要LLM生成调用外部api代码来回答用户的问题，但是LLM很少在第一次尝试时生成正确的代码，需要在执行结果上进行迭代的优化。这导致高查询量可能会很昂贵。 SmartPlay中的每个游戏都独特地挑战了智能LLM代理的9个重要功能的子集，包括对象依赖性推理，提前计划，空间推理，从历史中学习和理解随机性。 为了更系统地开发和优化LM管道，论文提出了DSPy，这是一个编程模型，它将LM管道抽象为文本转换图，即命令式计算图，其中通过声明性模块调用LM。
83221编辑于 2023-10-23 - 来自专栏猫头虎博客专区
开源大模型DeepSeek.ai火遍全球:9条让DeepSeek颠覆通用大模型的事实
DeepSeek.ai火遍全球的几个事实: DeepSeek 不是套壳不是蒸馏美国的大模型。 虽然中国有些大模型是套壳和蒸馏的, 但 DeepSeek 不是。 在训练阶段, Deepseek 用标注的 Long CoT 数据微调模型, 让模型生成更清晰的推理步骤, 在强化学习中用 CoT 设计奖励优化, 增强长链推理能力, 并且在此过程中观察到了模型的反思 ( 数据, 训练了 R1-Zero 模型, 探索了模型不依赖人类标注数据微调、自主推演的能力, 打开了新的思路。 比如轻量化设计把大钢板换成钢条 (类似通过稀疏的办法减少大模型的参数量); 涡轮增压利用废气能量增加空气供给, 提高燃烧效率; 精密制造, 使得发动机零部件的配合更加紧密, 从而减少能量损失; 等等。 基础大模型终将 commoditize (商品化), toB 领域看谁能将 LLM 更好和复杂的生产环节衔接好帮客户落地提高生产效率, toC 领域看谁有流量入口, 最终才会获取 AI 产业价值创造中最多的利润
1.3K10编辑于 2025-02-02 《龙虾大模型调用Token损耗的五层治理路径》
大模型业务落地的成本失控，往往不是来自可见的功能开发，而是藏在调用链路的隐性损耗里。 龙虾体系内的大模型调用场景，普遍存在超时重试的默认配置，多数团队只关注重试能否保障业务成功率，却忽略了一个核心计费规则：绝大多数大模型服务商按输入Token计费，请求一旦发出，无论最终是否成功返回结果， 不少团队直到季度复盘时才发现，大模型调用成本远超预算，排查后才知晓近三成消耗来自无效重试，而这类损耗本可以通过架构设计提前规避。 多数团队的重试策略沿用传统接口调用的惯性思路，采用固定次数加指数退避的通用配置，没有针对大模型的计费特性做差异化设计。 落地过程中还要同步沉淀标准化的调用规范，新业务接入大模型时直接遵循规范，从一开始就避免无效消耗，不用等成本失控了再回头治理。
13110编辑于 2026-06-22Java接入AI大模型：适配与稳定调用实践指南
然而，当Java企业尝试将AI大模型融入现有架构时，多模型统一适配与生产级稳定调用成为两大核心障碍。 一、Java接入AI大模型的核心挑战当前Java企业在AI大模型接入阶段，主要面临适配成本高与调用不稳定两大结构性问题，直接影响项目落地效率与系统安全性。 1.2 生产环境的调用稳定性问题大模型本身具有响应时延不确定、资源消耗高的特性，在生产高并发场景下易引发系统故障：• 资源耗尽风险：大模型调用耗时较长，若采用同步阻塞模式，易导致Tomcat连接池、线程池耗尽 二、Java接入AI大模型的技术架构设计解决上述问题的核心思路是构建解耦的统一接入层，通过标准化接口与工程化设计，实现多模型兼容与高可用调用。 2.2.2 稳定调用保障模块为应对大模型调用的不确定性，该模块需构建全链路容错机制：• 异步非阻塞调用：基于Java NIO或异步框架（如Spring WebFlux）设计调用逻辑，避免同步阻塞占用大量线程资源
49810编辑于 2026-03-13- 来自专栏DotNet NB && CloudNative
基于ChatGPT函数调用来实现C#本地函数逻辑链式调用助力大模型落地
通过这项能力模型在需要的时候可以调用函数并生成对应的 JSON 对象作为输出。 这使开发人员能更准确地从模型获取结构化数据，实现从自然语言到 API 调用或数据库查询的转换，也可以用于从文本中提取结构化数据。 ，无疑在稳定性(基于三方库的函数调用主要是依赖提示词实现，其稳定性和提示词质量高度相关)和易用性上都上了一大台阶。 今天我们就以一个具体的案例来讲一下什么是函数调用，基于函数调用我们可以实现哪些能力，从而将一个只能聊天的大语言模型落地到更加真实的业务场景中。 但是现在基于大语言模型和函数调用，以上这些功能只需要单个开发者用极短的时间即可实现。因为基于大语言模型本身的逻辑思维，它可以选择调用哪些函数来实现功能，而我们要做的仅仅是告诉它有哪些功能而已。
81440编辑于 2023-08-30 - 来自专栏代码简单说
StepFun API快速接入教程（Python+cURL调用大模型）
StepFun API快速接入教程（Python+cURL调用大模型） 关键词：StepFun API教程、阶跃星辰API调用、Step-3.5-flash使用、AI大模型接入、Python调用大模型、 curl调用AI接口 前言 最近在做AI项目选型时，我发现不少开发者只知道OpenAI接口，其实国内也有很多可直接接入的大模型平台。 这篇文章手把手带你从0到1接入 StepFun 大模型 API，包括： API Key申请 Python 调用 cURL 调用 stream流式返回解析 常见报错说明 看完即可直接在项目中落地。 CentOS sudo yum install curl CentOS 8+ sudo dnf install curl macOS brew install curl 四、发送第一个请求 接下来开始正式调用模型 85, "completion_tokens": 340, "total_tokens": 425 } } 重点字段 字段 作用 choices.message.content 模型回答
35110编辑于 2026-06-16 - 来自专栏苏三说技术
别再用HTTP调用大模型了，大厂都在用Spring AI？
前言 最近有位小伙伴问了我一个问题：“三哥，我们现在项目中要接入大模型，我看网上很多教程都是直接用RestTemplate调用OpenAI或者DeepSeek的API，代码也简单，为啥大家都在说Spring 先带大家感受一下，绝大多数Java开发者第一次接入大模型时都是怎么写的。 大模型API的响应结构经常会更新，每次更新都意味着全量回归测试。 第六，缺少可观测性。 没有埋点、没有日志、没有调用链追踪，线上出问题时根本没法定位。 1.2 尝试封装一下？ 在企业级应用中，一个最大的痛点是如何让大模型“调用”我们已有的业务代码——比如查库存、下单、查物流状态等。 / result.label -> "POSITIVE", result.score -> 0.95 3.5 Function Calling：企业应用的核心能力 Function Calling让大模型能够动态调用外部的业务
34610编辑于 2026-05-29 - 来自专栏大模型应用
大模型应用：本地大模型部署中的Token效率优化与性能分析.9
引言 在大模型应用日益普及的今天，对模型交互过程中Token消耗的深入理解和有效管理变得至关重要。 Token作为大模型处理文本的基本单位，不仅直接关系到模型的响应速度和质量，更影响着计算资源的消耗和使用成本。 随着模型规模的不断扩大和应用场景的多样化，如何在不牺牲对话质量的前提下优化Token使用效率，已成为提升大模型应用经济性和实用性的关键问题。 助理回复："我是通义千问，一个由开发的大语言模型。我致力于帮助用户解答问题、提供信息和执行各种任务。" ，确保系统在不同硬件环境下的可用性通过持续的技术迭代和优化，我们相信Token效率优化将在推动大语言模型普惠应用方面发挥越来越重要的作用。
82743编辑于 2026-02-06 - 来自专栏Python与算法之美
9，模型的评估
二，分类模型的评估 模型分类效果全部信息： confusion_matrix 混淆矩阵,误差矩阵。 ? 模型整体分类效果： accuracy 正确率。通用分类评估指标。 模型对某种类别的分类效果： precision 精确率，也叫查准率。模型不把正样本标错的能力。“不冤枉一个好人”。 recall 召回率，也叫查全率。模型识别出全部正样本的能力。 三，回归模型的评估 回归模型最常用的评估指标有： r2_score(r方，拟合优度，可决系数) explained_variance_score(解释方差得分) ? ? 留出法 为了解决过拟合问题，常见的方法将数据分为训练集和测试集，用训练集去训练模型的参数，用测试集去测试训练后模型的表现。 六，交叉验证综合评分 调用 cross_val_score 函数可以计算模型在各交叉验证数据集上的得分。 可以指定metrics中的打分函数，也可以指定交叉验证迭代器。 ? ?
1.1K31发布于 2020-07-17 - 来自专栏韩曙亮的移动开发专栏
【AI 大模型】函数调用 Function Calling ① ( 人机交互接口 与 应用程序编程接口 | 语言界面接口 | AI 大模型缺陷与补救措施 | 函数调用为大模型赋能 真逻辑 )
应用程序编程接口 发展问题 , 短时间内实现的可能性不大 ; 二、AI 大模型缺陷与补救措施 - 函数调用 Function Calling 引入 1、AI 大模型原理 GPT 大模型 ( Generative ; 根据现有提示词 , 后面生成每个词的概率中 , sat 的概率是 0.5 , 概率最大 , 则生成 sat 单词 ; 2、AI 大模型缺陷 AI 大模型有如下 缺陷 : 并非全知全能 : AI 大模型 Function Calling 实现 ; 函数调用 Function Calling 是 大模型 与 真实世界的实际业务 进行联系交互的纽带 , 使用 函数调用 可以将 大模型 与 实际业务 进行关联 , 肯定无法达到这个要求 ; 可读性 : 不能像神经元网络一样 , 数据输入进去 , 跟炼丹一样 , 得到一个结果 , 不知道具体的推理步骤和过程 ; GPT 大模型 并没有 逻辑推理能力 ; 5、函数调用 , 是 " 真逻辑 " , 可以 确定性的 解决各种具体的问题 ; 函数调用 Function Calling 就是 使用代码 实现的 " 真逻辑 " , 嵌入到 AI 大模型中 , 在 大模型 的
2K10编辑于 2024-07-14 国产大模型API选型实战：从踩坑到高效调用
国产大模型API选型实战：从踩坑到高效调用 今天这篇文章，主要是写给那些正在做AI应用开发、或者考虑把大模型集成到业务里的朋友们。 恨的是，API集成起来有太多隐藏的坑，比如Token计费规则不统一、模型网关配置复杂、调用稳定性时好时坏。 国产大模型API到底怎么选？ 很多国产大模型API，文档里写的是“按Token计费”，但实际调用时，你会发现系统提示词、用户输入、模型输出都会算Token，而且不同模型对Token的定义不一样。 第三个坑：忽略模型的版本更新。国产大模型更新频率很高，比如DeepSeek从V3到V4，性能提升了一大截，但API接口和计费规则可能也跟着变。如果你不关注版本更新，可能会突然发现调用失败或者成本骤增。 建议在代码里加上版本号校验，或者用模型聚合平台自动处理版本切换。 如何实现低成本、高性能的国产大模型调用？ 这个问题，我从操作层面给你们一个具体的步骤： 第一步，按场景选模型。
10510编辑于 2026-07-05手把手教你用【Go】语言调用DeepSeek大模型
标点符号，模型会把你输入的文字拆成这种小单元处理。 二、模型区别：选哪个？ 模型名称 适合场景 核心功能 一句话总结 deepseek-chat 日常对话、简单问答 支持生成 JSON、调用工具 聊天机器人，能帮你写简短文案、查信息 deepseek-reasoner 复杂推理 先看费用结构：花的钱 = 输入 token 数 × 单价 + 输出 token 数 × 单价 （输入：你发给模型的文字；输出：模型回复你的文字） 1. 借鉴资料： 1、DeepSeek API 文档 2、【GoLang】手把手教你用Go语言调用DeepSeek-R1大模型
83410编辑于 2025-10-22从零到一：使用pycharm搭建API接口调用大模型
从零到一：使用pycharm搭建API接口调用大模型【前言】随着人工智能技术的快速发展，大语言模型（LLM）已成为许多应用场景的核心技术。 本文将详细介绍如何使用PyCharm开发环境搭建API接口调用大模型的完整流程，包括两种主流调用方式、模型列表查看方法，以及一个完整的求职岗位查询实战案例。 【任务】1.掌握使用OpenAI库和requests库调用大模型API的方法。2.学会查看和展示可用的大模型列表。3.实现基于大模型的求职岗位查询系统。4.掌握API调用的错误处理和结果展示技巧。 By:不吃花椒的喵酱一.大模型调用大模型调用有两种方式，一种通过openai库进行调用，一种通过requests库进行调用。 我们在实际开发中，调用大模型API时，错误处理和结果展示是非常关键的两个环节。
2.5K21编辑于 2025-12-23- 来自专栏有文化的技术人
你还在为大模型调用费发愁吗？
❞ 一、先搞清楚钱花在哪了 大模型的计费逻辑其实很简单：「按 Token 数收费」，输入输出分开算。 但问题来了——很多场景下，你的输入其实在重复。 二、各家的缓存机制 目前主流大模型都支持某种形式的缓存。我把它们分成三类： 第一类：自动缓存（OpenAI、Gemini） 这类最省心，「你什么都不用做，系统自动帮你缓存」。 KV Cache：Transformer 的"记忆本" 要理解 Prompt 缓存，首先得知道大模型推理时有个东西叫 「KV Cache」。 七、写在最后 大模型的缓存机制，本质上是在帮你做一件事：「为重复的工作只付一次钱」。 它不是什么高深的技术优化，而是实实在在的成本控制手段。 对于月调用量上百万 Token 的应用来说，用好缓存省下的钱，可能比换一个便宜模型还多。
39410编辑于 2026-05-19 - 来自专栏程序员的知识天地
Python中9大时间序列预测模型
当有预测模型来预测未知变量时，在时间充当独立变量和目标因变量的情况下，时间序列预测就出现了。 预测值可以是潜在雇员的工资或银行账户持有人的信用评分。 模型的表示法涉及指定模型p的顺序作为AR函数的参数。 ）模型。 它结合了ARIMA模型，能够在季节性水平上执行相同的自回归、差分和移动平均建模。 SARIMAX方法还可用于使用外生变量对包含的模型进行建模，例如ARX，MAX，ARMAX和ARIMAX。
1.9K40发布于 2019-05-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号