- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
AI 语音大模型的调用
AI 语音大模型（AILM）通常作为云服务 API 提供给开发者，这使得我们无需部署昂贵的硬件，就能在应用程序中集成高性能的语音功能。调用过程涵盖了身份认证、数据传输和参数配置等关键环节。1. 核心调用流程与模型选择调用 AILM API 的基本流程可以概括为：认证 → 数据输入 → 参数配置 → 接收输出。2. 2.2 实时语音转文本（ASR）的调用ASR 服务通常提供流式 API 和批处理 API 两种调用方式。流式调用（Streaming ASR）： 适用于实时语音输入（如语音聊天、实时字幕）。 phrase_hints 或 context_boost: 提供专有名词、行业术语或人名列表，帮助模型提高对特定词汇的识别准确率。 通过遵循这些步骤和最佳实践，您可以高效且安全地将 AI 语音大模型的功能集成到您的应用程序中。
67210编辑于 2025-09-29 - 来自专栏go
go调用腾讯混元大模型
go-easy-llm 点击 github go-easy-llm 查看更多 一个满足你的调用多种大模型API的轮子，支持目前市面多家第三方大模型，包含ChatGPT、通义千问、文心大模型、混元、盘古、 百川智能等； 一套写法兼容所有平台，简单配置即可灵活使用第三方大模型API。 简单几步即可使用第三方大模型API 混元大模型调用 创建密钥 点击我 进行密钥创建 通过这一步，你就会拿到腾讯的 secretId、secretKey，主要用于鉴权使用 引入go-easy-llm go Chat 模式大模型 一次性回复 NormalChat resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest Message: "介绍一下你自己", }) for content := range resp { fmt.Println(content) } 通过以上简单几步，你就可以轻松的调用腾讯混元大模型了
47410编辑于 2024-09-02 - 来自专栏软件测试学习
怎么通过API调用AI大模型获取响应结果
要通过api在代码里面去调用大模型，需要先申请大模型的api key,以deepseek官网为例，apikey的申请地址：https://platform.deepseek.com/api_keys 目前 ，deepseek通过apikey调用是要收费的，注册后需要充值使用，也可以用其他第三方平台的apikey调用的方式进行接入，代码都是差不多的，改一下相关的配置就行。 代码案例的话，deepseek官网就有提供最简单的案例： https://api-docs.deepseek.com/zh-cn/ 调用上面的代码，需要安装依赖： pip install openai 通过上面2篇文章，一个是可以将大模型切换为其他第三方平台的api进行调用，有的平台注册会赠送一定的体验额度，可以临时用于代码调试啥的，另一篇文章的话，是可以将代码里面的apikey以及对应的api地址等信息放到配置文件里面 模型列表可以参考：https://huggingface.co/deepseek-ai/models https://modelscope.cn/models
5.1K10编辑于 2025-06-23 - 来自专栏人工智能应用
大模型本地部署与应用调用的技术指南
本地部署大模型是指将预训练好的语言模型下载到本地设备（个人电脑、服务器或边缘设备）上，并通过特定的推理框架进行加载和调用的过程。 本文将帮助您克服这些挑战，实现大模型的高效本地部署。 目前主流的开源大模型包括： 1. 智谱AI的GLM系列 GLM-4：最新一代开源大模型 许可证：允许非商业使用 优势：中文理解能力强，指令遵循度高 模型下载与准备 模型获取途径 Hugging Face：最主要的模型分发平台 随着开源模型质量的提升和部署技术的成熟，本地LLM应用将变得越来越普及。希望本指南能帮助您成功部署自己的大模型应用，探索AI技术的无限可能。
4.6K10编辑于 2025-08-01 《龙虾大模型调用Token损耗的五层治理路径》
大模型业务落地的成本失控，往往不是来自可见的功能开发，而是藏在调用链路的隐性损耗里。 龙虾体系内的大模型调用场景，普遍存在超时重试的默认配置，多数团队只关注重试能否保障业务成功率，却忽略了一个核心计费规则：绝大多数大模型服务商按输入Token计费，请求一旦发出，无论最终是否成功返回结果， 不少团队直到季度复盘时才发现，大模型调用成本远超预算，排查后才知晓近三成消耗来自无效重试，而这类损耗本可以通过架构设计提前规避。 多数团队的重试策略沿用传统接口调用的惯性思路，采用固定次数加指数退避的通用配置，没有针对大模型的计费特性做差异化设计。 落地过程中还要同步沉淀标准化的调用规范，新业务接入大模型时直接遵循规范，从一开始就避免无效消耗，不用等成本失控了再回头治理。
13010编辑于 2026-06-22Java接入AI大模型：适配与稳定调用实践指南
然而，当Java企业尝试将AI大模型融入现有架构时，多模型统一适配与生产级稳定调用成为两大核心障碍。 一、Java接入AI大模型的核心挑战当前Java企业在AI大模型接入阶段，主要面临适配成本高与调用不稳定两大结构性问题，直接影响项目落地效率与系统安全性。 1.2 生产环境的调用稳定性问题大模型本身具有响应时延不确定、资源消耗高的特性，在生产高并发场景下易引发系统故障：• 资源耗尽风险：大模型调用耗时较长，若采用同步阻塞模式，易导致Tomcat连接池、线程池耗尽 二、Java接入AI大模型的技术架构设计解决上述问题的核心思路是构建解耦的统一接入层，通过标准化接口与工程化设计，实现多模型兼容与高可用调用。 2.2.2 稳定调用保障模块为应对大模型调用的不确定性，该模块需构建全链路容错机制：• 异步非阻塞调用：基于Java NIO或异步框架（如Spring WebFlux）设计调用逻辑，避免同步阻塞占用大量线程资源
49810编辑于 2026-03-13- 来自专栏DotNet NB && CloudNative
基于ChatGPT函数调用来实现C#本地函数逻辑链式调用助力大模型落地
通过这项能力模型在需要的时候可以调用函数并生成对应的 JSON 对象作为输出。 这使开发人员能更准确地从模型获取结构化数据，实现从自然语言到 API 调用或数据库查询的转换，也可以用于从文本中提取结构化数据。 ，无疑在稳定性(基于三方库的函数调用主要是依赖提示词实现，其稳定性和提示词质量高度相关)和易用性上都上了一大台阶。 今天我们就以一个具体的案例来讲一下什么是函数调用，基于函数调用我们可以实现哪些能力，从而将一个只能聊天的大语言模型落地到更加真实的业务场景中。 但是现在基于大语言模型和函数调用，以上这些功能只需要单个开发者用极短的时间即可实现。因为基于大语言模型本身的逻辑思维，它可以选择调用哪些函数来实现功能，而我们要做的仅仅是告诉它有哪些功能而已。
81440编辑于 2023-08-30 - 来自专栏代码简单说
StepFun API快速接入教程（Python+cURL调用大模型）
StepFun API快速接入教程（Python+cURL调用大模型） 关键词：StepFun API教程、阶跃星辰API调用、Step-3.5-flash使用、AI大模型接入、Python调用大模型、 curl调用AI接口 前言 最近在做AI项目选型时，我发现不少开发者只知道OpenAI接口，其实国内也有很多可直接接入的大模型平台。 这篇文章手把手带你从0到1接入 StepFun 大模型 API，包括： API Key申请 Python 调用 cURL 调用 stream流式返回解析 常见报错说明 看完即可直接在项目中落地。 CentOS sudo yum install curl CentOS 8+ sudo dnf install curl macOS brew install curl 四、发送第一个请求 接下来开始正式调用模型 85, "completion_tokens": 340, "total_tokens": 425 } } 重点字段 字段 作用 choices.message.content 模型回答
35110编辑于 2026-06-16 - 来自专栏苏三说技术
别再用HTTP调用大模型了，大厂都在用Spring AI？
前言 最近有位小伙伴问了我一个问题：“三哥，我们现在项目中要接入大模型，我看网上很多教程都是直接用RestTemplate调用OpenAI或者DeepSeek的API，代码也简单，为啥大家都在说Spring 先带大家感受一下，绝大多数Java开发者第一次接入大模型时都是怎么写的。 大模型API的响应结构经常会更新，每次更新都意味着全量回归测试。 第六，缺少可观测性。 没有埋点、没有日志、没有调用链追踪，线上出问题时根本没法定位。 1.2 尝试封装一下？ 在企业级应用中，一个最大的痛点是如何让大模型“调用”我们已有的业务代码——比如查库存、下单、查物流状态等。 / result.label -> "POSITIVE", result.score -> 0.95 3.5 Function Calling：企业应用的核心能力 Function Calling让大模型能够动态调用外部的业务
34610编辑于 2026-05-29 - 来自专栏韩曙亮的移动开发专栏
【AI 大模型】函数调用 Function Calling ① ( 人机交互接口 与 应用程序编程接口 | 语言界面接口 | AI 大模型缺陷与补救措施 | 函数调用为大模型赋能 真逻辑 )
应用程序编程接口 发展问题 , 短时间内实现的可能性不大 ; 二、AI 大模型缺陷与补救措施 - 函数调用 Function Calling 引入 1、AI 大模型原理 GPT 大模型 ( Generative ; 根据现有提示词 , 后面生成每个词的概率中 , sat 的概率是 0.5 , 概率最大 , 则生成 sat 单词 ; 2、AI 大模型缺陷 AI 大模型有如下 缺陷 : 并非全知全能 : AI 大模型 Function Calling 实现 ; 函数调用 Function Calling 是 大模型 与 真实世界的实际业务 进行联系交互的纽带 , 使用 函数调用 可以将 大模型 与 实际业务 进行关联 , 肯定无法达到这个要求 ; 可读性 : 不能像神经元网络一样 , 数据输入进去 , 跟炼丹一样 , 得到一个结果 , 不知道具体的推理步骤和过程 ; GPT 大模型 并没有 逻辑推理能力 ; 5、函数调用 , 是 " 真逻辑 " , 可以 确定性的 解决各种具体的问题 ; 函数调用 Function Calling 就是 使用代码 实现的 " 真逻辑 " , 嵌入到 AI 大模型中 , 在 大模型 的
2K10编辑于 2024-07-14 国产大模型API选型实战：从踩坑到高效调用
国产大模型API选型实战：从踩坑到高效调用 今天这篇文章，主要是写给那些正在做AI应用开发、或者考虑把大模型集成到业务里的朋友们。 恨的是，API集成起来有太多隐藏的坑，比如Token计费规则不统一、模型网关配置复杂、调用稳定性时好时坏。 国产大模型API到底怎么选？ 很多国产大模型API，文档里写的是“按Token计费”，但实际调用时，你会发现系统提示词、用户输入、模型输出都会算Token，而且不同模型对Token的定义不一样。 第三个坑：忽略模型的版本更新。国产大模型更新频率很高，比如DeepSeek从V3到V4，性能提升了一大截，但API接口和计费规则可能也跟着变。如果你不关注版本更新，可能会突然发现调用失败或者成本骤增。 建议在代码里加上版本号校验，或者用模型聚合平台自动处理版本切换。 如何实现低成本、高性能的国产大模型调用？ 这个问题，我从操作层面给你们一个具体的步骤： 第一步，按场景选模型。
9910编辑于 2026-07-05手把手教你用【Go】语言调用DeepSeek大模型
标点符号，模型会把你输入的文字拆成这种小单元处理。 二、模型区别：选哪个？ 模型名称 适合场景 核心功能 一句话总结 deepseek-chat 日常对话、简单问答 支持生成 JSON、调用工具 聊天机器人，能帮你写简短文案、查信息 deepseek-reasoner 复杂推理 先看费用结构：花的钱 = 输入 token 数 × 单价 + 输出 token 数 × 单价 （输入：你发给模型的文字；输出：模型回复你的文字） 1. 借鉴资料： 1、DeepSeek API 文档 2、【GoLang】手把手教你用Go语言调用DeepSeek-R1大模型
83310编辑于 2025-10-22从零到一：使用pycharm搭建API接口调用大模型
从零到一：使用pycharm搭建API接口调用大模型【前言】随着人工智能技术的快速发展，大语言模型（LLM）已成为许多应用场景的核心技术。 本文将详细介绍如何使用PyCharm开发环境搭建API接口调用大模型的完整流程，包括两种主流调用方式、模型列表查看方法，以及一个完整的求职岗位查询实战案例。 【任务】1.掌握使用OpenAI库和requests库调用大模型API的方法。2.学会查看和展示可用的大模型列表。3.实现基于大模型的求职岗位查询系统。4.掌握API调用的错误处理和结果展示技巧。 By:不吃花椒的喵酱一.大模型调用大模型调用有两种方式，一种通过openai库进行调用，一种通过requests库进行调用。 我们在实际开发中，调用大模型API时，错误处理和结果展示是非常关键的两个环节。
2.5K21编辑于 2025-12-23- 来自专栏有文化的技术人
你还在为大模型调用费发愁吗？
❞ 一、先搞清楚钱花在哪了 大模型的计费逻辑其实很简单：「按 Token 数收费」，输入输出分开算。 但问题来了——很多场景下，你的输入其实在重复。 二、各家的缓存机制 目前主流大模型都支持某种形式的缓存。我把它们分成三类： 第一类：自动缓存（OpenAI、Gemini） 这类最省心，「你什么都不用做，系统自动帮你缓存」。 KV Cache：Transformer 的"记忆本" 要理解 Prompt 缓存，首先得知道大模型推理时有个东西叫 「KV Cache」。 七、写在最后 大模型的缓存机制，本质上是在帮你做一件事：「为重复的工作只付一次钱」。 它不是什么高深的技术优化，而是实实在在的成本控制手段。 对于月调用量上百万 Token 的应用来说，用好缓存省下的钱，可能比换一个便宜模型还多。
39410编辑于 2026-05-19 评测腾讯混元大模型，python调用混元生文接口
想丰富腾讯混元python sdk 调用混元大模型的实例。下面介绍python实现混元生文接口ChatCompletions实例。 975098478c96","Usage":{"PromptTokens":40,"CompletionTokens":1,"TotalTokens":41}}好的例子二：hunyuan-functioncall模型如何用流式方式调用接口 例子三：hunyuan-functioncall模型多轮对话如何调用接口，调用工具import jsonimport osfrom tencentcloud.common import credentialfrom 示例三多轮问答中调用查询天气工具时，混元大模型回答的有问题。 工具查询的天气情况是：北京今天的天气情况如下：温度：35℃风向：西南风天气状况：暴雨深圳今天的天气情况如下：温度：20℃风向：西北风天气状况：晴大模型回答的结果是：北京今天的天气情况如下：温度：35℃风向
1.8K20编辑于 2024-09-13大模型 API 接入工程实践：基于 Python SDK 的标准调用教程
在生成式AI应用的开发中，通过统一的API网关接入大模型（LLM）是业界的标准工程实践。这种架构能够将应用层与底层的模型供应商解耦，便于统一管理鉴权、网络路由以及并发并发配额。 针对兼容OpenAISDK的调用，通常需要在根域名后追加`/v1`。 不同的分组对应后端的不同算力池或模型渠道。必须确保你选择的分组包含了你即将调用的目标模型，否则将导致404或无权限错误。-**ModelID（模型标识）**：指定你要调用的具体模型名称。 在终端中执行以下命令安装：Bash展开代码语言：TXTAI代码解释pipinstallopenai三、代码实现：标准流式调用(Streaming)在LLM应用中，由于模型推理耗时较长，通常采用SSE（Server-SentEvents 在调用前，需查阅网关的API技术文档，确认其是否开放了原生协议端点。
32110编辑于 2026-05-29- 来自专栏创作是最好的自我投资
通用大模型VS垂直大模型
在人工智能这个充满无限可能的领域内，通用大模型和垂直大模型各有千秋。就我个人而言，在二者之间的选择上，并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求，来挑选最为契合的大模型。 通用大模型通用大模型，乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面，通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时，选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而，由于垂直大模型的训练内容聚焦于当前行业，其涉猎的范围更集中，数据针对性更强，所以在提供专业咨询时往往更加精准、细致，这也正是垂直大模型的独特价值所在。 因此，对于通用大模型或者垂直大模型，更倾向于哪一方不取决于个人想法，而是取决于用户需要。
87501编辑于 2024-12-30 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.7K30编辑于 2023-10-10 精细化Prompt工程：低成本缩减大模型API调用Token开销
大模型API调用费用以Token消耗量为核心计费单位，输入提示词、输出回复、上下文对话记忆均会产生Token损耗。 一、Token消耗核心逻辑与无效损耗来源大模型API调用Token分为输入Token与输出Token两类，计费权重一致。 二、基础提示词精简：剔除无效Token损耗基础精简是成本优化的第一步，无需专业Prompt能力，仅通过标准化文本整改，即可实现20%以上的Token降幅，适配所有大模型API调用场景。 星宇智算GPU云主机针对大模型推理、API服务部署做专属优化，服务器算力调度稳定性达99.6%，可有效降低网络波动、算力过载导致的调用重试问题，减少无效重复调用产生的额外Token消耗。 依托标准化Prompt模板与稳定算力部署，能够长期控制大模型调用成本，提升AI业务商业化落地的性价比与稳定性。
28310编辑于 2026-05-27- 来自专栏掘金安东尼
国内大模型真实格局：用户规模 vs API调用量（v2026.3.6）
有些模型 用户很多，但开发者调用不多；有些模型 用户不算多，但API调用量极高。 因此，本篇评估大模型生态通常需要两个维度： 用户规模（DAU） ：反映 C 端产品影响力 API调用量 / Token量：反映开发者生态与算力规模 下面把 国内主流大模型按两个维度统一整理。 文心一言、腾讯元宝 第二梯队（技术向） 数百万 DeepSeek、智谱、讯飞 第三梯队 百万级 Kimi、MiniMax 二、国内大模型API调用规模 这个指标代表 开发者生态与算力规模，数据来自 国内大模型 API 调用规模（2026.3） 模型 公司 日调用次数 日Token量 梯队 技术定位 主要应用 MiniMax M2.5 MiniMax 30亿+ 7.3万亿+ 第一梯队 多模态 / Agent 三、 国内大模型真实格局 真正能反映行业格局的是 两个维度叠加。
20510编辑于 2026-06-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号