- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI
AI 语音大模型的调用
AI 语音大模型（AILM）通常作为云服务 API 提供给开发者，这使得我们无需部署昂贵的硬件，就能在应用程序中集成高性能的语音功能。调用过程涵盖了身份认证、数据传输和参数配置等关键环节。1. 核心调用流程与模型选择调用 AILM API 的基本流程可以概括为：认证 → 数据输入 → 参数配置 → 接收输出。2. phrase_hints 或 context_boost: 提供专有名词、行业术语或人名列表，帮助模型提高对特定词汇的识别准确率。 3. AILM 集成与优化技巧A. 错误处理与重试机制由于网络波动，API 调用可能会失败。 通过遵循这些步骤和最佳实践，您可以高效且安全地将 AI 语音大模型的功能集成到您的应用程序中。
67210编辑于 2025-09-29 - 来自专栏go
go调用腾讯混元大模型
go-easy-llm 点击 github go-easy-llm 查看更多 一个满足你的调用多种大模型API的轮子，支持目前市面多家第三方大模型，包含ChatGPT、通义千问、文心大模型、混元、盘古、 百川智能等； 一套写法兼容所有平台，简单配置即可灵活使用第三方大模型API。 简单几步即可使用第三方大模型API 混元大模型调用 创建密钥 点击我 进行密钥创建 通过这一步，你就会拿到腾讯的 secretId、secretKey，主要用于鉴权使用 引入go-easy-llm go Chat 模式大模型 一次性回复 NormalChat resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest Message: "介绍一下你自己", }) for content := range resp { fmt.Println(content) } 通过以上简单几步，你就可以轻松的调用腾讯混元大模型了
47410编辑于 2024-09-02 - 来自专栏韩曙亮的移动开发专栏
【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型 在线 离线 使用 )
首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ; 然后 , 运行 ollama run llama3 命令 , 即可开始使用 Llama3 大模型 ; 一 、Meta Llama 3 大模型安装 1、Llama 3 大模型简介 Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ; Llama 3 大模型 Llama3 大模型 ; 下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ; 这个模型很大 , 有 4.7 G 安装完成后的效果 for help) 二、Meta Llama 3 大模型使用 1、Llama 3 大模型在线使用 在命令行中 , 可以直接进行对话 , 下面是对话内容 : D:\Llama>ollama run llama3 for help) 2、Llama 3 大模型离线使用 Llama 3 大模型 联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ; Llama 3 大模型 在 断网后也可以使用 , 下面是断开网络后
1.9K12编辑于 2024-08-09 - 来自专栏开源项目搭建
简单3步部署本地国产大模型DeepSeek大模型
简单3步部署本地国产大模型DeepSeek大模型DeepSeek是最近非常火的开源大模型，国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性，受到了众多开发者的关注。 本文将介绍如何通过简单 3 步在本地部署 DeepSeek 大模型，让你能够轻松体验这一强大的 AI 工具。 deepseek-r1的哪个版本的大模型？ 它支持各种LLM，包括Llama 3、Mistral和Gemma。提供了类似OpenAI的API接口和聊天界面,可以非常方便地部署最新版本的GPT模型并通过接口使用。 理论上就安装完成了，可以只在命令行中使用大模型了。修改路径文件保存路径可以不用改，如果C盘空间不够用，建议修改。
6.8K33编辑于 2025-02-06 - 来自专栏软件测试学习
怎么通过API调用AI大模型获取响应结果
要通过api在代码里面去调用大模型，需要先申请大模型的api key,以deepseek官网为例，apikey的申请地址：https://platform.deepseek.com/api_keys 目前 ，deepseek通过apikey调用是要收费的，注册后需要充值使用，也可以用其他第三方平台的apikey调用的方式进行接入，代码都是差不多的，改一下相关的配置就行。 代码案例的话，deepseek官网就有提供最简单的案例： https://api-docs.deepseek.com/zh-cn/ 调用上面的代码，需要安装依赖： pip install openai 通过上面2篇文章，一个是可以将大模型切换为其他第三方平台的api进行调用，有的平台注册会赠送一定的体验额度，可以临时用于代码调试啥的，另一篇文章的话，是可以将代码里面的apikey以及对应的api地址等信息放到配置文件里面 模型列表可以参考：https://huggingface.co/deepseek-ai/models https://modelscope.cn/models
5.1K10编辑于 2025-06-23 - 来自专栏人工智能应用
大模型本地部署与应用调用的技术指南
本地部署大模型是指将预训练好的语言模型下载到本地设备（个人电脑、服务器或边缘设备）上，并通过特定的推理框架进行加载和调用的过程。 本文将帮助您克服这些挑战，实现大模型的高效本地部署。 目前主流的开源大模型包括： 1. 智谱AI的GLM系列 GLM-4：最新一代开源大模型 许可证：允许非商业使用 优势：中文理解能力强，指令遵循度高 模型下载与准备 模型获取途径 Hugging Face：最主要的模型分发平台 随着开源模型质量的提升和部署技术的成熟，本地LLM应用将变得越来越普及。希望本指南能帮助您成功部署自己的大模型应用，探索AI技术的无限可能。
4.6K10编辑于 2025-08-01 - 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在这个例子中，我们随机选择了两个连续的词片段[x3]和[x5, x6]作为样本。 b) 替换和洗牌：在Part A中，我们将被选择的词片段替换为[M]（表示遮盖）。 在这个例子中，我们将[x3]和[x5, x6]洗牌为[x5, x6]和[x3]。 c) 自回归生成：GLM使用自回归的方式生成Part B。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
88520编辑于 2023-08-28 - 来自专栏openclaw系列
OpenClaw怎么换大模型？3步免费切换各种大模型配置教程
一句话总结：OpenClaw 本身不内置任何大模型，而是通过灵活的配置机制对接各类模型服务。更换模型只需三步：选择目标模型获取 API Key、在配置文件中添加模型提供商、重启网关生效。 第一章：核心原理——OpenClaw 如何对接大模型？1.1 为什么需要更换模型？OpenClaw 的核心价值在于“连接”——连接大模型的思考能力与电脑的真实操作权限。 2.1 腾讯元宝模型配置（推荐中文场景）腾讯元宝基于混元大模型，提供强大的中文理解和多模态能力，2026 年推出免费额度方案，大幅降低使用门槛。 发送测试消息，如“你现在调用的模型是什么”，如果 AI 能正常响应并说明模型信息，说明配置成功。也可通过 openclaw models current 命令查看当前使用的模型。 Q3：本地模型响应太慢怎么办？
24.6K54编辑于 2026-03-28 - 来自专栏大模型成长之路
【大模型学习 | DeepSeek-V3原理】
另外，V3 模型是通过将预测多token作为训练目标。本文主要是对DeepSeek-V3的模型框架以及训练目标进行讨论。 什么是负载平衡？ 2️⃣ DeepSeekMoE 在Transformer架构中的FFN层，V3模型采用了MoE进行替换，使用更细粒度的专家，并将一些专家隔离为共享专家。 接着通过$\gamma$控制专家的负载：如果专家 i 被调用得太频繁: b\_i = b\_i-\gamma step4 对专家的门控系数进行归一化； step5 计算MoE专家FFN输出 ✅ Yes ✅ 无偏置 目前的模型权重已开源： https://huggingface.co/deepseek-ai/DeepSeek-V3-Base 者由于设备限制无法对 V3模型进行体验。
1.6K21编辑于 2025-07-25 - 来自专栏AI工程落地
大语言模型--Llama3新特性
更大的词表使得模型涵盖的语言更多、更加通用 Attention层--MultiHeadAttention算子 Llama3 8B和70B都使用了分组查询注意力机制(GQA)，4个Query共享一对Key 减少了计算量，同时保持了模型的性能。 值是500000.0（Llama2用的是默认值10000.0） 上下文窗口中的最大Tokens从 4096增加到 8192 数据类型 Llama2开源的参数是float16格式的，但Llama3开源的参数都是 依赖软件包 transformers包升级到4.40.0以上 模型版本 2024年4月21号 初版 Llama3 8B的HellaSwag分数：acc 0.6039、acc_norm 0.776 2024年5月14号 第二版 Llama3 8B的HellaSwag分数：acc_norm 0.822
39710编辑于 2024-05-29 Java接入AI大模型：适配与稳定调用实践指南
然而，当Java企业尝试将AI大模型融入现有架构时，多模型统一适配与生产级稳定调用成为两大核心障碍。 一、Java接入AI大模型的核心挑战当前Java企业在AI大模型接入阶段，主要面临适配成本高与调用不稳定两大结构性问题，直接影响项目落地效率与系统安全性。 1.2 生产环境的调用稳定性问题大模型本身具有响应时延不确定、资源消耗高的特性，在生产高并发场景下易引发系统故障：• 资源耗尽风险：大模型调用耗时较长，若采用同步阻塞模式，易导致Tomcat连接池、线程池耗尽 统一接入层：核心处理层，负责模型适配、流量控制、容错处理与监控统计，是实现多模型兼容与稳定调用的关键。3. 大模型集群层：包含公有云模型、私有化部署模型、本地微调模型等，通过接入层实现统一调度与管理。 2.2.2 稳定调用保障模块为应对大模型调用的不确定性，该模块需构建全链路容错机制：• 异步非阻塞调用：基于Java NIO或异步框架（如Spring WebFlux）设计调用逻辑，避免同步阻塞占用大量线程资源
49810编辑于 2026-03-13《龙虾大模型调用Token损耗的五层治理路径》
大模型业务落地的成本失控，往往不是来自可见的功能开发，而是藏在调用链路的隐性损耗里。 龙虾体系内的大模型调用场景，普遍存在超时重试的默认配置，多数团队只关注重试能否保障业务成功率，却忽略了一个核心计费规则：绝大多数大模型服务商按输入Token计费，请求一旦发出，无论最终是否成功返回结果， 不少团队直到季度复盘时才发现，大模型调用成本远超预算，排查后才知晓近三成消耗来自无效重试，而这类损耗本可以通过架构设计提前规避。 多数团队的重试策略沿用传统接口调用的惯性思路，采用固定次数加指数退避的通用配置，没有针对大模型的计费特性做差异化设计。 落地过程中还要同步沉淀标准化的调用规范，新业务接入大模型时直接遵循规范，从一开始就避免无效消耗，不用等成本失控了再回头治理。
13110编辑于 2026-06-22- 来自专栏DotNet NB && CloudNative
基于ChatGPT函数调用来实现C#本地函数逻辑链式调用助力大模型落地
通过这项能力模型在需要的时候可以调用函数并生成对应的 JSON 对象作为输出。 这使开发人员能更准确地从模型获取结构化数据，实现从自然语言到 API 调用或数据库查询的转换，也可以用于从文本中提取结构化数据。 ，无疑在稳定性(基于三方库的函数调用主要是依赖提示词实现，其稳定性和提示词质量高度相关)和易用性上都上了一大台阶。 今天我们就以一个具体的案例来讲一下什么是函数调用，基于函数调用我们可以实现哪些能力，从而将一个只能聊天的大语言模型落地到更加真实的业务场景中。 但是现在基于大语言模型和函数调用，以上这些功能只需要单个开发者用极短的时间即可实现。因为基于大语言模型本身的逻辑思维，它可以选择调用哪些函数来实现功能，而我们要做的仅仅是告诉它有哪些功能而已。
81440编辑于 2023-08-30 - 来自专栏代码简单说
StepFun API快速接入教程（Python+cURL调用大模型）
StepFun API快速接入教程（Python+cURL调用大模型） 关键词：StepFun API教程、阶跃星辰API调用、Step-3.5-flash使用、AI大模型接入、Python调用大模型、 curl调用AI接口 前言 最近在做AI项目选型时，我发现不少开发者只知道OpenAI接口，其实国内也有很多可直接接入的大模型平台。 这篇文章手把手带你从0到1接入 StepFun 大模型 API，包括： API Key申请 Python 调用 cURL 调用 stream流式返回解析 常见报错说明 看完即可直接在项目中落地。 CentOS sudo yum install curl CentOS 8+ sudo dnf install curl macOS brew install curl 四、发送第一个请求 接下来开始正式调用模型 finish_reason 停止原因 2、stream 流式返回 流式返回采用 SSE格式： data: {...chunk1} data: {...chunk2} data: {...chunk3}
35110编辑于 2026-06-16 3SemanticKernel使用非ChatGPT大模型
SK 目前提供了多个AI 提供商的Connector，但仅OpenAI 和Azure OpenAI 两种Connector（连接器）属于正式可用状态，国内开发者而言并不能访问国外大模型，因此如何使用国内大模型 好在，SK 在设计时也考虑了这个问题，接下来就来以智谱AI大模型为例来解密答案。 使用代理，诸如OneApi 自行实现 Connectors 注册智谱大模型 北京智谱华章科技有限公司（简称“智谱AI”）致力于打造新一代认知智能大模型，专注于做大模型的中国创新。 打造了AIGC模型及产品矩阵，包括通用大模型、超拟人大模型、图像大模型、向量大模型等，并且支持使用您的私有数据对模型进行微调。 (https://github.com/songquanpeng/one-api) 借助OneApi，开发者可以忽略模型间的API 差异，通过统一的OpenAI的格式，实现对各大模型的透明调用。
9510编辑于 2026-06-17- 来自专栏苏三说技术
别再用HTTP调用大模型了，大厂都在用Spring AI？
前言 最近有位小伙伴问了我一个问题：“三哥，我们现在项目中要接入大模型，我看网上很多教程都是直接用RestTemplate调用OpenAI或者DeepSeek的API，代码也简单，为啥大家都在说Spring 先带大家感受一下，绝大多数Java开发者第一次接入大模型时都是怎么写的。 大模型API的响应结构经常会更新，每次更新都意味着全量回归测试。 第六，缺少可观测性。 没有埋点、没有日志、没有调用链追踪，线上出问题时根本没法定位。 1.2 尝试封装一下？ Spring AI内置对OpenAI、Azure OpenAI、Anthropic Claude、阿里通义千问、Ollama（支持Llama 3等本地模型）等主流模型的支持。需要增加新模型？ 在企业级应用中，一个最大的痛点是如何让大模型“调用”我们已有的业务代码——比如查库存、下单、查物流状态等。
34610编辑于 2026-05-29 手把手教你用【Go】语言调用DeepSeek大模型
2、然后获取api-key 3、替换apiKey const ( apiURL = "https://api.deepseek.com/v1/chat/completions" apiKey req.Header.Set("Authorization", "Bearer "+apiKey) req.Header.Set("Content-Type", "application/json") // 3. 大概是 3-4 个 tokens。 上下文长度： 就是你和模型对话时，能 “记住” 的历史内容长度。比如 64K 相当于能记住 约 4 万字的对话记录（中文）。 模型名称 适合场景 核心功能 一句话总结 deepseek-chat 日常对话、简单问答 支持生成 JSON、调用工具 聊天机器人，能帮你写简短文案、查信息 deepseek-reasoner 复杂推理 借鉴资料： 1、DeepSeek API 文档 2、【GoLang】手把手教你用Go语言调用DeepSeek-R1大模型
83410编辑于 2025-10-22- 来自专栏有文化的技术人
你还在为大模型调用费发愁吗？
❞ 一、先搞清楚钱花在哪了 大模型的计费逻辑其实很简单：「按 Token 数收费」，输入输出分开算。 但问题来了——很多场景下，你的输入其实在重复。 二、各家的缓存机制 目前主流大模型都支持某种形式的缓存。我把它们分成三类： 第一类：自动缓存（OpenAI、Gemini） 这类最省心，「你什么都不用做，系统自动帮你缓存」。 KV Cache：Transformer 的"记忆本" 要理解 Prompt 缓存，首先得知道大模型推理时有个东西叫 「KV Cache」。 七、写在最后 大模型的缓存机制，本质上是在帮你做一件事：「为重复的工作只付一次钱」。 它不是什么高深的技术优化，而是实实在在的成本控制手段。 对于月调用量上百万 Token 的应用来说，用好缓存省下的钱，可能比换一个便宜模型还多。
39410编辑于 2026-05-19 从零到一：使用pycharm搭建API接口调用大模型
从零到一：使用pycharm搭建API接口调用大模型【前言】随着人工智能技术的快速发展，大语言模型（LLM）已成为许多应用场景的核心技术。 本文将详细介绍如何使用PyCharm开发环境搭建API接口调用大模型的完整流程，包括两种主流调用方式、模型列表查看方法，以及一个完整的求职岗位查询实战案例。 【任务】1.掌握使用OpenAI库和requests库调用大模型API的方法。2.学会查看和展示可用的大模型列表。3.实现基于大模型的求职岗位查询系统。4.掌握API调用的错误处理和结果展示技巧。 By:不吃花椒的喵酱一.大模型调用大模型调用有两种方式，一种通过openai库进行调用，一种通过requests库进行调用。 我们在实际开发中，调用大模型API时，错误处理和结果展示是非常关键的两个环节。
2.5K21编辑于 2025-12-23- 来自专栏韩曙亮的移动开发专栏
【AI 大模型】函数调用 Function Calling ① ( 人机交互接口 与 应用程序编程接口 | 语言界面接口 | AI 大模型缺陷与补救措施 | 函数调用为大模型赋能 真逻辑 )
应用程序编程接口 发展问题 , 短时间内实现的可能性不大 ; 二、AI 大模型缺陷与补救措施 - 函数调用 Function Calling 引入 1、AI 大模型原理 GPT 大模型 ( Generative 函数调用 Function Calling 引入 AI 大模型有 上述 三种缺陷 , 因此 需要 有一种机制 , 使得 AI 大模型 需要 与 外部进行交互 , 为 AI 大模型 对接 各种接口 ; 特定领域的知识或消息 Function Calling 实现 ; 函数调用 Function Calling 是 大模型 与 真实世界的实际业务 进行联系交互的纽带 , 使用 函数调用 可以将 大模型 与 实际业务 进行关联 , 肯定无法达到这个要求 ; 可读性 : 不能像神经元网络一样 , 数据输入进去 , 跟炼丹一样 , 得到一个结果 , 不知道具体的推理步骤和过程 ; GPT 大模型 并没有 逻辑推理能力 ; 5、函数调用 , 是 " 真逻辑 " , 可以 确定性的 解决各种具体的问题 ; 函数调用 Function Calling 就是 使用代码 实现的 " 真逻辑 " , 嵌入到 AI 大模型中 , 在 大模型 的
2K10编辑于 2024-07-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号