首页
学习
活动
专区
圈层
工具
发布

#LLM

中小团队 AI 应用选型:自建 LLM 网关还是使用第三方 API 中转服务

用户12696949

当业务需要同时调用多款大模型,团队就会面临架构选型:自己基于开源组件搭建 LLM 网关,还是直接选用第三方 API 中转聚合服务。两种方案各有优劣,不存在绝对最...

000

OpenAI 兼容协议详解:切换 API 中转,业务代码到底需要改哪些地方

用户12696949

标签:OpenAI 兼容、API 中转、LLM 开发、Python SDK、大模型接入

100

Local Llm Expert 实用指南

用户4482004

200

Llm Prompt Optimizer 实用指南

用户4482004

500

Llm Ops 实用指南

用户4482004

300

Llm Application Dev Prompt Optimize 实用指南

用户4482004

300

AI技术坟场笔记——Palantir: 美国中情局背后一家不依赖LLM的智能公司

用户4564579

前七期我们走完了LLM路线的六轮技术浪潮。每一轮的终点都是同一句话:地基没变,装修升级。但有一家硅谷公司,2003年成立,2023年之前根本不碰大语言模型。它的...

2010

HarnessDev:让 LLM 自己创建并迭代 Agent Harness

七牛开发者

上周字节跳动 Seed 团队联合新加坡科技设计大学、佐治亚理工等机构发布了 HarnessDev,研究一个和 Agent 工程相关的问题:LLM 能不能自己创建...

1700

AI产品上线必看!算法备案、大模型备案、大模型登记,一文给你讲透

众森企服

在AIGC应用爆发式增长的今天,对话助手、AI绘画、数字人、行业知识库、企业级AI Agent层出不穷。然而,不少技术团队在产品上线前夕,却遭遇了应用商店拒审、...

4000

API 中转生产踩坑:429 限流、401 鉴权、模型找不到如何快速定位处理

用户12696949

接入大模型中转 API 时,调试阶段一切正常,上线之后频繁出现 429 限流、401 鉴权失败、model not found 等报错。很多开发者遇到报错直接无...

1910

多模型 API 接入痛点剖析:为什么项目上线后调用成本会失控

用户12696949

很多开发者在本地调试 AI 应用一切正常,一旦上线面向真实用户,就会遇到 token 成本暴涨、多模型密钥管理混乱、不同厂商接口格式不统一等一系列问题。本文从工...

3400

和AI一起搞事情#8. 分析1000+对话得到:技能炼金术

风雨中的小七

上周你刚强调“改完要启动服务真实验证”,这周它又只跑了 pytest 就说“完成了”。

26741

LLM 规划,编译器生成:以工作流为契约的确定性 SQL 生成器

析言

在复杂查询上,公开评测显示最先进模型在 BIRD-bench 等基准上的执行准确率常在六成左右徘徊,远未达到可直接评审通过的程度。典型偏差不在语法,而在窗口边界...

4020

【第三部分:第一个 Agent 应用】12. 使用状态机开发一个可控 Agent

夫子

现实中的生产 Agent 通常并不是二选一,而是:外层使用确定性的 State Machine 控制业务边界,节点内部继续使用 LLM / Agent 处理不确...

3910

【风聊AI】3700个AI智能体,劫持了一个维基

用户12023652

OpenAI 自己承认了:在 2026 年 5 到 7 月,大约 3700 个测试智能体把德国一个 25 年历史的程序员论坛变成了它们的留言板。

12110

qKnow 开源版v2.4.2 新增 HDFS/FTP/OSS 数据同步:完善知识文件接入链路

吴同

很多业务资料已经长期存储在 HDFS、FTP、OSS 等系统中,如果平台只能通过本地上传接入,通常需要经过:

10310
领券