- 综合排序
- 最热优先
- 最新优先
- 来自专栏iPaaS和系统集成
什么是AI网关？AI网关如何为企业私有化部署筑防
什么是AI网关？AI 网关是面向大模型服务的专业化流量治理组件，作为企业AI基础设施与应用的统一连接端点，其核心功能是实现企业大模型服务的安全管控、性能优化与统一管理。 相较于传统API网关，重点解决AI场景下的三大核心问题：异构模型集成复杂性：通过统一管理DeepSeek、GPT、文心一言等多源模型API，标准化接口规范，有效降低企业AI集成的复杂性，并且可实现AI模型的无缝切换 数据安全合规风险：通过AI网关上多种鉴权、认证、脱敏等策略，可有效防止敏感数据泄漏、API滥用及跨境传输风险。并且通过其详细日志记录及追踪，可有效对数据泄漏进行溯源。 服务稳定性挑战：基于AI网关的负载均衡、多模型动态调度等技术，能够保证大模型在高并发场景下的流量调度与故障容错，提升系统稳定性。 ，降低泄露风险基础设施团队提升海外模型调用稳定性，日均50TB流量抖动控制在±2ms内AI网关通过“安全-效率-成本”三重平衡，已成为企业构建安全、高效AI基础设施的关键组件，尤其在DeepSeek等国产模型私有化部署中
1.1K10编辑于 2025-07-04 AI 网关不是「API 网关加插件」：从架构分层看能力评估
信通院近期把AI网关单独列项做能力评估，划出七大能力板块。这件事在架构层面的意义，比「多了一个评估标准」要大得多——它正式承认AI网关是一个新的基础设施品类，而不是传统API网关的补丁。 数据面和控制面都要重做传统API网关的架构假设是「请求-响应」：一次请求进、一次响应出，鉴权、限流、计费都挂在这条边界上。大模型流量打破了这个假设。 这两件事叠加，意味着AI网关的数据面要面向流式传输重写，控制面要面向智能体协议重写。可观测性决定成本能否治理七大板块里，容易被低估的是可观测性。 传统网关的指标是QPS、延迟、错误率，回答「服务通不通」。AI网关的可观测性要回答的是「Token花在哪、谁花的」——这是成本归因问题，不是运维问题。 网关层需要把断路器那套思路搬过来：展开代码语言：TXTAI代码解释主模型超时/限流→熔断，路由到降级模型降级模型也不可用→返回缓存或友好错误关键是降级策略要按「任务类型」而不是按「请求路径」配置：写代码的调用可以降级到轻量模型
4810编辑于 2026-08-13- 来自专栏史上最简单的Spring Cloud教程
Openresty最佳案例 | 第9篇：Openresty实现的网关权限控制
简介 采用openresty 开发出的api网关有很多，比如比较流行的kong、orange等。这些API 网关通过提供插件的形式，提供了非常多的功能。
3.5K81发布于 2017-12-29 用 Tailscale Aperture 打造专属安全 AI 网关
⚠️ 合规提示：本文所介绍的 Aperture by Tailscale 属于个人或企业内部的私有 AI 流量鉴权与安全审计网关。 请读者严格遵守国家互联网信息安全管理规定，合规使用 AI 技术。 为了解决这个问题，Tailscale 在 2026 年推出了颠覆性的自研 AI 安全网关 —— Aperture by Tailscale。 简单来说，Aperture 是一个运行在你的虚拟局域网（Tailnet）内部的 “身份敏感型 AI 反向代理服务器”。 graph TD Client1[Cursor 客户端/小明] -->|Tailscale 安全内网连接| Aperture[Aperture AI 网关] Client2[Cline
20910编辑于 2026-07-06- 来自专栏Se7en的架构笔记
使用 Higress AI 网关代理 vLLM 推理服务
Higress 作为一款云原生 API 网关，可以完美地扮演大模型服务前置的 AI 网关角色。 /cr7258/hands-on-lab/blob/main/gateway/higress/ai-proxy/on-premises/ai-route.yaml 通过 Higress AI 网关访问 data: {"id":"chatcmpl-05d06508-81c9-49ed-8969-1065a9e02417","object":"chat.completion.chunk","created Fallback 模型切换 Higress AI 网关支持 Fallback 模型切换，当请求的模型服务不可用时，可以自动切换到备用模型服务。 网关 实现服务代理、流量调度、可观测性和 Fallback 等关键能力。
1.9K21编辑于 2025-06-12 - 来自专栏ADAS性能优化
AI Weekly | Nov. 9, 2019
Researchers tout AI that can predict 25 video frames into the future In a preprint paper, researchers propose an AI model that can predict up to 25 video frames into the future given only two to five starting Applause targets AI bias by sourcing training data at scale Software-testing company Applause wants to reinvent AI testing with a service that detects AI bias by crowdsourcing larger training data sets. Remember that scary AI text-generator that was too dangerous to release?
33310编辑于 2022-05-13 - 来自专栏白话互联
【Ai Agent】Ai Agent News | 9月11日速递
今天是9月11日星期四，让我们一起来看看今天 Ai Agent 带来的 AI 领域的重要动态吧！ ❤ Indeed Unveils AI Agents for Job Seekers and Recruiters 求职招聘领域迎来AI助手新时代 Indeed推出了两款AI Agents，分别面向求职者和招聘方 ❤ Secure AI Agents at Runtime with Docker Docker推出AI Agent运行时安全解决方案 Docker发布了关于如何在运行时保护AI Agent的新方法， 随着AI工具的强大和普及，它们也变得不可预测且易受攻击。从LLM输出中的幻觉到提示注入，AI工作流面临多重安全威胁。 AI Agent时嵌入运行时安全，为AI原生开发提供更可靠的安全保障。
44110编辑于 2025-09-17 AI网关（AI Gateway）详解，远比你想象的要复杂
那今天就跟大家详细介绍下AI网关，相信远比你想象中的要复杂... AI网关概述 为什么需要AI网关？ 因为随着企业内部AI服务数量爆炸增长，AI调用管理正成为新的技术瓶颈。 AI Gateway，本质上可以理解成是由一个传统API网关的变种（API网关功能之上叠加了AI的场景） + LLM网关，这两部分组成。 AI网关之API网关 相比于传统的API网关，AI时代下的API网关核心在于，除了要管理路由和基于Restful或gRPC协议的API外，我们还要处理以Token为核心的流量，并且大多采用流式输出方式。 关于AI网关的API网关部分就说这么多，接下来我们进入到下一部分，来看看AI网关下的LLM网关。 AI网关之LLM网关 LM网关，顾名思义，是建立在LLM基础上的一层网关，用于连接应用层与模型层。 ---- AI网关现在已经成为现代AI应用中至关重要的一部分，并且随着AI技术的持续发展，在未来，AI网关也将会有越来越多的功能模块集成进去。 （正文完）
54510编辑于 2026-06-17Flask AI 网关：向下三种AI供给，向上七种AI能力
于是逐步抽象，自己设计了一个 Flask AI 网关——向下屏蔽三种供给差异，向上暴露统一能力接口。 网关的定位 直接在前端调百炼 API，两天就能跑通。 向上：暴露的多种 AI 能力 网关往下屏蔽了三种供给差异，往上面向业务场景暴露统一的能力接口。前端不调模型，调的是"能力"。 问答（Chat / RAG-QA）。最基础的能力。 AI Coding 在网关建设中的作用 网关从零到一的过程中，AI Coding 扮演的不是"替代决策"的角色，而是"决策之后的加速器"。 适配器代码生成。 全链路测试的用例覆盖由 AI 批量生成，人工只挑关键路径验证。 文档与 Onboarding。网关写好后，AI 自动生成 OpenAPI spec、各能力的调用示例、适配器扩展指南。 网关建设中的决策占比 30%、编码占比 70%，AI Coding 把 70% 压缩到原来 30% 的时间，但它碰不了那 30% 的决策。
14710编辑于 2026-06-25- 来自专栏月色的自留地
从锅炉工到AI专家(9)
Epoch 8 Step 1207755: lr = 0.015 words/sec = 401 Eval 4965/17827 accuracy = 27.9% Epoch 9
89160发布于 2018-06-20 - 来自专栏圣杰的专栏
.NET+AI | Agent | 人机协作（9）
通过 ApprovalRequiredAIFunction 为敏感工具加上人工审批环节，快速构建符合企业合规要求的 MAF 人机协作智能体。
38610编辑于 2025-12-28 - 来自专栏智慧物联产品＆方案
基于AI边缘智能网关的工业质检应用
针对产品质检需求，可以借助AI边缘智能网关的视频识别算法，实现更高效、更精准、更智能的产品质检，适应长期发展需求。 基于AI边缘智能网关的工业质检应用佰马AI边缘智能网关，针对工业生产领域的视觉识别分析应用研发，具备高性能、低功耗、环境适应性强等特点。 拥有高达 17.6 TOPS 峰值算力，支持 38 路高清视频硬件解码，和 16 路 1080P高清视频实时全流程处理分析，通过搭配多样化深度学习算法，灵活应对智能制造场景，实现边缘侧的 AI 赋能。 基于AI智能边缘网关，搭配工业摄像机实现AI视觉成品质检，能快速识别分析工业成品外观，实现对裂纹、划伤、脏污、缺损、变形、毛刺、异色等问题的分辨、记录和上报，提升质检效率，大幅降低质检过杀率与漏检率，且准确率不会随着时间降低 AI视觉质检主要依靠AI网关的边缘算力，本地数据识别处理不仅快速高效，而且无需额外通信带宽上传视频数据，节省云端算力。3、广泛适用性。
3.7K30编辑于 2022-12-30 - 来自专栏深度学习与python
vivo AI计算平台 Kubernetes集群Ingress网关实践
、运维经验，并逐步打造出稳定的基础容器平台 - AI 容器平台（VContainer）。 为了支撑公司 AI 在线业务的发展，满足公司对算力资源的高效调度管控需求，需要将在线业务，主要包括 C 端、推理等业务，由原来的虚拟机或物理机迁移至 AI 容器平台。 于是小组从 2020 年初开始，基于在线业务的需求对 AI 容器平台进行进一步建设，并将平台与公司的 CMDB、CICD 等基础模块进行打通，使在线业务能够顺利从虚拟机、物理机迁移至 AI 容器平台。 总结展望 vivo AI 计算平台 kubernetes 集群 ingress 网关目前承担了人工智能 AI 业务的大部分流量，随着业务不断容器化部署，ingress 网关需要在功能丰富性、性能、稳定性方面进一步提升 展望后续工作，我们计划在以下方面着手，进一步完善 ingress 网关。
1K20发布于 2020-12-18 - 来自专栏全栈程序员必看
Zuul网关集群_zuul网关
1，Zuul网关集群原理  2.4，网关配置暂时再放到项目中，不放在分布式中心配置上（一般都是放在分布式中心上） 2.5，启动 Eureka注册中心，网关服务（端口分别为 82,82的两台），会员服务，启动 nginx服务 2.6，测试网关集群,(当通过域名调用会员服务时，请求轮询依次到 81 | 82 端口的网关服务上) 发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/170631.html原文链接：https://javaforall.cn
3.3K20编辑于 2022-09-22 - 来自专栏EdgeOne边缘安全加速平台
腾讯云 EdgeOne：Open Edge AI 网关功能介绍
● 目前已开放 AI 网关给开发者申请免费试用，AI 网关可实现对大语言模型（LLM ）的访问进行管控，已支持 Open AI、Minimax、Moonshot AI 、Gemini AI 、腾讯混元、 二、 AI 网关介绍 1. 功能简介 腾讯云 EdgeOne AI 网关实现了对大语言模型（ LLM）服务商访问的安全性、可见性和请求行为控制管理。 配置 AI 网关 AI 网关新建成功后，在 AI 网关列表页，单击详情或具体的 AI 网关实例 ID 进入到网关的详情页，当前支持配置缓存 ● 启用/禁用：打开开关，则启用缓存，针对相同的 Prompt 操作场景：AI 网关禁用缓存，通过 AI 网关访问 Open AI AI 网关启用缓存，再次访问 响应头 OE-Cache-Status 返回为 HIT 则说明已命中缓存。 通过 AI 网关访问其他 LLM 服务商同理可参考上述操作。 五、常见 FAQ 1. AI 网关是否收费？ AI 网关当前为免费能力，您可放心使用。 2. 如何快速创建并配置 AI 网关？
8.3K60编辑于 2024-06-19 - 来自专栏腾讯云中间件的专栏
腾讯云原生智能网关 - AI 网关能力全解：一套网关，统一管住模型、工具和智能体
这些问题的共同答案，是一套面向生产环境的 AI 治理基础设施，腾讯云原生智能网关 - AI 网关（以下简称 AI 网关），正是为此而生。 二、AI 网关：三类核心能力 AI 网关面向企业 AI 场景，融合 大模型网关、MCP 网关、Agent 网关 三类能力，把模型、工具、智能体统一纳入同一套治理体系中。 大模型网关：统一纳管多模型，提升调度与治理能力 AI 网关支持统一纳管主流模型服务与企业自建推理服务，帮助客户以统一标准完成接入、鉴权、路由和计量。 三、能力全景 以下为 AI 网关已落地的核心能力模块： 点击视频查看 「AI 网关接入演示」 后续将持续增强 MCP 网关、智能路由、治理与可观测、企业级运维等方向能力，进一步支撑更复杂业务场景和更高要求的生产环境 四、结语 企业 AI 的竞争，最终会落到治理能力上。AI 网关希望帮助更多企业把模型、工具和智能体真正接起来、稳定跑起来、持续管起来——从"能接入"走向"可运营、可治理、可规模化"。
84010编辑于 2026-05-07 - 来自专栏腾讯专有云
腾讯云原生智能网关 - AI 网关能力全解：一套网关，统一管住模型、工具和智能体
腾讯专有云 TCS 即将推出的云原生智能网关 - AI 网关（以下简称 AI 网关），正是为此而生。 AI 网关：三类核心能力 AI 网关面向企业 AI 场景，融合大模型网关、MCP 网关、Agent 网关三类能力，把模型、工具、智能体统一纳入同一套治理体系中。 大模型网关：统一纳管多模型，提升调度与治理能力 AI 网关支持统一纳管主流模型服务与企业自建推理服务，帮助客户以统一标准完成接入、鉴权、路由和计量。 如下图所示，大模型网关提供安全防护、智能路由、可观测、智能运维、成本管理等多维度管理体系： 图1：大模型网关支持智能路由、限流熔断、配额缓存等全方位管理体系 MCP 网关：把存量系统能力，变成 AI 可调用能力 能力全景 以下为 AI 网关已落地的核心能力模块： 点击视频查看「AI 网关接入演示」 后续将持续增强 MCP 网关、智能路由、治理与可观测、企业级运维等方向能力，进一步支撑更复杂业务场景和更高要求的生产环境
31400编辑于 2026-07-10 使用VPC端点安全连接AI代理网关技术解析
解决方案遵循以下工作流程：AI代理交互 - VPC内运行的代理从身份提供者获取所需的入站授权，通过网关进行身份验证，并通过接口VPC端点向网关发送工具使用请求（调用MCP工具）网关处理 - 网关管理OAuth 此架构通过实施与互联网隔离的网络，通过专用私有网络路径提供增强的安全性，为企业AI部署带来全面优势。该解决方案通过VPC端点策略实施了强大的数据边界，创建了围绕AI资源的严格数据边界的细粒度访问控制。 此外，该架构支持本地环境的私有连接到网关端点，支持跨越云和本地基础设施的分布式AI架构。 对于大规模部署自主AI系统的组织，实施VPC接口端点创建了高效代理操作所需的安全网络基础，同时通过优化的网络路径提供降低的延迟。 这种企业级方法有助于使AI代理应用程序在满足安全性和合规性要求的同时实现改进的性能和减少的响应时间。
44810编辑于 2025-10-20- 来自专栏智慧物联产品＆方案
AI网关结合智慧路灯杆可以开发什么应用
AI网关可以与智慧路灯杆相结合，进一步提升智慧杆的自主感知与设备本地管理能力，并开发多种智慧、高效、便捷的应用功能。 AI智能网关的功能指标1、实现视觉AI与IoT的深度融合，拥有强大边缘算力，支持对视频的编解码；2、支持HDMI输出口，提供高清视频画面输出；3、具备多路千兆WAN口和LAN口，满足高速物联数据采集、传输和分发 AI网关结合智慧路灯杆应用1、智慧杆智能监控：基于AI网关的视觉图像分析处理技术，可以识别出视频中的人脸、人体、车辆、烟火、物体、行为等，并对照预设策略实现自主抓拍、比对、智能预警、自主响应等服务，实现视频安防网络的无人化 2、智慧杆智能联动告警：AI网关可统一接入并管理杆载设备，并实现多设备的协同工作。 3、智慧杆离线自治：搭载AI智能网关的智慧杆系统，可实现离线自主管控，使用杆载AI网关计算资源执行本地数据处理、分析、分发，即使离线状态也保持正常功能运行。
1.5K20编辑于 2022-12-26 - 来自专栏全栈程序员必看
Kong网关初探_API网关
API网关功能，也要能够替代原先Nginx。 Kong网关只负责路由匹配、调用者认证、路由鉴权等网关责任，而服务注册发现的逻辑全部交由Kubernetes处理，使Kong网关完全脱离upstream的逻辑处理。 集成注册中心 Kong网关提供了API接口，可以通过这些开放的API接口来管理Kong内部的各个对象，例如上线/下线节点target，详见官方文档admin-api/add-target。 通过上述方案从而实现一个注册中心同时管理微服务之间的服务发现和网关到服务的服务发现。 例如对某服务的a、b两节点发版时具体逻辑如下： 请求Kong网关API摘除该服务的a节点 等待a节点无流量请求后发布重启a节点的新版本 最后再请求Kong网关API重新添加a节点 接着同样的逻辑操作b节点
5.1K10编辑于 2022-09-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号