- 综合排序
- 最热优先
- 最新优先
- 来自专栏iPaaS和系统集成
什么是AI网关？AI网关如何为企业私有化部署筑防
什么是AI网关？AI 网关是面向大模型服务的专业化流量治理组件，作为企业AI基础设施与应用的统一连接端点，其核心功能是实现企业大模型服务的安全管控、性能优化与统一管理。 相较于传统API网关，重点解决AI场景下的三大核心问题：异构模型集成复杂性：通过统一管理DeepSeek、GPT、文心一言等多源模型API，标准化接口规范，有效降低企业AI集成的复杂性，并且可实现AI模型的无缝切换 数据安全合规风险：通过AI网关上多种鉴权、认证、脱敏等策略，可有效防止敏感数据泄漏、API滥用及跨境传输风险。并且通过其详细日志记录及追踪，可有效对数据泄漏进行溯源。 服务稳定性挑战：基于AI网关的负载均衡、多模型动态调度等技术，能够保证大模型在高并发场景下的流量调度与故障容错，提升系统稳定性。 ，降低泄露风险基础设施团队提升海外模型调用稳定性，日均50TB流量抖动控制在±2ms内AI网关通过“安全-效率-成本”三重平衡，已成为企业构建安全、高效AI基础设施的关键组件，尤其在DeepSeek等国产模型私有化部署中
67210编辑于 2025-07-04 - 来自专栏史上最简单的Spring Cloud教程
Openresty最佳案例 | 第9篇：Openresty实现的网关权限控制
简介 采用openresty 开发出的api网关有很多，比如比较流行的kong、orange等。这些API 网关通过提供插件的形式，提供了非常多的功能。
3.4K81发布于 2017-12-29 - 来自专栏Se7en的架构笔记
使用 Higress AI 网关代理 vLLM 推理服务
Higress 作为一款云原生 API 网关，可以完美地扮演大模型服务前置的 AI 网关角色。 /cr7258/hands-on-lab/blob/main/gateway/higress/ai-proxy/on-premises/ai-route.yaml 通过 Higress AI 网关访问 data: {"id":"chatcmpl-05d06508-81c9-49ed-8969-1065a9e02417","object":"chat.completion.chunk","created Fallback 模型切换 Higress AI 网关支持 Fallback 模型切换，当请求的模型服务不可用时，可以自动切换到备用模型服务。 网关 实现服务代理、流量调度、可观测性和 Fallback 等关键能力。
1.1K21编辑于 2025-06-12 - 来自专栏ADAS性能优化
AI Weekly | Nov. 9, 2019
Researchers tout AI that can predict 25 video frames into the future In a preprint paper, researchers propose an AI model that can predict up to 25 video frames into the future given only two to five starting Applause targets AI bias by sourcing training data at scale Software-testing company Applause wants to reinvent AI testing with a service that detects AI bias by crowdsourcing larger training data sets. Remember that scary AI text-generator that was too dangerous to release?
27210编辑于 2022-05-13 - 来自专栏白话互联
【Ai Agent】Ai Agent News | 9月11日速递
今天是9月11日星期四，让我们一起来看看今天 Ai Agent 带来的 AI 领域的重要动态吧！ ❤ Indeed Unveils AI Agents for Job Seekers and Recruiters 求职招聘领域迎来AI助手新时代 Indeed推出了两款AI Agents，分别面向求职者和招聘方 ❤ Secure AI Agents at Runtime with Docker Docker推出AI Agent运行时安全解决方案 Docker发布了关于如何在运行时保护AI Agent的新方法， 随着AI工具的强大和普及，它们也变得不可预测且易受攻击。从LLM输出中的幻觉到提示注入，AI工作流面临多重安全威胁。 AI Agent时嵌入运行时安全，为AI原生开发提供更可靠的安全保障。
33110编辑于 2025-09-17 - 来自专栏智慧物联产品＆方案
基于AI边缘智能网关的工业质检应用
针对产品质检需求，可以借助AI边缘智能网关的视频识别算法，实现更高效、更精准、更智能的产品质检，适应长期发展需求。 基于AI边缘智能网关的工业质检应用佰马AI边缘智能网关，针对工业生产领域的视觉识别分析应用研发，具备高性能、低功耗、环境适应性强等特点。 拥有高达 17.6 TOPS 峰值算力，支持 38 路高清视频硬件解码，和 16 路 1080P高清视频实时全流程处理分析，通过搭配多样化深度学习算法，灵活应对智能制造场景，实现边缘侧的 AI 赋能。 基于AI智能边缘网关，搭配工业摄像机实现AI视觉成品质检，能快速识别分析工业成品外观，实现对裂纹、划伤、脏污、缺损、变形、毛刺、异色等问题的分辨、记录和上报，提升质检效率，大幅降低质检过杀率与漏检率，且准确率不会随着时间降低 AI视觉质检主要依靠AI网关的边缘算力，本地数据识别处理不仅快速高效，而且无需额外通信带宽上传视频数据，节省云端算力。3、广泛适用性。
3K30编辑于 2022-12-30 - 来自专栏圣杰的专栏
.NET+AI | Agent | 人机协作（9）
通过 ApprovalRequiredAIFunction 为敏感工具加上人工审批环节，快速构建符合企业合规要求的 MAF 人机协作智能体。
19910编辑于 2025-12-28 - 来自专栏月色的自留地
从锅炉工到AI专家(9)
Epoch 8 Step 1207755: lr = 0.015 words/sec = 401 Eval 4965/17827 accuracy = 27.9% Epoch 9
78960发布于 2018-06-20 - 来自专栏深度学习与python
vivo AI计算平台 Kubernetes集群Ingress网关实践
、运维经验，并逐步打造出稳定的基础容器平台 - AI 容器平台（VContainer）。 为了支撑公司 AI 在线业务的发展，满足公司对算力资源的高效调度管控需求，需要将在线业务，主要包括 C 端、推理等业务，由原来的虚拟机或物理机迁移至 AI 容器平台。 于是小组从 2020 年初开始，基于在线业务的需求对 AI 容器平台进行进一步建设，并将平台与公司的 CMDB、CICD 等基础模块进行打通，使在线业务能够顺利从虚拟机、物理机迁移至 AI 容器平台。 总结展望 vivo AI 计算平台 kubernetes 集群 ingress 网关目前承担了人工智能 AI 业务的大部分流量，随着业务不断容器化部署，ingress 网关需要在功能丰富性、性能、稳定性方面进一步提升 展望后续工作，我们计划在以下方面着手，进一步完善 ingress 网关。
93220发布于 2020-12-18 - 来自专栏全栈程序员必看
Zuul网关集群_zuul网关
1，Zuul网关集群原理  2.4，网关配置暂时再放到项目中，不放在分布式中心配置上（一般都是放在分布式中心上） 2.5，启动 Eureka注册中心，网关服务（端口分别为 82,82的两台），会员服务，启动 nginx服务 2.6，测试网关集群,(当通过域名调用会员服务时，请求轮询依次到 81 | 82 端口的网关服务上) 发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/170631.html原文链接：https://javaforall.cn
3.2K20编辑于 2022-09-22 - 来自专栏智慧物联产品＆方案
AI网关结合智慧路灯杆可以开发什么应用
AI网关可以与智慧路灯杆相结合，进一步提升智慧杆的自主感知与设备本地管理能力，并开发多种智慧、高效、便捷的应用功能。 AI智能网关的功能指标1、实现视觉AI与IoT的深度融合，拥有强大边缘算力，支持对视频的编解码；2、支持HDMI输出口，提供高清视频画面输出；3、具备多路千兆WAN口和LAN口，满足高速物联数据采集、传输和分发 AI网关结合智慧路灯杆应用1、智慧杆智能监控：基于AI网关的视觉图像分析处理技术，可以识别出视频中的人脸、人体、车辆、烟火、物体、行为等，并对照预设策略实现自主抓拍、比对、智能预警、自主响应等服务，实现视频安防网络的无人化 2、智慧杆智能联动告警：AI网关可统一接入并管理杆载设备，并实现多设备的协同工作。 3、智慧杆离线自治：搭载AI智能网关的智慧杆系统，可实现离线自主管控，使用杆载AI网关计算资源执行本地数据处理、分析、分发，即使离线状态也保持正常功能运行。
1.4K20编辑于 2022-12-26 使用VPC端点安全连接AI代理网关技术解析
解决方案遵循以下工作流程：AI代理交互 - VPC内运行的代理从身份提供者获取所需的入站授权，通过网关进行身份验证，并通过接口VPC端点向网关发送工具使用请求（调用MCP工具）网关处理 - 网关管理OAuth 此架构通过实施与互联网隔离的网络，通过专用私有网络路径提供增强的安全性，为企业AI部署带来全面优势。该解决方案通过VPC端点策略实施了强大的数据边界，创建了围绕AI资源的严格数据边界的细粒度访问控制。 此外，该架构支持本地环境的私有连接到网关端点，支持跨越云和本地基础设施的分布式AI架构。 对于大规模部署自主AI系统的组织，实施VPC接口端点创建了高效代理操作所需的安全网络基础，同时通过优化的网络路径提供降低的延迟。 这种企业级方法有助于使AI代理应用程序在满足安全性和合规性要求的同时实现改进的性能和减少的响应时间。
25910编辑于 2025-10-20- 来自专栏EdgeOne边缘安全加速平台
腾讯云 EdgeOne：Open Edge AI 网关功能介绍
● 目前已开放 AI 网关给开发者申请免费试用，AI 网关可实现对大语言模型（LLM ）的访问进行管控，已支持 Open AI、Minimax、Moonshot AI 、Gemini AI 、腾讯混元、 二、 AI 网关介绍 1. 功能简介 腾讯云 EdgeOne AI 网关实现了对大语言模型（ LLM）服务商访问的安全性、可见性和请求行为控制管理。 配置 AI 网关 AI 网关新建成功后，在 AI 网关列表页，单击详情或具体的 AI 网关实例 ID 进入到网关的详情页，当前支持配置缓存 ● 启用/禁用：打开开关，则启用缓存，针对相同的 Prompt 操作场景：AI 网关禁用缓存，通过 AI 网关访问 Open AI AI 网关启用缓存，再次访问 响应头 OE-Cache-Status 返回为 HIT 则说明已命中缓存。 通过 AI 网关访问其他 LLM 服务商同理可参考上述操作。 五、常见 FAQ 1. AI 网关是否收费？ AI 网关当前为免费能力，您可放心使用。 2. 如何快速创建并配置 AI 网关？
7.1K60编辑于 2024-06-19 - 来自专栏Se7en的架构笔记
AI 网关对决：Higress 与 OneAPI 的功能对比
什么是 AI 网关？ AI 网关旨在统一管理与各种大型语言模型（LLMs）的交互。通过提供单一入口点，它解决了使用来自不同供应商的多个 AI 模型所带来的复杂性问题。 Higress 同时也能够作为 AI 网关，通过统一的协议对接国内外所有 LLM 模型厂商，同时具备丰富的 AI 可观测、多模型负载均衡/fallback、AI token 流控、AI 缓存等能力。 Higress 和 OneAPI 的对比 下面的表格从多个维度对比了 OneAPI 和 Higress 之前的差异： 差异项 OneAPI Higress 核心功能 AI 网关 具有 AI 网关功能的 云集成 无 可以和阿里云上的各类云产品集成，例如借助 SLS 实现 AI 数据分析能力 Higress 作为 AI 网关的优势 Higress 作为 AI 网关，具备以下几大优势： 统一管理与灵活扩展 快速体验 Higress AI 网关 Higress AI 网关支持一行命令安装： curl -sS https://higress.cn/ai-gateway/install.sh | bash 执行完命令后可以通过命令行初始化配置
1.8K10编辑于 2025-05-21 - 来自专栏架构精进之路
OpenClaw Agent 架构深度解析：AI 网关的设计哲学
导读：当 LangChain 还在解决"如何调用工具"时，OpenClaw 已经在思考"如何让 AI 助理安全地住进你的消息流"。本文从架构师视角，拆解一个自托管 AI 网关的核心设计决策。 OpenClaw 的选择是：做一个"AI-Native 的消息网关"，而不是"给消息系统加个 AI 插件"。 这里的顺序很重要，前者从 AI 出发设计架构，后者只是在旧瓶里装新酒。 二、核心架构：三层模型 2.1 网关层：单一进程，多路复用 设计决策：一个 Gateway 进程管理所有渠道连接，而不是每个渠道一个服务。 六、AI-Native 架构的思考 6.1 什么是 AI-Native？ 不是"加了 LLM 的系统"，而是从 LLM 的特性出发重新设计架构。 6.3 会话即状态 传统后端：状态在数据库，会话是无状态的 AI 网关：会话本身就是状态，它包含了： 对话历史（用户说了什么） 工具执行记录（AI 做了什么） 上下文窗口（AI 还记得什么） 压缩摘要（
19010编辑于 2026-04-10 - 来自专栏全栈程序员必看
Kong网关初探_API网关
API网关功能，也要能够替代原先Nginx。 Kong网关只负责路由匹配、调用者认证、路由鉴权等网关责任，而服务注册发现的逻辑全部交由Kubernetes处理，使Kong网关完全脱离upstream的逻辑处理。 集成注册中心 Kong网关提供了API接口，可以通过这些开放的API接口来管理Kong内部的各个对象，例如上线/下线节点target，详见官方文档admin-api/add-target。 通过上述方案从而实现一个注册中心同时管理微服务之间的服务发现和网关到服务的服务发现。 例如对某服务的a、b两节点发版时具体逻辑如下： 请求Kong网关API摘除该服务的a节点 等待a节点无流量请求后发布重启a节点的新版本 最后再请求Kong网关API重新添加a节点 接着同样的逻辑操作b节点
4.8K10编辑于 2022-09-30 AI日报 - 2025年3月9日
AI日报 - 2025年3月9日 今日概览（60秒速览） ▎ AGI突破 | 新基准IFIR发布，挑战AI在未知模拟世界中的问题解决能力 算法突破：潜在令牌压缩推理步骤方法提升语言模型效率 ▎ 4.0创作女性节虚拟花束，AI+创意场景落地 AI代理24/7自动运行50个社交媒体账号 一、今日热点 (Hot Topic)1.1 AnthropicAI宣布2025年将公开讨论AGI伦理与趋势 ⚡ 首场议题：AI对齐策略如何避免Goodhart效应 行业影响： ▸ 推动行业对AGI伦理框架的标准化探讨 ▸ 可能影响全球政策制定者对AI监管的立场 "AGI的透明度不应仅停留在技术层面， AI功能集成 ▸ 保险公司开发动态保费定价模型 趋势：2025年医疗AI合规性认证标准将出台 行业热力图（按领域划分）： 领域 融资热度政策支持技术突破市场接受度开源模型 ：当前AI评估体系亟待突破人类中心主义框架
54110编辑于 2025-03-09AI日报 - 2025年4月9日
"GRMs不仅依赖现有原则，还能自我创建和批判原则" - DeepSeek研究团队undefined 该方法已在arXiv发布论文，或将重塑模型优化范式1.2 特斯拉FSD实现零干预驾驶#自动驾驶 #AI Drive到Santa Monica全程零干预驾驶 ⚡ 穿越两条高速公路和城市街道，尚未发布v13版本 行业影响：▸ 证明纯视觉方案在复杂场景中的可靠性▸ 加速L4级自动驾驶商业化进程"@Tesla_AI GDPR法规#数据政策 #欧盟 #监管 | 影响指数：★★★☆☆ 核心进展：欧盟委员会计划未来几周提出GDPR削减提案，减少企业合规负担 ⚡ 2018年实施以来首次重大调整 行业影响：▸ 可能释放欧洲AI 应用成本下降"开放生态是AI民主化的关键" - NVIDIA发言人undefined 模型已在Hugging Face发布，商用前景广阔️ 二、技术前沿 (Tech Radar)2.1 自我原则批判调优 医疗 ▲▲▲ ▲▲▲▲ ▲▲▲▲ ▲▲ 工业AI ▲▲▲▲ ▲▲ ▲▲▲ ▲▲▲ 零售AI ▲▲▲ ▲ ▲
33400编辑于 2025-04-08- 来自专栏全栈程序员必看
网关 gateway_gateway网关集群
GateWay网关管理 GateWay Cloud 全家桶中有个很重要的组件就是网关，在1.x版本中都是采用的Zuul网关；但在2.x版本中，zuul的升级一直跳票，SpringCloud最后自己研发了一个网关替代 总结： 1.请求到达网关，网关先进行断言判断，如果断言为真，进行路由匹配规则的目标路径的路由转发。 路由转发将转发到目标微服务地址，到达之前先经过一系列的过滤器。 案例：给8001商品的微服务进行网关配置 Spring Cloud Gateway 网关路由有两种配置方式： 在配置文件 yml 中配置 通过@Bean自定义 RouteLocator 这两种方式是等价的 id=1001 3.通过Gateway网关访问8001 网址: http://localhost:6001/goods/getGoods? 弊端： 启动网关后将无法修改路由配置，如有新服务要上线，则需要先把网关下线，修改 yml 配置后，再重启网关，这两种方式都是不支持动态路由配置，即配置代码写死了，如何解决？。
1.8K30编辑于 2022-11-10 - 来自专栏又见苍岚
网关
在OSI中，网关有两种：一种是面向连接的网关，一种是无连接的网关。当两个子网之间有一定距离时，往往将一个网关分成两半，中间用一条链路连接起来，我们称之为半网关。 TCP/IP 网关 按照不同的分类标准，网关也有很多种。TCP/IP协议里的网关是最常用的，在这里我们通常所讲的“网关”均指TCP/IP协议下的网关。 那么网关到底是什么呢？ 默认网关 如果搞清了什么是网关，默认网关也就好理解了。就好像一个房间可以有多扇门一样，一台主机可以有多个网关。 默认网关的意思是一台主机如果找不到可用的网关，就把数据包发给默认指定的网关，由这个网关来处理数据包。现在主机使用的网关，一般指的是默认网关。 为什么默认网关最后一位总是 1？ 物联网智能网关 以机智云GL600（4G-Lora网关）、GM600（5G网关）为例，是指具有低延时、高稳定可靠性、能支持大量数据终端接入（最高65535）、适配AI算法、边缘计算、支持可视化动态管理
1.2K02编辑于 2024-05-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号