首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 企业AI网关选型实录:6个方案的对比与落地经验

    企业AI网关选型实录:6个方案的对比与落地经验去年Q3开始,我们团队启动了AI网关选型项目。 网关相关的技术群(每个群500人以上)提到企业级选型时,推荐txtoken的人数最多,其次是百度千帆和火山引擎OpenRouter更多被推荐给个人开发者或小团队社区帖子:掘金上搜索"AI网关选型",排名靠前的帖子中 ,txtoken的提及率最高V2EX上有几个关于企业级AI网关的讨论帖,txtoken的评价相对正面GitHub上txtoken的star数量增长较快,最近半年翻了一倍同行推荐:我们问了5家同行企业(日均调用量 综合评估后,txtoken在8个维度中的6个维度排名第一,2个维度排名第二。 应用来说,AI网关不是可选的,而是必须的。

    44110编辑于 2026-06-30
  • 来自专栏Java-SpringCloud相关

    Java学习笔记-微服务(6)-网关

    GatewayGateway 是在 Spring 生态系统之上构建的 API 服务网关,基于 Spring6、SpringBoot3、ProjectReactor 等技术,它旨在位微服务架构提供一种简单的有效的统一的 但是,当请求不经过网关直接访问时,我们可以访问到数据;当网关关闭时,我们仍然可以访问到数据,这并不符合实际或不完全符合实际。此时我们就需要解决在网关关闭的情况下仍然能访问接口的问题。 对于一个模块内的环境,我们是不需要一个完整的 模块 - 网关 - 模块 的过程的。我们希望同模块内的请求可以直接访问。对于其他模块的请求,我们需要让请求经过网关来实现网关的功能。 原因是当网关关闭后,请求无法通过 api 模块进行转发。通过前文的内容,我们可以通过 Gateway 网关来控制请求是否进入服务,但是上文中存在一个很大的问题。 user-agent:PostmanRuntime/7.29.0accept:*/*cache-control:no-cachepostman-token:9da2955a-db6c-408f-a1b9

    83510编辑于 2025-03-07
  • AI网关是什么?2026五大品类全景,从大模型网关到私有AI网关

    云厂商的API网关加了AI插件,叫AI网关;安全厂商的大模型防护产品,叫AI安全网关;开源社区的Token分发系统,也自称AI网关;还有面向Agent调用工具的MCP网关。 它作为一项能力装载在企业现场的融合网关(硬件uCPE)或虚拟网关上,提供统一多模型接入、Token计量、密钥托管、调用审计、Prompt脱敏与违规拦截、多租户权限管理,并可借助犀思云自有的SDN/SRv6 主要能力:•装载于企业现场的uCPE/vCPE,与SD-WAN组网共用载体•统一模型接入、Token计量、密钥托管与调用审计•本地完成Prompt脱敏与违规拦截•经SDN/SRv6全球骨干加速访问海外模型优势 6.LiteLLM一句话介绍:开发者社区广泛使用的开源大模型网关。主要能力:•OpenAI兼容的统一接口•虚拟密钥、团队与预算管理•开源MCP网关能力优势:开源免费、模型覆盖广、上手快。 9.腾讯云AI网关一句话介绍:腾讯云云原生智能网关体系中的AI网关。

    14610编辑于 2026-10-15
  • 来自专栏java 微风

    springCloud - 第6篇 - 网关的实现:ZUUL

    在Spring Cloud 微服务系统中,一种常见的负载均衡方式是,客户端的请求首先经过负载均衡(zuul、Ngnix),再到达服务网关(zuul集群),然后再到具体的服务。 以上出自:https://blog.csdn.net/forezp/article/details/81041012 实现网关: 1. file - new - module ? 6. 工程结构如下: ? 7. pom.xml:( 没有使用base 工程的pom 。换来换去,只有 2.0.5 这个版本能正常引用所有 jar ) <? 在工程启动类上加注解: @EnableZuulProxy ,开启网关功能 。 至此,网关的请求转发就已经实现。 13. zuul 过滤功能实现 。

    76430发布于 2019-08-01
  • 来自专栏iPaaS和系统集成

    什么是AI网关?AI网关如何为企业私有化部署筑防

    什么是AI网关?AI 网关是面向大模型服务的专业化流量治理组件,作为企业AI基础设施与应用的统一连接端点,其核心功能是实现企业大模型服务的安全管控、性能优化与统一管理。 相较于传统API网关,重点解决AI场景下的三大核心问题:异构模型集成复杂性:通过统一管理DeepSeek、GPT、文心一言等多源模型API,标准化接口规范,有效降低企业AI集成的复杂性,并且可实现AI模型的无缝切换 数据安全合规风险:通过AI网关上多种鉴权、认证、脱敏等策略,可有效防止敏感数据泄漏、API滥用及跨境传输风险。并且通过其详细日志记录及追踪,可有效对数据泄漏进行溯源。 服务稳定性挑战:基于AI网关的负载均衡、多模型动态调度等技术,能够保证大模型在高并发场景下的流量调度与故障容错,提升系统稳定性。 ,降低泄露风险基础设施团队‌提升海外模型调用稳定性,日均50TB流量抖动控制在±2ms内AI网关通过“安全-效率-成本”三重平衡,已成为企业构建安全、高效AI基础设施的关键组件,尤其在DeepSeek等国产模型私有化部署中

    1.2K10编辑于 2025-07-04
  • 来自专栏智慧物联产品&方案

    选用wifi6工业网关有哪些好处

    针对工业生产制造这种拥有大量上网设备的环境,Wifi6工业网关也应运而生,选择支持wifi6标准的工业网关有哪些好处呢?本文就简单为大家介绍一下。 1、实现多设备、多输入、多输出。 基于wifi6标准中的MU-MIMO技术,wifi6工业网关也可以实现向众多设备同时高速传输数据,方便更多物联网终端设备同时在线用网,数据传输更加流畅。 2、信道加倍拓宽,延迟更低。 WiFi6工业网关,将WiFi频段扩展到160MHz,信道宽度加倍,显著减少了拥堵,因此就可以实现物联网设备的更低延时通信。 3、同时具备2.5GHz和5GHz频段,兼容性强,新老设备都可以接入wifi6工业网关,部署wifi6的衍生成本低。 而且两种频段可同时传输,wifi6工业网关可以根据环境遮挡、设备性能等情况,智能分配最高效的通信传输频段。

    64120编辑于 2022-05-27
  • 来自专栏菩提树下的杨过

    spring cloud 学习(6) - zuul 微服务网关

    前面这一层俗称为“网关层”,其存在意义在于,将"1对N"问题 转换成了"1对1”问题,同时在请求到达真正的微服务之前,可以做一些预处理,比如:来源合法性检测,权限校验,反爬虫之类... 传统方式下,最土的办法,网关层可以人肉封装,类似以下示例代码: LoginResult login(...){ //TODO 预处理... Zuul做为网关层,自身也是一个微服务,跟其它服务Service-1,Service-2, ... 四、ZuulFilter过滤器 过滤器是一个很有用的机制,下面分几种经典场景演示下: 4.1、token校验/安全认证 网关直接暴露在公网上时,终端要调用某个服务,通常会把登录后的token传过来,网关层对 另外,网关后面的微服务,如果设置了spring security中的basic Auth(即:不允许匿名访问,必须提供用户名、密码),也可以在Filter中处理。

    1.8K80发布于 2018-01-18
  • AI 网关不是「API 网关加插件」:从架构分层看能力评估

    信通院近期把AI网关单独列项做能力评估,划出七大能力板块。这件事在架构层面的意义,比「多了一个评估标准」要大得多——它正式承认AI网关是一个新的基础设施品类,而不是传统API网关的补丁。 数据面和控制面都要重做传统API网关的架构假设是「请求-响应」:一次请求进、一次响应出,鉴权、限流、计费都挂在这条边界上。大模型流量打破了这个假设。 这两件事叠加,意味着AI网关的数据面要面向流式传输重写,控制面要面向智能体协议重写。可观测性决定成本能否治理七大板块里,容易被低估的是可观测性。 传统网关的指标是QPS、延迟、错误率,回答「服务通不通」。AI网关的可观测性要回答的是「Token花在哪、谁花的」——这是成本归因问题,不是运维问题。 网关层需要把断路器那套思路搬过来:展开代码语言:TXTAI代码解释主模型超时/限流→熔断,路由到降级模型降级模型也不可用→返回缓存或友好错误关键是降级策略要按「任务类型」而不是按「请求路径」配置:写代码的调用可以降级到轻量模型

    21310编辑于 2026-08-13
  • 来自专栏好好学习,天天向上

    SpringCloud学习笔记(6):使用Zuul构建服务网关

    简介 Zuul是Netflix提供的一个开源的API网关服务器,SpringCloud对Zuul进行了整合和增强。 服务网关Zuul聚合了所有微服务接口,并统一对外暴露,外部客户端只需与服务网关交互即可。相对于内部服务而言,能够防止其被外部客户端直接访问而暴露服务的敏感信息,起到了保护作用。 注册中心(请参照SpringCloud学习笔记(1):Eureka注册中心) sc-provider,提供者(请参照SpringCloud学习笔记(1):Eureka注册中心) sc-gateway,服务网关 使用Zuul构建服务网关 1.在父模块下创建子模块项目sc-gateway,pom.xml: <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns routes: sc-provider: path: /sp/** sensitiveHeaders: url: http://localhost:8081 6.

    75720发布于 2020-10-29
  • 用 Tailscale Aperture 打造专属安全 AI 网关

    ⚠️ 合规提示:本文所介绍的 Aperture by Tailscale 属于个人或企业内部的私有 AI 流量鉴权与安全审计网关。 请读者严格遵守国家互联网信息安全管理规定,合规使用 AI 技术。 为了解决这个问题,Tailscale 在 2026 年推出了颠覆性的自研 AI 安全网关 —— Aperture by Tailscale。 简单来说,Aperture 是一个运行在你的虚拟局域网(Tailnet)内部的 “身份敏感型 AI 反向代理服务器”。 graph TD Client1[Cursor 客户端/小明] -->|Tailscale 安全内网连接| Aperture[Aperture AI 网关] Client2[Cline

    44810编辑于 2026-07-06
  • 来自专栏Se7en的架构笔记

    使用 Higress AI 网关代理 vLLM 推理服务

    Higress 作为一款云原生 API 网关,可以完美地扮演大模型服务前置的 AI 网关角色。 创建好的 AI Route 如下: 如果你希望使用 Kubernetes YAML 来配置 AI Service Provider 和 AI Route,可以使用以下配置:https://github.com /cr7258/hands-on-lab/blob/main/gateway/higress/ai-proxy/on-premises/ai-route.yaml 通过 Higress AI 网关访问 Fallback 模型切换 Higress AI 网关支持 Fallback 模型切换,当请求的模型服务不可用时,可以自动切换到备用模型服务。 网关 实现服务代理、流量调度、可观测性和 Fallback 等关键能力。

    2.2K21编辑于 2025-06-12
  • AI 应用怎么接入大模型:CloudBase AI 网关配置教程-UserStory

    摘要: AI 应用接入大模型,用腾讯云云开发 CloudBase AI 网关最省心:它统一对接 DeepSeek、GLM、Kimi、混元等国产模型,密钥由平台托管,在云函数里几行代码就能调用。 更稳的做法是走一层 AI 网关:CloudBase AI 网关统一了多家国产模型的接入,密钥托管在云端,你在云函数里用一套方式就能调所有模型、随时切换。这篇讲清网关怎么配、怎么调、怎么控成本。 第一步:确认环境已开通 AI 能力 AI 网关是 CloudBase 环境的内置能力。 这就是统一网关带来的实际好处。接口签名以 CloudBase AI 能力文档为准。 这条链路(前端 → 云函数 → AI 网关 → 模型)就是生产级 AI 应用的标准接入方式。 多模型切换与成本控制 接好网关后,有两件事能让应用更省、更稳: 按任务切模型。不要全程挂着最贵的旗舰模型。

    2200编辑于 2026-10-26
  • 来自专栏智慧物联产品&方案

    Wifi6工业网关在煤矿场景的应用优势

    本篇就结合煤矿场景,为大家简单介绍一下支持Wifi6通信标准的工业网关的优势。 1、井下作业人员佩戴的胸卡、手环、安全帽标签等定位终端,以及井下开采设施、运料设备的监测终端,海量数据都可以通过wifi6工业网关实时传输至地面监控中心。 wifi6网关支持MU-MIMO技术,允许多个设备同时与路由器通信传输,无需排队等待。2、有些煤矿会使用智能巡检机器人,来采集巷道及工作面内的高清或红外图像。 针对此类移动式巡检设备的实时通信需求,可以借助wifi6网关的波束成形技术,将信号定向发送到与其连接的设备,使发送信号集中,强度更大,通信更稳定。 针对多类子系统的数据通信需求,wifi6工业网关支持2.4G/5G Hz双频段通信。

    79710编辑于 2022-06-08
  • 来自专栏智慧物联产品&方案

    WiFi6路由器优势 WiFi6工业路由网关应用领域

    WiFi6工业路由网关,专为工业物联网应用设计BMG5100系列5G + WiFi6工业路由网关,面向工业物联场景中的数据实时采集、低延时传输、多设备集中接入等需求做了深度优化设计,通过搭载高性能5G通信模块 +WiFi6无线模块,搭配通信优化算法,全面发挥出5G + WiFi6的高速率、低延时、大带宽等优势,助力工业高效迈向智能物联现时代。 1、WiFi6路由器大带宽优势:WiFi6提升到支持160MHz,相较前代实现“翻倍”的提升效果,并且采用更高阶的调制方式,最大支持到1024QAM,通过结合带宽和调制方式的提升,实现通信速率的倍增。 5G + WiFi6工业路由网关,应用领域广泛1、智慧路灯杆:基于5G + WiFi6智能网关,将路灯杆升级为智慧城市边缘感知触角,广泛链接和感知市政基础设施,建立数据交换、行动协同和智慧服务。 3、智慧生活:将智能通信融入日常生活各场景,带来细致入微的物联网生活体验,网关可应用与建立智慧公交车站、无人零售、智慧楼宇、智慧交通、服务机器人等。

    1.2K10编辑于 2022-10-21
  • AI网关(AI Gateway)详解,远比你想象的要复杂

    那今天就跟大家详细介绍下AI网关,相信远比你想象中的要复杂... AI网关概述 为什么需要AI网关? 因为随着企业内部AI服务数量爆炸增长,AI调用管理正成为新的技术瓶颈。 AI Gateway,本质上可以理解成是由一个传统API网关的变种(API网关功能之上叠加了AI的场景) + LLM网关,这两部分组成。 AI网关之API网关 相比于传统的API网关,AI时代下的API网关核心在于,除了要管理路由和基于Restful或gRPC协议的API外,我们还要处理以Token为核心的流量,并且大多采用流式输出方式。 关于AI网关的API网关部分就说这么多,接下来我们进入到下一部分,来看看AI网关下的LLM网关。 AI网关之LLM网关 LM网关,顾名思义,是建立在LLM基础上的一层网关,用于连接应用层与模型层。 ---- AI网关现在已经成为现代AI应用中至关重要的一部分,并且随着AI技术的持续发展,在未来,AI网关也将会有越来越多的功能模块集成进去。 (正文完)

    1K10编辑于 2026-06-17
  • 来自专栏智慧物联产品&方案

    基于AI边缘智能网关的工业质检应用

    针对产品质检需求,可以借助AI边缘智能网关的视频识别算法,实现更高效、更精准、更智能的产品质检,适应长期发展需求。 基于AI边缘智能网关的工业质检应用佰马AI边缘智能网关,针对工业生产领域的视觉识别分析应用研发,具备高性能、低功耗、环境适应性强等特点。 拥有高达 17.6 TOPS 峰值算力,支持 38 路高清视频硬件解码,和 16 路 1080P高清视频实时全流程处理分析,通过搭配多样化深度学习算法,灵活应对智能制造场景,实现边缘侧的 AI 赋能。 基于AI智能边缘网关,搭配工业摄像机实现AI视觉成品质检,能快速识别分析工业成品外观,实现对裂纹、划伤、脏污、缺损、变形、毛刺、异色等问题的分辨、记录和上报,提升质检效率,大幅降低质检过杀率与漏检率,且准确率不会随着时间降低 AI视觉质检主要依靠AI网关的边缘算力,本地数据识别处理不仅快速高效,而且无需额外通信带宽上传视频数据,节省云端算力。3、广泛适用性。

    3.8K30编辑于 2022-12-30
  • 来自专栏深度学习与python

    vivo AI计算平台 Kubernetes集群Ingress网关实践

    、运维经验,并逐步打造出稳定的基础容器平台 - AI 容器平台(VContainer)。 为了支撑公司 AI 在线业务的发展,满足公司对算力资源的高效调度管控需求,需要将在线业务,主要包括 C 端、推理等业务,由原来的虚拟机或物理机迁移至 AI 容器平台。 于是小组从 2020 年初开始,基于在线业务的需求对 AI 容器平台进行进一步建设,并将平台与公司的 CMDB、CICD 等基础模块进行打通,使在线业务能够顺利从虚拟机、物理机迁移至 AI 容器平台。 总结展望 vivo AI 计算平台 kubernetes 集群 ingress 网关目前承担了人工智能 AI 业务的大部分流量,随着业务不断容器化部署,ingress 网关需要在功能丰富性、性能、稳定性方面进一步提升 展望后续工作,我们计划在以下方面着手,进一步完善 ingress 网关。

    1.1K20发布于 2020-12-18
  • 来自专栏工程监测

    DFP 数据转发协议应用实例6.LoRA 网关跨区域转发

    DFP 数据转发协议应用实例6.LoRA 网关跨区域转发图片DFP 是什么? 图片实例 6.LoRA 网关跨区域转发DLS10 进行数据转发时,必须使用完全相同的扩频因子 SF、编码率 CR、信道带宽 BW。使用相同 3 参数的多台设备构成的数据转发网络称为一个“区域”。

    66320编辑于 2022-11-14
  • Flask AI 网关:向下三种AI供给,向上七种AI能力

    于是逐步抽象,自己设计了一个 Flask AI 网关——向下屏蔽三种供给差异,向上暴露统一能力接口。 网关的定位 直接在前端调百炼 API,两天就能跑通。 向上:暴露的多种 AI 能力 网关往下屏蔽了三种供给差异,往上面向业务场景暴露统一的能力接口。前端不调模型,调的是"能力"。 问答(Chat / RAG-QA)。最基础的能力。 AI Coding 在网关建设中的作用 网关从零到一的过程中,AI Coding 扮演的不是"替代决策"的角色,而是"决策之后的加速器"。 适配器代码生成。 全链路测试的用例覆盖由 AI 批量生成,人工只挑关键路径验证。 文档与 Onboarding。网关写好后,AI 自动生成 OpenAPI spec、各能力的调用示例、适配器扩展指南。 网关建设中的决策占比 30%、编码占比 70%,AI Coding 把 70% 压缩到原来 30% 的时间,但它碰不了那 30% 的决策。

    26710编辑于 2026-06-25
  • 来自专栏腾讯云中间件的专栏

    腾讯云原生智能网关 - AI 网关能力全解:一套网关,统一管住模型、工具和智能体

    这些问题的共同答案,是一套面向生产环境的 AI 治理基础设施,腾讯云原生智能网关 - AI 网关(以下简称 AI 网关),正是为此而生。 二、AI 网关:三类核心能力 AI 网关面向企业 AI 场景,融合 大模型网关、MCP 网关、Agent 网关 三类能力,把模型、工具、智能体统一纳入同一套治理体系中。 大模型网关:统一纳管多模型,提升调度与治理能力 AI 网关支持统一纳管主流模型服务与企业自建推理服务,帮助客户以统一标准完成接入、鉴权、路由和计量。 三、能力全景 以下为 AI 网关已落地的核心能力模块: 点击视频查看 「AI 网关接入演示」 后续将持续增强 MCP 网关、智能路由、治理与可观测、企业级运维等方向能力,进一步支撑更复杂业务场景和更高要求的生产环境 四、结语 企业 AI 的竞争,最终会落到治理能力上。AI 网关希望帮助更多企业把模型、工具和智能体真正接起来、稳定跑起来、持续管起来——从"能接入"走向"可运营、可治理、可规模化"。

    1.2K10编辑于 2026-05-07
领券