首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏奔跑的人生

    3. 网关路由

    artifactId> </dependency> </dependencies> 加注解 @SpringCloudApplication @EnableZuulProxy //启用网关 service-url: defaultZone: http://server1:7777/eureka/,http://server2:8888/eureka/,http://server3:

    64020发布于 2019-09-10
  • 来自专栏TSINGSEE青犀视频

    操作指南:智能分析网关V3AI算法配置步骤

    智能分析网关V3内置了20多种AI算法,可针对安全生产、通用园区、智慧食安、石油化工等场景,提供基于视频智能检测技术的个性化行业解决方案。今天来具体介绍下v3版本的智能分析网关如何配置AI算法。 智能分析网关V3算法配置操作步骤如下: 打开硬件盒子的后台,浏览器输入盒子的IP地址,登录到后台。 该视频流转发到国标服务器使用的通道编号 转发到国标服务:是否开启国标转发,开启后会将该视频流按照[国标通道编号]+国标服务器设置信息,将相机视频流转发到服务器 2、任务配置 任务配置是指将配置的视频通道添加指定的AI 3、算法设置 这里我们以离岗、抽烟打电话检测来举例说明。部分算法需要额外配置项来辅助完成算法检测功能。 ? 我们在上次的文章中介绍了智能分析网关V3接入EasyCVR平台的步骤,感兴趣的用户可以查看这篇文章:操作指南:EasyCVR v3.3版本如何接入智能分析网关V3? ?

    56820编辑于 2023-07-12
  • 来自专栏iPaaS和系统集成

    什么是AI网关AI网关如何为企业私有化部署筑防

    什么是AI网关AI 网关是面向大模型服务的专业化流量治理组件,作为企业AI基础设施与应用的统一连接端点,其核心功能是实现企业大模型服务的安全管控、性能优化与统一管理。 相较于传统API网关,重点解决AI场景下的三大核心问题:异构模型集成复杂性:通过统一管理DeepSeek、GPT、文心一言等多源模型API,标准化接口规范,有效降低企业AI集成的复杂性,并且可实现AI模型的无缝切换 数据安全合规风险:通过AI网关上多种鉴权、认证、脱敏等策略,可有效防止敏感数据泄漏、API滥用及跨境传输风险。并且通过其详细日志记录及追踪,可有效对数据泄漏进行溯源。 服务稳定性挑战:基于AI网关的负载均衡、多模型动态调度等技术,能够保证大模型在高并发场景下的流量调度与故障容错,提升系统稳定性。 ,降低泄露风险基础设施团队‌提升海外模型调用稳定性,日均50TB流量抖动控制在±2ms内AI网关通过“安全-效率-成本”三重平衡,已成为企业构建安全、高效AI基础设施的关键组件,尤其在DeepSeek等国产模型私有化部署中

    67210编辑于 2025-07-04
  • 来自专栏Se7en的架构笔记

    使用 Higress AI 网关代理 vLLM 推理服务

    Higress 作为一款云原生 API 网关,可以完美地扮演大模型服务前置的 AI 网关角色。 /cr7258/hands-on-lab/blob/main/gateway/higress/ai-proxy/on-premises/ai-route.yaml 通过 Higress AI 网关访问 Fallback 模型切换 Higress AI 网关支持 Fallback 模型切换,当请求的模型服务不可用时,可以自动切换到备用模型服务。 stop_reason": 107       }    ],    "created": 1749617726,    "id": "chatcmpl-5df6f105-6da4-4b49-b06c-ffc3c7c75543 网关 实现服务代理、流量调度、可观测性和 Fallback 等关键能力。

    1.1K21编辑于 2025-06-12
  • 来自专栏智慧物联产品&方案

    基于AI边缘智能网关的工业质检应用

    针对产品质检需求,可以借助AI边缘智能网关的视频识别算法,实现更高效、更精准、更智能的产品质检,适应长期发展需求。 基于AI边缘智能网关的工业质检应用佰马AI边缘智能网关,针对工业生产领域的视觉识别分析应用研发,具备高性能、低功耗、环境适应性强等特点。 拥有高达 17.6 TOPS 峰值算力,支持 38 路高清视频硬件解码,和 16 路 1080P高清视频实时全流程处理分析,通过搭配多样化深度学习算法,灵活应对智能制造场景,实现边缘侧的 AI 赋能。 基于AI智能边缘网关,搭配工业摄像机实现AI视觉成品质检,能快速识别分析工业成品外观,实现对裂纹、划伤、脏污、缺损、变形、毛刺、异色等问题的分辨、记录和上报,提升质检效率,大幅降低质检过杀率与漏检率,且准确率不会随着时间降低 AI视觉质检主要依靠AI网关的边缘算力,本地数据识别处理不仅快速高效,而且无需额外通信带宽上传视频数据,节省云端算力。3、广泛适用性。

    3K30编辑于 2022-12-30
  • 来自专栏深度学习与python

    vivo AI计算平台 Kubernetes集群Ingress网关实践

    、运维经验,并逐步打造出稳定的基础容器平台 - AI 容器平台(VContainer)。 为了支撑公司 AI 在线业务的发展,满足公司对算力资源的高效调度管控需求,需要将在线业务,主要包括 C 端、推理等业务,由原来的虚拟机或物理机迁移至 AI 容器平台。 于是小组从 2020 年初开始,基于在线业务的需求对 AI 容器平台进行进一步建设,并将平台与公司的 CMDB、CICD 等基础模块进行打通,使在线业务能够顺利从虚拟机、物理机迁移至 AI 容器平台。 ,我们在拉取所有服务正常请求的 P99.99 耗时之后,将网关与 upstream pod 之间读写超时均缩短到 3s,使得 nginx 可以及时掐断异常请求,避免长时间被夯住。 总结展望 vivo AI 计算平台 kubernetes 集群 ingress 网关目前承担了人工智能 AI 业务的大部分流量,随着业务不断容器化部署,ingress 网关需要在功能丰富性、性能、稳定性方面进一步提升

    93220发布于 2020-12-18
  • 来自专栏EdgeOne边缘安全加速平台

    腾讯云 EdgeOne:Open Edge AI 网关功能介绍

    ● 个人开发:适用于AIGC 个人开发者通过在消费者用户和 LLM 服务商访问的中间搭建 AI 网关,管控消费者用户的请求行为。 3. 3. 配置 AI 网关 AI 网关新建成功后,在 AI 网关列表页,单击详情或具体的 AI 网关实例 ID 进入到网关的详情页,当前支持配置缓存 ● 启用/禁用:打开开关,则启用缓存,针对相同的 Prompt 通过 AI 网关访问其他 LLM 服务商同理可参考上述操作。 五、常见 FAQ 1. AI 网关是否收费? AI 网关当前为免费能力,您可放心使用。 2. 如何快速创建并配置 AI 网关3. AI 网关是否可支持更多LLM 服务商? 如当前 LLM 服务商不满足您的诉求,您可反馈给产品方进行评估。

    7.1K60编辑于 2024-06-19
  • 来自专栏TSINGSEE青犀视频

    视频云存储安防监控视频AI智能分析网关V3:抽烟打电话功能详解

    人工智能技术已经越来越多地融入到视频监控领域中,近期我们也发布了基于AI智能视频云存储/安防监控视频AI智能分析平台的众多新功能,该平台内置多种AI算法,可对实时视频中的人脸、人体、物体等进行检测、跟踪与抓拍 ,支持口罩佩戴检测、安全帽佩戴检测、人体检测、区域入侵检测及可拓展多种AI检测算法。 TSINGSEE青犀视频AI智能分析平台抽烟、打电话识别算法,可以对指定区域进行实时监测,当检测到有人上班时间抽烟、打电话时,立即告警并推送到相关管理人员,告知管理人员及时纠正。 玩手机打电话识别检测系统通过AI技术手段,减少工厂或是工地上的人员监管成本,完成对工地或是工厂车间等现场作业场景中人员打电话、玩手机违规抽烟等行为实现自动检测识别,提高对生产作业地区安全风险管控。 TSINGSEE智能分析网关可实现对视频监控场景中的人脸、车辆、行为、物体等进行抓拍、检测与识别,支持对异常情况进行智能提醒和通知,广泛用于客流统计、周界防范、明厨亮灶、通用安防监控、企业安全生产、智慧校园

    43320编辑于 2023-08-25
  • 来自专栏全栈程序员必看

    Zuul网关集群_zuul网关

    1,Zuul网关集群原理 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20201019212045203.png? x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM4ODQ1Mjcx 2.3,在网关中加入打印,测试默认轮询到那台网关 (网关集群分别为 :81,82) 2.4,网关配置暂时再放到项目中,不放在分布式中心配置上(一般都是放在分布式中心上) 2.5,启动 Eureka注册中心,网关服务(端口分别为 82,82的两台),会员服务,启动 nginx服务 2.6,测试网关集群,(当通过域名调用会员服务时,请求轮询依次到 81 | 82 端口的网关服务上) 发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/170631.html原文链接:https://javaforall.cn

    3.2K20编辑于 2022-09-22
  • 来自专栏智慧物联产品&方案

    AI网关结合智慧路灯杆可以开发什么应用

    AI网关可以与智慧路灯杆相结合,进一步提升智慧杆的自主感知与设备本地管理能力,并开发多种智慧、高效、便捷的应用功能。 AI智能网关的功能指标1、实现视觉AI与IoT的深度融合,拥有强大边缘算力,支持对视频的编解码;2、支持HDMI输出口,提供高清视频画面输出;3、具备多路千兆WAN口和LAN口,满足高速物联数据采集、传输和分发 AI网关结合智慧路灯杆应用1、智慧杆智能监控:基于AI网关的视觉图像分析处理技术,可以识别出视频中的人脸、人体、车辆、烟火、物体、行为等,并对照预设策略实现自主抓拍、比对、智能预警、自主响应等服务,实现视频安防网络的无人化 2、智慧杆智能联动告警:AI网关可统一接入并管理杆载设备,并实现多设备的协同工作。 3、智慧杆离线自治:搭载AI智能网关的智慧杆系统,可实现离线自主管控,使用杆载AI网关计算资源执行本地数据处理、分析、分发,即使离线状态也保持正常功能运行。

    1.4K20编辑于 2022-12-26
  • 使用VPC端点安全连接AI代理网关技术解析

    解决方案遵循以下工作流程:AI代理交互 - VPC内运行的代理从身份提供者获取所需的入站授权,通过网关进行身份验证,并通过接口VPC端点向网关发送工具使用请求(调用MCP工具)网关处理 - 网关管理OAuth 目标的工具名称格式 arguments={"location": "Seattle"} ) print(f"直接MCP工具响应: {result}")使用以下命令调用脚本:python3 此架构通过实施与互联网隔离的网络,通过专用私有网络路径提供增强的安全性,为企业AI部署带来全面优势。该解决方案通过VPC端点策略实施了强大的数据边界,创建了围绕AI资源的严格数据边界的细粒度访问控制。 此外,该架构支持本地环境的私有连接到网关端点,支持跨越云和本地基础设施的分布式AI架构。 这种企业级方法有助于使AI代理应用程序在满足安全性和合规性要求的同时实现改进的性能和减少的响应时间。

    25910编辑于 2025-10-20
  • 来自专栏TSINGSEE青犀视频

    视频云存储安防监控AI视频智能分析网关V3:工服检测功能详解

    TSINGSEE青犀AI 边缘计算网关硬件 —— 智能分析网关可以通过实时监测和识别工人的工装穿戴情况,确保他们符合安全要求。 我们的 AI 边缘计算网关硬件 —— 智能分析网关目前有 5 个版本:V1、V2、V3、V4、V5,每个版本都能实现对监控视频的智能识别和分析,支持抓拍、记录、告警等,每个版本在算法模型及性能配置上略有不同 硬件可实现的 AI 检测包括:人脸结构化数据、车辆结构化数据、场景检测类算法、行业类检测算法、人员行为类检测算法等。感兴趣的用户可以前往演示平台进行体验或部署测试。

    32820编辑于 2023-09-01
  • 来自专栏Se7en的架构笔记

    AI 网关对决:Higress 与 OneAPI 的功能对比

    什么是 AI 网关AI 网关旨在统一管理与各种大型语言模型(LLMs)的交互。通过提供单一入口点,它解决了使用来自不同供应商的多个 AI 模型所带来的复杂性问题。 Higress 同时也能够作为 AI 网关,通过统一的协议对接国内外所有 LLM 模型厂商,同时具备丰富的 AI 可观测、多模型负载均衡/fallback、AI token 流控、AI 缓存等能力。 Higress 和 OneAPI 的对比 下面的表格从多个维度对比了 OneAPI 和 Higress 之前的差异: 差异项 OneAPI Higress 核心功能 AI 网关 具有 AI 网关功能的 云集成 无 可以和阿里云上的各类云产品集成,例如借助 SLS 实现 AI 数据分析能力 Higress 作为 AI 网关的优势 Higress 作为 AI 网关,具备以下几大优势: 统一管理与灵活扩展 快速体验 Higress AI 网关 Higress AI 网关支持一行命令安装: curl -sS https://higress.cn/ai-gateway/install.sh | bash 执行完命令后可以通过命令行初始化配置

    1.8K10编辑于 2025-05-21
  • 来自专栏架构精进之路

    OpenClaw Agent 架构深度解析:AI 网关的设计哲学

    导读:当 LangChain 还在解决"如何调用工具"时,OpenClaw 已经在思考"如何让 AI 助理安全地住进你的消息流"。本文从架构师视角,拆解一个自托管 AI 网关的核心设计决策。 OpenClaw 的选择是:做一个"AI-Native 的消息网关",而不是"给消息系统加个 AI 插件"。 这里的顺序很重要,前者从 AI 出发设计架构,后者只是在旧瓶里装新酒。 二、核心架构:三层模型 2.1 网关层:单一进程,多路复用 设计决策:一个 Gateway 进程管理所有渠道连接,而不是每个渠道一个服务。 {"id":"turn-3","parentId":"turn-2","role":"tool","name":"exec","result":"25°C"} 为什么选 JSONL? 6.3 会话即状态 传统后端:状态在数据库,会话是无状态的 AI 网关:会话本身就是状态,它包含了: 对话历史(用户说了什么) 工具执行记录(AI 做了什么) 上下文窗口(AI 还记得什么) 压缩摘要(

    19010编辑于 2026-04-10
  • 来自专栏全栈程序员必看

    Kong网关初探_API网关

    API网关功能,也要能够替代原先Nginx。 Kong网关只负责路由匹配、调用者认证、路由鉴权等网关责任,而服务注册发现的逻辑全部交由Kubernetes处理,使Kong网关完全脱离upstream的逻辑处理。 通过上述方案从而实现一个注册中心同时管理微服务之间的服务发现和网关到服务的服务发现。 例如对某服务的a、b两节点发版时具体逻辑如下: 请求Kong网关API摘除该服务的a节点 等待a节点无流量请求后发布重启a节点的新版本 最后再请求Kong网关API重新添加a节点 接着同样的逻辑操作b节点 计数模式config.policy支持3种策略: local: 节点本地内存中计数,应用场景为单节点模式,性能影响最小 redis: redis中计数,应用场景为集群模式,需要额外依赖redis服务,性能影响中

    4.8K10编辑于 2022-09-30
  • 来自专栏云云众生s

    什么是AI网关,你是否需要一个?

    AI 网关是专门构建的系统,用于管理、保护和观察激增的 AI 流量和应用程序需求。因此,它们正迅速成为一个重要的产品类别。那么什么是 AI 网关?你现在需要它吗? 什么是 AI 网关:快速定义 AI 网关是一种专门的设备或解决方案,旨在管理和简化应用程序与 AI 模型之间的交互,尤其是在 大型语言模型 (LLM)和其他 AI 服务的上下文中。 针对这些和其他风险,AI 网关正在成为一种新型防火墙。AI 网关管理 AI 服务的消费者和提供者的安全凭据。 网关处理身份验证和零信任,充当 AI 服务和 API 访问的守门人。 AI 网关为管理不同团队和应用程序之间的 AI 消费提供了一个集中式平台。 AI 网关通过提供统一的控制平面和负载均衡器,使组织能够管理所有 AI 消耗和可观测性收集。 正如 API 管理在 API 网关上变得集中一样,AI 管理也将表现出对综合 AI 网关的偏见 。最好的网关将为接触这种强大的新技术范式的所有人提供一种有效的方法来驯服 AI“狂野西部”。

    1.3K10编辑于 2024-04-27
  • 来自专栏智慧物联产品&方案

    AI智能网关如何助力危化品安全监测

    针对危化品的仓储安全监测和管理,可以采用佰马BM-A16系列AI智能网关方案,打造库区安防识别、衣着识别、行为识别、火情识别等AI视觉识别应用,从而实现对各类危化品的高敏感、高精度、实时、可靠的安全监测管控 AI智能网关,强劲算力 + AI识别算法危化品仓储监测方案主要采用BM-A16系列AI智能网关,搭配高清/红外/热感摄像头,对危化品仓储现场进行实时安全监测。 网关支持30+种AI识别算法,多种算法可以同时搭配运行,视觉识别分析更高效。 3、行为识别支持包括抽烟监测、接打电话监测、离岗/睡岗监测、倒地监测等识别算法,从现场人员行为规范方面监测保障站点安全。 AI智能网关非常适合需要随时随地高度专注、敏感的安全监测场景,真正实现全天候、自动化、智能化的安全监测管理应用,时刻把握安全红线。

    38100编辑于 2023-11-23
  • 来自专栏CodeGuide | 程序员编码指南

    Ai MCP 网关,从 HTTP 到 MCP,轻松协议转换!

    接下来,小傅哥就带着大家实践下阿里旗下 Higress AI 网关能力的使用。 Higress AI 网关快速集成 LLM API,通过 AI 网关、API 网关及Himarket,解决模型、工具及Agent统一代理问题,并助力企业构建AI中台,加速AI落地。 3. healthcheck: test: [ "CMD", "redis-cli", "ping" ] interval: 10s timeout: 5s retries: 3 接口转发(AIAI 网关管理里,还提供了关于 AI 接口的配置。它可以进行统一管理,适合项目的接入使用。做 AI 类的项目,可以把 AI 请求,统一用这样一套东西管理起来。

    48110编辑于 2026-01-27
  • 来自专栏全栈程序员必看

    网关 gateway_gateway网关集群

    GateWay网关管理 GateWay Cloud 全家桶中有个很重要的组件就是网关,在1.x版本中都是采用的Zuul网关;但在2.x版本中,zuul的升级一直跳票,SpringCloud最后自己研发了一个网关替代 2.动态路由:能够匹配任何请求属性 3.Predicates 和 Filters 作用于特定路由:可以对路由指定断言和过滤器 4.集成 Hystrix 断路器功能 5.集成 Spring Cloud String[] args) { SpringApplication.run(GatewayApp6001.class,args); } } 7.5 测试 1.启动注册中心 2.启动Gateway子模块 3. id=1001 3.通过Gateway网关访问8001 网址: http://localhost:6001/goods/getGoods? 弊端: 启动网关后将无法修改路由配置,如有新服务要上线,则需要先把网关下线,修改 yml 配置后,再重启网关,这两种方式都是不支持动态路由配置,即配置代码写死了,如何解决?。

    1.8K30编辑于 2022-11-10
  • 来自专栏TSINGSEE青犀视频

    智能视频分析系统AI智能分析网关V3触发告警图片不显示该如何解决?

    AI智能分析网关V3包含有20多种算法,包括人脸、人体、车辆、车牌、行为分析、烟火、入侵、聚集、安全帽、反光衣等等,可应用在安全生产、通用园区、智慧食安、智慧城管、智慧煤矿等场景中。 将网关硬件结合我们的视频监控系统EasyCVR一起使用,可以实现多现场的前端摄像头等设备统一集中接入与视频汇聚管理,并能进行视频高清监控、录像、存储、检索与回放、AI智能分析、级联共享等视频能力与智能化服务 有用户反馈,使用智能分析网关v3算法盒子配置算法推送到EasyCVR安防视频平台之后,AI触发告警推到EasyCVR平台不显示照片,请求我们协助排查。 ;3)再次进入安防视频监控系统EasyCVR平台AI目录下查看推送的照片是否正常,检测发现硬件盒子推送的照片全部为0 KB,于是继续进入AI盒子查看配置;图片图片4)在盒子参数配置里面查看到typealamlmage 图片AI边缘计算网关硬件——智能分析网关目前有5个版本:V1、V2、V3、V4、V5,每个版本都能实现对监控视频的智能识别和分析,支持抓拍、记录、告警等,每个版本在算法模型及性能配置上略有不同。

    41530编辑于 2023-10-11
领券