简介 Cloud Native 基于 wasm 机制,Higress 提供了优秀的可扩展性,用户可以基于 Go/C++/Rust 编写 wasm 插件,自定义请求处理逻辑,满足用户的个性化需求,目前插件已经支持 redis 调用,使得用户能够编写有状态的插件,进一步提高了 Higress 的扩展能力。
Higress(标准云环境配置) helm install higress higress.io/higress \ -n higress-system --create-namespace \ 启用了 Istio API 支持 helm upgrade higress higress.io/higress \ -n higress-system \ --set global.enableIstioAPI 九、生产环境最佳实践 9.1 高可用部署 # 生产环境推荐配置 helm upgrade higress higress.io/higress \ -n higress-system \ --set higress.io/higress \ -n higress-system \ --set higress-core.gateway.service.annotations." upgrade higress higress.io/higress \ -n higress-system \ --set global.ingressClass="" \ --reuse-values
demo apiVersion: networking.k8s.io/v1 kind: Ingress metadata: annotations: higress.io/destination : grpc-service.default.svc.cluster.local:50051 higress.io/ignore-path-case: "false" # 通过注解指定GRPC /domain_demo.kubesre.com: "true" higress.io/resource-definer: higress name: demo namespace: higress-system resourceVersion: "57816" uid: 5ee0a7eb-8e8f-4b8f-ba8a-8b538fb573ce spec: ingressClassName: higress 域名 配置Higress路由规则 Higress默认已支持WebSocket无需额外配置,暂时不支持通过如下注解做些额外优化配置: nginx.ingress.kubernetes.io/proxy-http-version
llmaz 和 Higress 介绍 为应对上述挑战,本文将展示如何通过 llmaz 快速部署 vLLM 实例,并借助 Higress 实现流量控制与可观测性,从而构建一个稳定、高可用的大模型服务平台。 安装 Higress Higress 可以通过 Helm Chart 安装,安装命令如下: helm repo add higress.io https://higress.cn/helm-charts helm install higress -n higress-system higress.io/higress --create-namespace --render-subchart-notes Higress Console。 默认 Higress 的可观测套件没有启用,执行以下命令启用可观测套件: helm upgrade --install higress -n higress-system higress.io/higress
Higress 鉴权限流插件架构深度解析:从原理到生产实战 上一篇文章我们聊了怎么在 EKS 上用 Higress 替换 nginx-ingress,顺带提了一嘴认证授权和限流。 一、Higress 插件架构:请求的一生 在聊具体插件之前,先搞清楚 Higress 的插件是怎么运行的。这是理解后面所有内容的基础。 1.1 Wasm 沙箱:插件的安全屋 Higress 的插件跑在 WebAssembly(Wasm)沙箱里。 二、鉴权插件深度解析 Higress 内置了五种鉴权插件,覆盖了从简单到复杂的各种场景。我们逐个拆解。 Higress 的 ip-restriction 插件默认取第一个 IP。如果你的架构是 Client -> NLB -> Higress,需要注意这个行为,必要时在 NLB 层面做 IP 过滤。
MSE-Higress 产品体验测评 操作过程: 1)开通MSE-Higress 根据提供的文档,我们可以免费领取并开通MSE-Higress网关。 2)配置MSE-Higress网关 按照实验操作,我们需要配置服务列表、路由管理即可。 3) 插件实现WAF防护 进入MSE-Higress的插件市场,我们可以快速地添加WAF防护功能。 MSE-Higress的WAF插件成功地检测到并阻止了这些攻击。我还通过调整插件的配置参数,对WAF的准确性和性能进行了测试。 结果显示,MSE-Higress的WAF防护功能表现出色,能够有效地防御各种Web攻击。 实验心得: 产品文档 MSE-Higress 的操作文档相当丰富,描述完整和准确。 MSE-Higress 应用场景测评 流量调度 MSE-Higress 支持多种路由方式和网络协议,包括单服务、多服务、标签路由等,功能强大且灵活。
Higress Wasm 插件 Higress 作为首个推出 Wasm 扩展能力的云产品网关,从 2022 年就上线了 Wasm 插件市场,我们使用 Wasm 技术作为主要的网关扩展手段,是因为它能为用户带来的独特价值 Higress 站在 Istio/Envoy 的肩膀上,为 Wasm 插件机制增加了三个核心能力: 域名 / 路由级生效:Istio/Envoy 自带的全局生效方式难以满足大部分场景需求,而基于 Higress 在 Higress 将 Wasm 运行时从 V8 替换为 WAMR 后,Wasm 插件的性能对比之前又有了大幅提升。 上述所有插件除 jwt-logout 是企业版插件未开源以外,其余插件均可以在 Higress 开源仓库目录下查看对应源码实现:https://github.com/alibaba/higress/tree 欢迎更多开发者一起参与 Higress 和 WAMR 开源社区,GitHub 项目地址: Higress:https://github.com/alibaba/higress WAMR:https://
什么是 Higress? Higress 是一款云原生 API 网关,内核基于 Istio 和 Envoy,可以用 Go/Rust/JS 等编写 Wasm 插件,提供了数十个现成的通用插件。 Higress 和 OneAPI 的对比 下面的表格从多个维度对比了 OneAPI 和 Higress 之前的差异: 差异项 OneAPI Higress 核心功能 AI 网关 具有 AI 网关功能的 云集成 无 可以和阿里云上的各类云产品集成,例如借助 SLS 实现 AI 数据分析能力 Higress 作为 AI 网关的优势 Higress 作为 AI 网关,具备以下几大优势: 统一管理与灵活扩展 快速体验 Higress AI 网关 Higress AI 网关支持一行命令安装: curl -sS https://higress.cn/ai-gateway/install.sh | bash 执行完命令后可以通过命令行初始化配置 ,可以看到,Higress 的 AI 网关能力支持对接国内外所有主流 LLM 模型供应商: 也可以选择跳过这个步骤,到 Higress 的控制台进行配置对应供应商的 API Key: 配置后,就可以直接使用了
本文介绍 Higress 将 Wasm 插件的运行时从 V8 切换到 WebAssembly Micro Runtime (WAMR) 的最新进展。 Higress Wasm 插件Higress 作为首个推出 Wasm 扩展能力的云产品网关,从 2022 年就上线了 Wasm 插件市场,我们使用 Wasm 技术作为主要的网关扩展手段,是因为它能为用户带来的独特价值 Higress 站在 Istio/Envoy 的肩膀上,为 Wasm 插件机制增加了三个核心能力:域名/路由级生效:Istio/Envoy 自带的全局生效方式难以满足大部分场景需求,而基于 Higress 从 Higress 的企业用户看 Wasm 插件技术的采用周期,已经跨域过鸿沟,步入早期采用大众阶段,核心的驱动力是性能红利带来的成本下降。 在 Higress 将 Wasm 运行时从 V8 替换为 WAMR 后,Wasm 插件的性能对比之前又有了大幅提升。
helm install higress -n higress-system higress.io/higress --create-namespace --render-subchart-notes --set global.local=true --set higress-console.o11y.enabled=false --set higress-console.domain=console.higress.io To learn more about the release, try: $ helm status higress -n higress-system $ helm get all higress -n higress-system 1. : 1 labels: higress.io/domain_demo.kubesre.com: "true" higress.io/resource-definer: higress
Higress Controller:作为配置管理的核心,Higress Controller 将用户定义的网关配置翻译成 Istio 和 Envoy 可以理解的指令,确保系统的高效运行。 以下是 Higress 与其他网关(如 Kong、Tyk、AWS API Gateway)的对比分析: 特性 Higress Kong Tyk AWS API Gateway 云原生支持 基于 Istio 快速入门 对于希望尝试 Higress 的开发者,可以通过以下步骤快速开始: 访问官方资源:浏览 Higress 官方网站 或 GitHub 仓库 获取详细文档。 探索控制台:Higress 提供开箱即用的控制台,涵盖服务、路由、域名和证书管理功能,可通过 Higress Console 体验。 通过其对行业标准的支持和丰富的生态系统集成,Higress 为企业现代化 API 基础设施提供了强有力的支持。立即访问 Higress 官方网站,开启您的云原生网关之旅!
目录微擎面板:云原生管理的实践利器Higress:下一代云原生网关技术解析网关选型的底层逻辑与实践考量微擎 × Higress:功能落地与场景验证技术价值与未来拓展方向微擎面板:云原生管理的实践利器核心定位基于超十年运维经验沉淀 Higress:下一代云原生网关技术解析技术起源与定位由阿里云开源的云原生网关,整合传统流量网关、微服务网关、安全网关功能,历经阿里内部核心业务场景验证,2022 年正式开源。 微擎 × Higress:功能落地与场景验证分层管理与智能路由体系"站点 + 子应用" 架构:实现多域名集中管控,单站点支持多域名绑定,适配企业多业务线独立运营与统一管理需求精细化路由:支持路径、HTTP 实现外部服务精准转发,通过连接池复用与负载均衡提升转发效率CDN 加速集成:将面板服务器作为 CDN 节点,实现内容缓存与就近分发,结合边缘计算优化长尾请求响应技术价值与未来拓展方向整合价值总结微擎面板与 Higress 提升跨集群网关协同效率强化安全防护体系,集成更多企业级安全插件参考资料:微擎面板:https://github.com/w7corp/w7panelHigress:https://github.com/alibaba/higress
接下来,小傅哥就带着大家实践下阿里旗下 Higress AI 网关能力的使用。 一、网关介绍 官网:https://higress.io/源码:https://github.com/alibaba/higress文档:https://higress.cn/ai/quick-start 案例工程 地址:https://github.com/fuzhengwei/xfg-dev-tech-higress-ai 说明:案例工程,提供了部署 Higress AI 网关脚本(+redis环境) :8443 \ # higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest higress-ai : image: higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest container_name
今天,我将向大家展示如何利用 Nacos 和 Higress 实现这一目标,真正做到零代码改造存量服务。 环境准备 在开始实践之前,我们需要准备三个中间件:Nacos、Higress 以及Redis。 部署 Higress 执行以下命令启动Higress网关: docker run -d --rm --name higress-ai -v "${PWD}:/data" -p 8001:8001 -p 成功登录后即可看到Higress控制台主界面。 进入之前创建的Higress数据目录(如 D:\higress-data): 找到 higress-config.yaml 配置文件并打开编辑: 在配置文件中主要修改这两项内容: 保存配置文件后,执行以下命令重启 Higress容器: docker restart higress-ai 4.配置MCP Registry 最后一步是将Nacos配置为Higress的MCP Registry服务来源。
官网:https://higress.io/zh-cn/ 源码:https://github.com/alibaba/higress 部署:https://github.com/higress-group /higress-standalone - 独立运行版,用于测试 案例:https://gitcode.net/KnowledgePlanet/road-map/xfg-dev-tech-higress 一、Higress 介绍 Higress 是基于阿里内部两年多的 Envoy Gateway 实践沉淀,以开源 Istio 与 Envoy 为核心构建的云原生 API 网关。 软件准备 1.1 方式一 在你的 Linux 服务器,通过 Git 命令检出安装项目; git clone https://github.com/higress-group/higress-standalone.git 1.2 方式二 手动下载;https://github.com/higress-group/higress-standalone/archive/refs/heads/main.zip 在通过 ssh
Nacos 可以帮助应用快速把业务已有的 API 接口,转换成 MCP 协议接口,结合 Higress AI 网关,实现 MCP 协议和存量协议的转换。 请求解析出来,通过用户配置的参数映射信、Path、后端地址等信息,Higress 生成后端的 HTTP 调用请求,并进行调用。 -Ls https://raw.githubusercontent.com/alibaba/higress/main/tools/hack/get-hgctl.sh | bash 在本地部署 higress /kubectl /usr/bin/kubectl 部署 redis docker run --name higress-redis -d redis 修改 ConfigMap 让 Higress 连接到 Nacos kubectl -n higress-system edit cm higress-config 将红框部分替换为一下内容, 即在原本配置中,data.higress 中增加 mcpServer
requests.get(api_url).json()启动MCP服务器# 本地stdio模式(适合Claude/Cursor本地连接)mcp.run(mode="stdio")# 远程SSE模式(需配合Higress :@mcp.tool:装饰器自动注册工具函数mode="stdio":通过标准输入输出通信,无需网络transport="streamable-http":支持云部署和远程调用三、方案二:Nacos+Higress 环境部署(Docker)# 创建共享网络docker network create mcp# 启动Higress网关docker run -d --name higress -p 8080:8080 \ --network mcp higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest# 启动Nacos注册中心docker 设置订单超时时间 mcp.session.set("order_expire", "2025-12-31 23:59:59")六、避坑指南:安全与性能优化实践敏感数据隔离使用环境变量存储API密钥Higress
Higress MCP 服务器托管 (使用 Envoy WASM) ーー企业网关解决方案 Higress MCP 服务器支持与其他框架有很大的不同。 5.1 Higress MCP的优点 Higress 的方法对于那些从一开始就需要强大的安全性、监控和可伸缩性的企业或云部署来说非常出色。 5.2 Higress MCP的不足 主要是复杂性和特异性。要使用这个解决方案,需要操作 Higress 网关,这对于一个小项目来说并不容易。它最适合使用 Kubernetes 或虚拟机的云环境。 5.3 Higress MCP的典型场景 Higress MCP 是为已经使用 API网关的生产环境量身定制的。 5 Higress MCP 托管 (Envoy WASM) 较难:不是库而是网关解决方案,需掌握 Higress + Go WASM 插件开发技能。
最终 Higress 胜出 Aliware 除了以上重点的项目,我们还测试了很多其他项目,我这里就不一一列举了。Sealos 最终选了 Higress。 我们目前选择网关的逻辑很简单,主要就是在满足功能的前提下足够稳定,最终选择 Higress 几乎是排除法得出来的。 稳定性是排在第一位的,在我们的场景里面能够达到生产可用的目前只有 Higress。 不过实践过程中也出现过一些问题,好在 Higress 社区的支持力度很大,很快速的解决了,主要有几个: 1. Higress 还兼容 Nginx Ingress 语法,主要是一些 annotations,我们之前的代码都是用的 Ingress,所以几乎没有任何迁移成本,直接几分钟的升级就可以搞定。 同样为了促进社区更好的发展我们也给 Higress 一些意见: 能对 Gateway 的标准有更好的支持,目前虽然已经支持了 v1 版本,但还没有完全兼容 Ingress 上的能力。
集成现有API • 通过Nacos + Higress方案,将存量HTTP API转换为MCP协议,无需修改代码: • Nacos注册服务元数据,Higress网关处理协议转换。