</>下载量破万，《AI 原生应用架构白皮书》免费下载下载量破万，《AI 原生应用架构白皮书》免费下载点此了解

Higress AI Gateway Background

Sandbox Project

AI 网关快速集成 LLM API AI Agent LLM API

开源 AI 网关，为 Agent 开发、LLM API 管理提供生产级能力
提供免费开源版与云上商业版，统一接入模型、工具和 MCP Server

👋 选择适合您的方案

Serverless 0 元起步

阿里云 AI 网关 Serverless

Serverless 标准版 0 元起步，按实际用量付费

全托管免运维，按调用量自动弹性伸缩
统一承载 LLM / Agent / MCP 核心能力
生产可选企业版，提供 99.95% SLA

企业版支持独立入口、自定义域名和传输加密配置

了解阿里云 AI 网关

快速体验 5 分钟

本地部署，5 分钟验证核心能力

无需注册，Docker 一键启动
接入 OpenAI/Claude/国产大模型
完整文档 + 可运行示例代码

产品介绍 3 分钟阅读

深入了解产品能力与企业实践

AI 网关核心能力与技术架构
头部企业客户案例与 ROI 分析
版本对比、定价与 TCO 计算器

或直接体验在线 Demo 开源体验

News

从新版 MCP 到 Gateway API 推理扩展，读懂关键变化

MCP Server 更新

拥抱 MCP 2026-07-28，兼容既有协议

MCP 重回 HTTP

再次证明架构设计和工程实践才是稀缺资源

接入 Qwen3Guard

不改一行业务代码，把 AI 内容安全做进网关主链路

AI GATEWAY ARCHITECTURE

一个 Higress，统一治理三类 AI 流量

统一接入模型 API、MCP 工具与 Kubernetes 推理工作负载

AI Apps & Agents 统一入口

Higress AI Gateway

ONE GATEWAY

LLM Gateway 模型 API 治理

统一协议Token 治理

Model APIs

MCP Gateway 工具调用治理

MCP 代理协议转换

Tools & MCP Servers

Model Gateway Gateway API Inference Extension

InferencePoolEndpoint Picker

Inference Workloads

安全防护流量治理可观测

Model APIs

Tools & MCP Servers

Inference Workloads

场景体验

提供开源版本和商业化产品的两种渠道，一键体验AI应用场景。

多模型代理

阅读时长: 5 分钟

AI 网关能够将外部调用不同大模型的请求，通过统一的调用方式转发到内部对应的大模型上，使得后端模型调度更加灵活；Higress.a i支持常用的 100+ 个模型的统一协议转换，并支持模型级 Fallback。

多模型代理

AI 网关能够将外部调用不同大模型的请求，通过统一的调用方式转发到内部对应的大模型上，使得后端模型调度更加灵活；Higress.a i支持常用的 100+ 个模型的统一协议转换，并支持模型级 Fallback。

应用防护

阅读时长: 8 分钟

AI 网关能够保护和大模型交互时的数据安全，一方面对于输入到外部模型的数据进行隐私保护，另一方面对于输出给用户的数据进行内容过滤。

应用防护

AI 网关能够保护和大模型交互时的数据安全，一方面对于输入到外部模型的数据进行隐私保护，另一方面对于输出给用户的数据进行内容过滤。

AI 缓存

阅读时长: 6 分钟

AI 网关支持精确缓存及语义缓存推理的结果上下文，对于常见的相似/重复的问题节省 Token 并减小时延，从而提升调用体验。

AI 缓存

AI 网关支持精确缓存及语义缓存推理的结果上下文，对于常见的相似/重复的问题节省 Token 并减小时延，从而提升调用体验。

Token 管控

阅读时长: 7 分钟

AI 网关能够对大模型使用的 Token 数量进行追踪，在消费者使用超额时进行限制，从而更好管理调用 AI 应用的用户额度，为 Token 使用分析提供数据支持。

Token 管控

AI 网关能够对大模型使用的 Token 数量进行追踪，在消费者使用超额时进行限制，从而更好管理调用 AI 应用的用户额度，为 Token 使用分析提供数据支持。

AI 应用场景下的最佳实践服务于多领域企业级用户

面对大规模应用 AI 技术时出现的多模型接入、缺乏统一流量治理等问题，携程选择基于 Higress 构建 AI 网关。该方案具有技术沉淀深厚、扩展性强等优势，通过统一管理大模型服务和 MCP 服务接入，实现了认证鉴权、流量控制、模型映射等功能。目前系统稳定运行，支持多场景，未来将优化存量化 HTTP API 向 MCP 服务的转化能力。

携程旅游的 AI 网关落地实践

从 2023 年至今，君润人力开始在 AI 领域进行持续探索，其中，如何构建能够交付不同岗位工作结果的数字员工（智能体）是探索的重点，截止目前君润已经有超过 1000 名数字员工 7X24 小时工作，累计节约人力成本超过上千万，而这些 higress 提供了极大的助力。

这家公司使用 MCP，已向企业交付 1000 名数字员工

在MCP服务托管方案中，Higress 负责接收 MCP 请求并完成协议卸载，提供统一的身份认证、流量调度、参数映射与安全审计等能力，使开发者能在不深入了解 MCP 协议细节的情况下，快速将现有服务暴露为 MCP Server。

阿里巴巴 MCP 分布式落地实践：快速转换 HSF（Dubbo）到 MCP server

SOFA AI 网关是基于开源 Higress 内核构建的智能化网关解决方案，针对 AI 业务场景深度优化。聚焦安全防护、流量管控、语义缓存、构建金融MCP市场等核心功能。该网关通过智能路由、统一接入等特性，有效解决了 AI 场景下的高延迟、资源消耗大等挑战，显著降低了模型接入复杂度，提升了智能体研发效率。

SOFA AI网关落地实践

Higress在开源的 wasm client 上做了封装，更方便开发者做插件的开发，比如做了插件生效的范围控制，并且社区已有很多插件能力可以直接使用。Higress在多数据源这块集成了多种主流注册中心，这些能力可以直接复用，不用重复建设。

网关技术债怎么还？分层、插件、统一，三件套

Higress MCP 市场提供了完善的解决方案，通过它可以快捷地将今日投资丰富的金融数据 API 转化为 MCP 工具，用户可以通过 MCP 的方式非常轻松地调用专业金融数据，自由快速地构建自己的金融大模型应用。由此，今⽇投资推出了今日投资⾦融数据 MCP 服务，提供一站式的金融数据 MCP。

20年金融投资数据沉淀，正式开放 MCP 能力