产品概述
Higress.ai是基于Istio和Envoy构建的高级API网关平台，旨在统一流量管理、微服务发现、安全执行和AI网关功能。它通过Go、Rust或JavaScript的Wasm插件支持扩展性，并提供数十种即用型插件和直观的控制台。Higress实现了与主流LLM提供商的无缝集成，支持Model Context Protocol (MCP)服务器托管，并为LLM和MCP API提供统一管理。其强大的身份验证、可观测性和限流功能使其适用于企业和开发者用例，而其开源和基于云的部署选项提供了灵活性和可扩展性。
主要功能
| 统一网关架构 | 将流量、微服务、安全和AI网关角色整合到一个统一的平台中，实现简化管理和部署。 |
| 可扩展插件系统 | 支持使用Go、Rust或JavaScript开发Wasm插件，实现快速定制和新功能集成。 |
| MCP服务器托管 | 允许快速将OpenAPI规范转换为MCP服务器，使AI代理能够通过统一认证访问各种API，并提供详细的可观测性。 |
| 全面的安全控制 | 提供多层身份验证（Key Auth、JWT、OAuth2）、限流、请求过滤和WAF功能，保护API和AI服务访问。 |
| 丰富的可观测性与分析 | 为API和AI模型调用提供实时监控、审计日志和使用分析，支持精细的访问控制和成本管理。 |
| 灵活的部署选项 | 支持基于云和本地Docker部署，同时满足企业和个人开发者的需求。 |
使用场景
- 多模型AI代理：作为多个LLM提供商的统一访问层，实现模型间的无缝切换、负载均衡和治理。
- API安全网关：实现强大的身份验证、限流和请求过滤，保护后端服务并管理API访问。
- 微服务集成：发现并连接各种注册中心的微服务，支持混合环境和遗留系统。
- 代理开发和LLM API治理：促进AI代理框架的快速集成和管理，为LLM API提供统一的监控和策略执行。
- 内容安全和语义缓存：为AI驱动的应用程序提供开箱即用的内容审核、缓存和令牌管理解决方案。
