apisix

Apache APISIX API Gateway｜AI Gateway Apache APISIX 是一个动态、实时、高性能的 API 网关。APISIX API Gateway 提供了丰富的流量管理功能，如负载均衡、动态上游、canary 发布、断路保护、身份验证、可观察性等。您可以使用它来处理传统的北南流量，以及服务之间的东西向流量。它还可以用作 Kubernetes 入口控制器。目录 - 为什么选择 APISIX - AI Gateway - 开始使用 - 功能 - 基准 - 社区 - 用户故事 - 谁使用 APISIX API Gateway？ - 标识 - 感谢 - 许可 为什么选择 APISIX APISIX 基于 NGINX 和 etcd 构建。与传统的 API 网关相比，APISIX 具有动态路由和插件热加载功能，特别适用于微服务架构下的 API 管理。Apache APISIX: AI Gateway 的技术架构 APISIX 可以通过其灵活的插件系统充当 AI Gateway，提供： - 通过统一接口将流量路由到不同的 LLM 提供商的 AI 代理。 - 跨多个 LLM 进行负载均衡、重试和回退，以确保 AI 代理的效率和可靠性。 - 基于令牌的速率限制，以控制成本并保护上游模型。 - 对 AI 工作负载的身份验证、授权和流量控制的强大安全性。APISIX 还提供了 mcp-bridge 插件，可无缝地将基于 stdio 的 MCP 服务器转换为可扩展的 HTTP SSE 服务。 开始使用 安装并使用快速启动脚本（需要 Docker）运行 APISIX： shell curl -sL https://run.api7.ai/apisix/quickstart | sh 这将启动 APISIX（监听端口 9080）以及其 etcd 配置存储。验证它是否在运行： shell curl "http://127.0.0.1:9080" --head | grep Server 通过管理 API（端口 9180）创建您的第一个路由，以代理请求到上游服务： shell curl -i "http://127.0.0.1:9180/apisix/admin/routes/1" -X PUT -d ' { "uri": "/get", "upstream": { "type": "roundrobin", "nodes": { "httpbin.org:80": 1 } } }' 通过 APISIX 发送请求以确认路由是否正常工作： shell curl "http://127.0.0.1:9080/get" 要了解更多信息，请阅读《获取…