AI网关的性能公关正在滑向一种荒诞的微秒竞赛。MarkTechPost发布的2026年AI网关榜单里，Go语言编写的Bifrost凭11微秒宣称延迟拿下自托管性能第一，紧随其后的是Portkey与LiteLLM。不少团队在评估多模型接入层时，极容易被这种极端数字吸引，却忽视了过去数月内网关领域发生的最剧烈位移：关键开源项目遭遇恶意投毒，主力厂商相继被巨头并购并停更，计费规则的暗门层出不穷。
选型网关从来不是买一张跑分最高的显卡，而是给系统所有上游API凭证找一个守门人。
拆解微秒神话：被裁剪的测试口径
把11微秒当成生产环境的端到端收益，是工程选型中最常见的误读。查阅底层文档会发现，Bifrost在AWS t3.xlarge单节点上跑出的这个极值，仅仅是网关内部最窄口径的纯路由调度均值，它排除了JSON序列化及网络传输。在同一组官方基准里，请求本身的JSON序列化耗时为26.80微秒，响应解析耗时2.11毫秒，单次请求的平均总耗时实际上达到1.61秒。
对比指标同样存在口径错位。排名第三的LiteLLM所标称的8毫秒P95延迟，采集自4台实例集群在1,170 RPS下的内置响应头，而客户端感知的端到端P95全延迟实际上是150毫秒。厂商发布的对比测试往往带着预设脚本：Maxim公布的50倍性能差距，是在500 RPS基准下比拼两者的P99表现（1.68秒对比90.72秒），上游模拟60毫秒延迟下网关自身开销为0.99毫秒对40毫秒。
大模型调用链条中，底层推理动辄耗时数百毫秒甚至数秒。拿着内部调度的微秒级差异作为核心选型权杖，本质上是在用尺子量纳米级的积灰，却对屋子里的承重墙视而不见。
权力中枢的代价：供应链投毒与资本收编
AI网关是企业全量大模型凭证的物理聚集点。当系统将所有厂商的API密钥存放在同一套控制面时，这个节点就成为了攻击者眼中的阿喀琉斯之踵。
2026年3月24日，LiteLLM遭遇严重的PyPI供应链投毒。攻击者利用Trivy依赖漏洞获取权限，发布了带恶意凭证窃取代码的1.82.7和1.82.8版本。尽管官方初期通报称影响有限，但PyPI官方事后证实污染包在公网暴露达2小时32分钟，累计下载量超过11.9万次，项目随后被迫全面切换至Trusted Publishers发布机制。
网关供应链与控制权迁移节点
2026-03-03 | Mintlify 宣布收购 Helicone，后者即刻进入仅维护状态并引导客户迁移
2026-03-24 | LiteLLM 依赖项遭 PyPI 投毒，恶意外发包暴露达 2 小时 32 分钟
2026-05-29 | Palo Alto Networks 正式完成对 Portkey 的收购并并入 Prisma AIRS资本动作也在重构工具的生命周期。2026年3月3日，文档平台Mintlify收购Helicone，随即宣布后者进入仅维护模式，仅提供安全补丁并不再推进功能演进，直接要求存量客户外迁；5月29日，网络安全巨头Palo Alto Networks正式完成对Portkey的收购，将其吸纳进Prisma AIRS安全产品线。
网关交出的是数据咽喉，工具被大厂收编之日，往往就是开源自由度终结之时。
开源中间件从技术玩具走向工业生产，势必经历商业收缴。一旦底层网关所属权更迭，企业技术栈就不得不面临重写适配插件或被迫接受全家桶绑定的治理风险。
明码标价下的隐形账单
多模型路由的第二层陷阱藏在结算账单里。绝大多数产品宣传的极低门槛，往往通过拆分计费维度来实现。
商业API网关巨头Kong看似给出25美元/月的极低尝鲜价，但仅支持其Serverless控制面；若转为混合部署需200美元/月，专用云部署直接跳升至500美元/月。更为苛刻的是其增值模型费，每增加一个代理模型每月加收100美元，超额请求量每百万次加征200美元。
聚合平台同样在调整规则。OpenRouter已改按消费额度分润：开发者自带Key虽然享有每月2.5万美元模型标价的免费推理额，超出后平台将直接抽取5%网关服务费，且平台充值附带最高8%或0.80美元保底手续费。
即便标榜不收Token溢价的平台也有规则暗礁。Vercel AI Gateway提供直连路由，但在机制上规定，若开发者自带Key（BYOK）出现鉴权或配额失败，网关将自动回退至系统平台凭证并扣除账户预充值金额；而Cloudflare则在9月重写日志收费框架，免费版仅保留3天日志，超出额度按每百万次0.60美元计费，新规将于12月1日正式锁死。
- 风险.自建开源网关省去了软件许可费，但高可用集群部署（如Bifrost多节点集群功能划入企业版）、安全巡检及跨云日志管道的维护，往往会演变成更大的工程人力开销。
建立生产级选型沙盒
企业技术团队脱离概念验证阶段后，评价AI网关的核心不应再是支持模型的数量清单，而是应对网络边缘扰动的防御深度。
在敲定最终技术路线前，应当将备选组件置于真实流量沙盒内验证五项核心指标：流式输出异常切断时的重试机制、遇到上游429配额锁死时的降级路由、复杂工具调用（MCP）下的上下文传递开销、语义缓存对动态变量的命中损耗，以及自带Key失效时的真实计费兜底表现。
天下熙熙，皆为利来。当行业习惯用夸张的基准参数为技术镀金时，真正支撑业务平稳运转的，永远是对工程底线、依赖纯净度与持续成本的清醒核算。微秒级的浮华终会散去，留在生产环境里的，必须是一扇经得起敲打的门。