数据中心运营商 Equinix 发布了面向企业的分布式 AI 推理项目 Equinix Inference Exchange。该项目把英伟达经过验证的架构与 Together AI 的推理平台,叠加在其覆盖全球 77 个都市圈的自有数据中心之上,计划于 2027 年第一季度开始提供。
争论点已从训练转向「推理在哪里跑」
关于生成式 AI 的讨论往往集中在模型性能上,但真正影响企业落地的是部署位置,也就是训练完成的模型究竟在哪里执行。响应速度、每个 token 的成本、数据是否会流出境外,基本上都由推理运行的地点决定。
Equinix 这次给出的思路,是用互联基础设施而不是单一云来解决部署问题。该公司在全球 77 个都市圈运营 280 多个数据中心,接入了 230 个云 onramp 和超过 10,500 家企业。前十大 AI 模型提供商中有 8 家、前十大 AI 云服务商中有 9 家部署在其设施上,这种不依赖特定厂商的中立定位一直是它的卖点。
发布地点在美国加利福尼亚州红木城,场合是该公司首次举办的客户与合作伙伴活动 Equinix Horizon。
电力、GPU 与模型平台分成三层
Inference Exchange 的结构清晰之处,在于把职责干净地切成了三层。
Equinix 负责底座,提供电力、高级冷却设备和运维支持服务。这些通过该公司的互联服务 Equinix Fabric,连接到工作负载所需的云、网络和 AI 服务商。
在此之上,英伟达提供经过验证的配置模板 Enterprise Reference Architectures,以及针对 AI 工厂优化的基础设施,目标是把吞吐量拉满、把每个 token 的成本压低,省去企业从零设计配置的工夫。
最上层的模型平台由新加入的合作伙伴 Together AI 承担。其平台支持 200 多个开源模型,同时提供靠共享使用提升效率的多租户配置,以及面向需要独占资源的工作负载的单租户配置。
Together AI 联合创始人兼首席执行官 Vipul Ved Prakash 表示,企业不应该被迫在模型性能和运营灵活性之间二选一。英伟达负责全球 AI 云基础设施生态的副总裁 Raj Mirpuri 则称,这样的组合能让企业把智能放在离数据、应用和客户更近的位置。
设想中的三种用法
Equinix 列出了 3 种用途。
第一是都市边缘推理,在靠近用户和数据的地方跑推理,把延迟压下来。第二是向开源模型迁移,为出于成本管控或规避厂商锁定而离开闭源模型的企业,准备一个可用于生产环境的落脚点。第三是主权 AI,让处于强监管行业或特定地区的企业,在满足数据存放地与数据主权要求的位置运行工作负载。
这 3 种用法都围绕「能放在哪里」而不是「跑得多快」来组织,正好对应企业把 AI 从试验推向生产后遇到的难题。The Futurum Group 负责 AI 平台的 Nick Patience 也指出,随着工作负载分散在不同服务商和数据源之间,性能、成本与治理已经成为经营层面的课题。
连接这一侧交给 Fabric One
同一场活动上,Equinix 还发布了把连接本身自动化的托管服务 Equinix Fabric One。用户只要指定想连接的对象和要求,服务就会判断并自动开通所需的连接,其中包含路由、加密、冗余和故障切换。指定方式除了门户和 API,还支持自动化工作流、来自智能体的请求以及自然语言提示。
底层采用的是 AWS 与 Google Cloud 共同制定的开源连接规范 OpenAPI 3.0 Interconnect。目标是让应用和 AI 智能体无需人工介入,就能以程序方式发现、请求并开通连接,这显然是为正在转向智能体架构的企业设计的。
Fabric One 将于 2026 年下半年开始测试,先在北美市场于 2027 年内正式提供。与 Inference Exchange 的 2027 年第一季度相加,这两块要凑齐都得等到明年。
总结
Equinix Inference Exchange 把 AI 推理重新理解为「在哪个都市的哪个设施里运行」,而不是「在哪朵云上运行」。Equinix 出电力和连接,英伟达出配置模板,Together AI 出开源模型的运行平台,企业自行搭建的负担因此减轻。提供时间从 2027 年第一季度开始,配合负责连接自动化的 Fabric One,实际成色要到明年才看得清楚。
