Oracle 与 NVIDIA宣布,计划将配备 NVIDIA Vera Rubin NVL72 系统的 Oracle Cloud Infrastructure (OCI) Superclusters 扩展至多吉瓦(multi-gigawatt)规模,以支持客户在 AI 训练、推理及 AI 智能体应用领域增长的需求。同时,双方进一步深化 AI 基础设施合作,宣布 NVIDIA Vera Rubin NVL72 以及 NVIDIA Vera CPU 已在 OCI 上正式上市。
此次深化合作,为客户提供了兼具 GPU 密集型(前沿模型训练与服务)与 CPU 密集型(AI 智能体在模型调用期间执行工具、测试代码和检索数据)任务所需的基础设施。客户可以独立扩展 CPU 和 GPU 资源以匹配具体工作负载,有助于减少闲置容量并提高基础设施利用率。
OCI Superclusters 助力企业以多吉瓦规模加速前沿 AI 推向市场
OCI Superclusters 结合了 NVIDIA NVL72 机架级系统、配备 NVIDIA Spectrum-6 交换机和 NVIDIA BlueField-4 DPU 的Oracle Acceleron 网络与 NVIDIA Spectrum-X 以太网架构,以及吉瓦级电力和散热设施,用以训练和服务大型 AI 模型。每个机架通过 NVIDIA NVLink scale-up 网络连接 72 个 GPU,同时 OCI 的多平面网络可扩展至数十万个 GPU。

本次针对 Vera Rubin 的扩展计划基于 OCI 现有配备 NVIDIA 的基础设施(包括 NVIDIA GB200 和 GB300 NVL72 系统)。NVIDIA 统一的 CUDA 软件基础和持续的软件优化,可协助客户在不同硬件世代间支持演进中的模型与工作负载。此外,OCI 还计划推出 NVIDIA HGX Rubin NVL8,在基于 x86 的服务器配置中提供通过 NVLink 连接的 8 个 Rubin GPU。
该计划中的平台配备两个 64 核 Intel Xeon 6 CPU、4 TB DDR5 内存以及 6.4 Tbps 的高速 RDMA 网络,为 AI 训练、微调与推理提供了灵活的部署选项。HGX Rubin NVL8 允许客户以较小的 8-GPU 配置采用新一代 Rubin GPU 技术,同时保持与基于 x86 应用的兼容性。
这种灵活性使客户能够随着需求的演进,将 AI 基础设施调整适应不同的模型与工作负载,在训练与推理中有效利用加速计算能力,提高基础设施投资效益。
OpenAI 展现了该基础设施如何支持前沿 AI。在阿比林(Abilene),OpenAI 已在包含超过 10 万个 NVIDIA Blackwell GPU 的 OCI Supercluster 上完成了 GPT-6 Astra 的训练与服务。
OpenAI 计算基础设施工程负责人 Sreekanth Pothanis 表示:“随着前沿模型的演进,我们需要能够跟上步伐的基础设施。OCI 上的 NVIDIA Vera Rubin 为我们提供了所需的计算性能与规模,以加速模型训练并支持高要求的 AI 工作负载。”
OCI 上的 NVIDIA Vera CPU 加速 AI 智能体背后的工作流程
AI 智能体不仅生成响应,还会调用工具、执行代码并检索信息以完成任务。这些 CPU 密集型操作的缓慢执行可能会推迟结果,导致 GPU 在模型调用之间等待。
配备 NVIDIA Vera CPU 的 OCI Compute 将高单线程性能与内存带宽相结合,帮助 AI 智能体更快地完成 CPU 密集型任务。高单线程性能可加速单个工具调用和代码执行,而高内存带宽则能在 AI 智能体运行并发任务时保持 CPU 核心的数据供应。这些能力共同帮助减少 GPU 闲置时间,并在工作负载扩展时保持稳定的性能。为了进一步支持这些工作负载,OCI Kubernetes Engine 允许客户独立扩展 CPU 和 GPU 资源,而 Oracle Acceleron 则为运行未授权或 AI 生成代码的工作负载提供基于硬件的隔离。
获得 OCI 上 NVIDIA Vera CPU 早期体验资格的客户(包括 OpenAI)正在探索其在各种 AI 工作负载中的潜力。
OpenAI 计算首席技术官 Uday Ruddarraju 表示:“OCI 上的 NVIDIA Vera CPU 提供了在我们快速增长的 AI 智能体沙盒工作负载中执行代码和运行工具所需的负载性能。我们正在将 Vera 投入 OCI 生产环境,以大规模支持这些工作负载。”
甲骨文公司 Oracle Cloud Infrastructure 总裁 Mahesh Thiagarajan 表示:“Oracle Cloud Infrastructure 为客户提供了推进前沿 AI 所需的性能、安全性与规模。我们与 NVIDIA 的合作将这些能力延伸至训练、推理和 AI 智能体领域。通过将NVIDIA Vera Rubin GPU 和 Vera CPU 与 Oracle Acceleron 网络及 AI 优化的数据中心相结合,我们正助力客户保持 GPU 高效运转与安全性,并随着需求的增长实现高效扩展。”
NVIDIA 超大规模与高性能计算副总裁 Ian Buck 表示:“AI 工厂必须具备高效性、耐用性与通用性——提供高效的计算,通过持续的软件进步维持使用价值,并在需求变化时服务于不同的模型与工作负载。与 Oracle 一起,我们将 Vera Rubin 和 Vera CPU 引入 OCI,帮助客户将更多基础设施投入使用,并在 AI 演进过程中持续保持其价值。”


京公网安备 11010202008829号