- 部署規模以數千萬個 Graviton 核心起步,並具備進一步擴展的潛力
- Meta 現已成為全球最大的 Graviton 客戶之一
- 是次合作建基於 Meta 與 AWS 的長期合作關係,以及 Meta 大規模使用 Amazon Bedrock 以支援其新一代 AI 發展
Meta 與 AWS 宣布簽署協議,Meta 將大規模部署 AWS Graviton 處理器,以支援其新一代 AI 系統建設,標誌雙方長期合作關係的重大進展。本次部署初期規模達數千萬個 Graviton 核心,並可隨 Meta AI 發展需要持續擴展。
AI 基建架構轉變 CPU 需求大增
此合作反映 AI 基建正在轉型:雖然 GPU 仍主要用於大型模型訓練,但隨著 Agentic AI 應用增加,CPU 密集型工作負載——包括即時推理、程式碼生成、搜尋及多步驟任務協調——的需求大幅上升。Graviton 正是針對此類工作負載設計,為 Meta 提供大規模高效運行所需的處理能力,並可處理數十億次互動及協調複雜的 Agentic 工作流程。
Graviton5 晶片配備 192 個核心,快取記憶體容量為上一代的五倍,核心間通訊延遲最高可減少 33%,效能較上一代提升達 25%,為需要持續推理的 Agentic AI 系統提供關鍵支援。
晶片建基於 AWS Nitro System,支援裸機執行個體,讓 Meta 能直接存取硬件並運行自身虛擬機器。Graviton5 亦支援 Elastic Fabric Adapter(EFA),實現執行個體間低延遲、高頻寬通訊,對需分配到眾多處理器協調運作的大規模 Agentic 任務至關重要。
節能優勢助力可持續發展
Graviton5 採用 3 納米晶片技術,AWS 從零開始設計晶片並全面掌控從晶片設計到伺服器架構的完整流程,能以現成處理器無法比擬的方式最佳化效能與能源效率,協助 Meta 在追求 AI 目標的同時推進可持續發展。
Amazon 副總裁兼傑出工程師 Nafea Bshara 表示:「這不僅關乎晶片,更是為客戶提供基礎設施根基,以及數據和推理服務。Meta 部署數千萬個 Graviton 核心,展示了專門設計晶片與完整 AWS AI 技術堆疊結合,如何驅動新一代 Agentic AI。」
Meta 基礎設施主管 Santosh Janardhan 表示:「多元化運算資源是一項戰略要務。擴展至 Graviton 讓我們能以所需效能和效率,大規模運行 Agentic AI 背後的 CPU 密集型工作負載。」
本次合作標誌著大規模 AI 基礎設施建設的新篇章,展示專門設計晶片如何協助企業為全球用戶提供更智能的體驗。
