WEKA 與 Andromeda 攜手合作，為全球規模的 A

WEKA and Andromeda: powering AI teams building at the frontier

確保 GPU 在任何環境下都能全速運行

Andromeda 的使命是讓每個前線團隊都能使用高效能運算，由創意驅動突破，解開硬件限制。該公司與頂尖的 AI 實驗室、數據中心和雲端供應商合作，將訓練和推論工作分派至全球供應鏈。Andromeda 在全球擁有超過 50 間運算供應商，透過日益壯大的全球託管集群網絡，分派訓練和推論工作負載。    

在 Andromeda 的平台上，無論基建由誰營運，每個集群都必須符合相同的品質基準；該公司在將集群交付客戶前，會對其 GPU、儲存、網絡架構和安全性進行認證。而此標準揭示了一個難題：每個供應商都有自己的儲存環境，導致各個集群之間的效能差異極大。   

透過 WEKA，Andromeda 顯著提升現有硬件的效能，實現數分鐘內完成部署、統一跨供應商，並降低儲存成本。

Andromeda 行政總裁 Wil Moushey 表示：「我們的目標是實現全球運算資源的流動，爲此我們交付的每個集群都必須表現出色，無論其容量源自何處。在儲存和記憶體這個決定效能成敗的層面上，採用 WEKA NeuralMesh 作為標準，為我們的客戶帶來超大規模級別的統一，同時兼具開放市場的靈活性。閒置的 GPU 正在拖慢 AI 創新的步伐。WEKA 幫助我們確保所管理的每個 GPU 都能物盡其用。」

GPU 原生 AI 儲存與記憶體，數分鐘內完成部署

當研究實驗室發現其工作負載受到集群提供儲存的瓶頸限制時，Andromeda 在相同的硬件上部署了 NeuralMesh Axon，無需額外基建，便釋放該實驗室所需的效能。

NeuralMesh Axon 是 NeuralMesh 軟件平台的 GPU 原生部署版本，將儲存直接融合到 Andromeda 的 GPU 伺服器中，並將每個集群現有的 NVMe 轉換為統一的高效能數據層，以全速為訓練和推論提供數據。由於這些基建早已完成機架裝設、供電及付款，因此能在不增加佔用空間、功耗或成本的情況下提升效能。

透過使用 NeuralMesh Kubernetes Operator，Andromeda 可以在數分鐘內建立一個完整的 NeuralMesh 集群，並透過運行堆疊中其他各層的相同工作流程管理其整個集群隊列。在 Andromeda 的 NeuralMesh 部署中，約有一半運行 NeuralMesh Axon；其餘則為需要將每個 GPU 核心和每 GB 記憶體專用於其工作負載的客戶，運行專用的 NeuralMesh 部署。無論部署在何處，NeuralMesh 都能提供相同的效能基礎，不受底層硬件供應商的影響。這種可靠性能讓 Andromeda 能夠將客戶引導至以往沒有共享儲存的集群上。  

對 Andromeda 而言，其影響顯而易見：

• 第一天即可準備就緒。全新 NeuralMesh Axon 集群部署時間可短至 10 分鐘，以便 AI 團隊在集群上線當天即可開始運行工作負載。
• 快速迭代。在 Andromeda 託管集群上進行開發的 AI 團隊，其環境啟動加載時間從 3 分鐘縮短至 30 秒，每天得以進行更多實驗。
• 大規模下的高效能。在 Andromeda 上運行的 NeuralMesh Axon 集群，於生產環境中實現每個集群超過 400 GB/s 的持續吞吐量和超過 600 萬的 IOPS。此效能讓 Andromeda 的一間生物科技客戶，能夠在數分鐘內完成涉及每個目錄十億個檔案的元數據密集型傳輸，而無需花上數小時。
• 原生韌性。當故障可能在 Andromeda 集群中引發連鎖反應時，NeuralMesh 會加以控制並保持集群可用，從而保護每個客戶的工作負載。

Andromeda 首席架構師 Vishvajit Kher 表示：「Andromeda 的首次 WEKA NeuralMesh Axon 部署，從裸機到完成僅需 10 分鐘。這成為了我們的藍圖。如果雲端供應商不提供共享儲存，我們亦不再受阻。我們部署 WEKA NeuralMesh，並且確信其能發揮效能。這是一個功能齊全的系統，較市場上的替代方案便宜高達 90%，隨著我們規模的擴大，節省的成本亦會不斷疊加。節省下來的每一分錢都直接惠及我們服務的 AI 團隊。」

WEKA 聯合創辦人兼行政總裁 Liran Zvibel 表示：「Andromeda 正在解決 AI 基建中最困難的一個問題：讓來自 50 多個不同供應商的運算資源，感覺就像單一平台運作一樣。WEKA NeuralMesh 將此服務承諾延伸至數據層，實現在數分鐘內完成部署，並在世界任何地方、任何 GPU 供應商的硬件上，全速為訓練和推論工作負載提供數據。在 Andromeda 上進行開發的團隊，可以完全跳過儲存問題，專注於創新。我們共同協助 AI 團隊縮短從概念到成果的時間。」

延伸至最新一代的 AI 基建

Andromeda 正在其全球平台上部署 WEKA NeuralMesh，涵蓋專用部署和 GPU 原生部署。隨著 Andromeda 擴展其全球平台，此合作關係已延伸至下一代 AI 硬件。

有興趣在 Andromeda 上運行工作負載的 AI 團隊，可前往 andromeda.ai 開始使用。