由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發者帶來高性能 AI 算力
【汽車焦點 資訊 原創】
當前,一個令人振奮的趨勢是,人工智能 (AI) 應用和功能正在各種邊緣側設備上快速擴展和普及。隨著 AI 的不斷發展和進步,對于 AI 研究員、數據科學家、開發者和學生而言,獲取高性能算力以開發或運行新的模型(如語言模型、視覺模型或多模態模型)變得至關重要。鑒于 AI 創新的步伐空前加快,行業需要確保開發者在云端及邊緣側均能獲得高性能算力,從而直接獲得更多的新功能。
為開發者實現唾手可得的突破性AI 性能
在今年的國際消費類電子產品展覽會 (CES) 上,NVIDIA創始人兼首席執行官黃仁勛在主題演講中發布了個人 AI 超級計算機 NVIDIA Project DIGITS,朝著 “隨處可開發和部署 AI” 的愿景又邁近了重要一步。基于 Linux 系統的 Project DIGITS 搭載了 Arm CPU 核心,使每位 AI 開發者都能擁有一套高性能的 AI 桌面系統。
圖:由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發者帶來高性能 AI 算力
Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超級芯片,搭載 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA?core和第五代 TensorCores,通過 NVIDIA NVLink?-C2C 片間互連技術實現連接,并配有 128GB 的統一的高一致性內存。NVIDIA Grace CPU 搭載了先進的高性能 Arm Cortex-X 和 Cortex-A 技術,配置 10 個 Cortex-X925 和 10 個 Cortex-A725 CPU 核心。NVIDIA GB10 超級芯片能以 FP4 計算精度提供高達 1 PFLOPS (1,000 TFLOPs) 的 AI 性能,使開發者能對 AI 大模型進行原型設計、微調和推理,同時還能與云端或數據中心環境無縫對接,實現協同工作。
Arm 計算平臺的價值
借助無處不在的 Arm 計算平臺,新的 AI 模型和應用能更高效、更快速地在邊緣側運行。在消費級技術市場,不論是用于 Project DIGITS的最新 Arm CPU,或是集成在Arm 終端計算子系統 (CSS) 的一部分,Arm CPU 技術已成為市場中高性能邊緣側設備的核心驅動力。這些CPU技術經過精心優化,可在各種實際用例和工作負載中實現最大性能和最高效率。
Arm 計算平臺還兼具靈活性,可針對不同的 AI 應用場景使用不同的計算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架構的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相協作,使開發者能夠將這些組件用于各種工作負載。這種異構計算策略對于最大化 AI 性能,同時管理內存利用率和功耗至關重要。
NVIDIA SoC 產品副總裁 Ashish Karandikar 表示:“我們與 Arm 在 GB10 超級芯片的合作上,巧妙地結合了 NVIDIA 的 AI 專業知識與 Arm 可擴展的計算平臺,實現了出眾的性能和能效,將推動下一代 AI 創新。隨著 Project DIGITS的推出,每位 AI 開發者和研究員都將能擁有一臺功能強大的超級計算機。”
釋放軟件創新的潛能
對于開發者而言,擁有一個完全集成的軟硬件 AI 平臺至關重要。ProjectDIGITS使用開源 Linux 操作系統,用戶可以訪問資源豐富的 NVIDIA AI 軟件庫,包括 NVIDIA NGC 目錄和NVIDIA 開發者門戶網站中提供的軟件開發套件、編排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。
Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在數據中心的合作,為數據中心和邊緣側設備環境提供一致的平臺架構,使開發者能夠無縫地使用同一套工具進行 AI 應用開發。此外,Arm 不斷積極推動開源開發者社區的重要工作,旨在開發出適配的軟件,加速AI 的全面部署。目前,全球已有超過2,000 萬軟件開發者在 Arm 計算平臺上構建自己的應用程序,共同推動著一個快速創新、日益壯大的開源社區。
賦予高性能 AI 算力的理想平臺
Arm 作為當前和未來 AI 領域應用最廣泛的計算平臺,自然而然地成為了 Project DIGITS 中 GB10 超級芯片的理想平臺。Project DIGITS是一個功能強大的個人計算機桌面平臺,能夠運行高達 200B 參數的 AI 大模型,讓原本的不可能變為可能。這種對 AI 生態系統的廣泛影響力,為全球數百萬開發者帶來了靈活、高性能且高能效的 AI 功能。通過與 NVIDIA 及 Arm 強大的軟件生態系統緊密的合作,我們翹首以待下一代極具創新的 AI 應用的問世。