NVIDIA DGX A100
NVIDIA DGX A100
適用于所有AI工作量的通用系統
NVIDIA DGX? A100是適用于所有AI工作負載的通用系統--從分析到訓練到推理。DGX A100 為密集計算設定了新的標準,將5 petaFLOPS的AI性能封裝在6U的外形尺寸中,取代了傳統的計算能力。統一的單一系統,實現了對基礎架構的精細化分配。此外,DGX A100還提供了前所未有的精細 化計算能力分配能力,利用NVIDIA A100 Tensor Core GPU中的多實例GPU功能,管理員可以為特定的工作負載分配大小合適的資源。這就確保了在支持最大和最復雜的工作的同時,也支持 最簡單和最小的工作。在運行DGX軟件找與NGC的優化軟件的同時,密集的計算能力與完整的工作負載靈活性相結合, 使DGX A100成為單節點部署以及使用NVIDIA DeepOps部署的大規模Slurm和Kubernetes集群的理想選擇。
下載數據手冊
我們的優勢
最快的解決時間
NVIDIA DGX A100采用8顆NVIDIA A100 Tensor Core GPU,為用戶提供了無與倫比的加速能力,并針對 NVIDIA CUDA-X?軟件和NVIDIA端到端的數據中心解決方案棧進行了全面優化。NVIDIA A100 GPU帶來了全新的精度--TF32,其工作原理與FP32—樣,同時為AI提供了比上一代更高的20倍的FLOPS,最棒的是,無需修改代碼就能獲得這樣的加速。而且在使用NVIDIA的自動混合精度時,A100還提供額外的使用FP16精度,只需增加一行代碼,就能將性能提升2倍。A100 GPU還具有 A100 GPU采用了領先于同級別的1.6兆字節/秒(TB/S)的 內存帶寬,比上一代增加了70%以上。此外,DGXA100 GPU的片上內存大幅增加,其中包括40MB的Level 2級緩存,比上一代增加了近7倍,最大限度地提高了計算性能。此外,DGXA100還首次推出了NVIDIA新—代 NVLink?,將GPU到GPU的直接帶寬提高了一倍,達到了600GB。芯片組采用了全新的NVIDIA NVSwitch,速 度比上一代產品快 2倍。這種前所未有的強大性能提供了最快的解決時間,讓用戶能夠解決以前不可能或不實用的挑戰。
世界上最安全的企業級AI系統
NVIDIA DGX A100為您的AI企業提供了最強大的安全防護,通過多硬件和軟件組合組件達到多層的安全。DGX A100內建的安全防護功能涵蓋了底板管理控制器 (BMC)、CPU板、GPU板、自加密驅動器和安全啟動,使研究就人員能夠專注于AI的運營,而不是將時間花在威脅評估和緩解上。
無與倫比的數據中心可擴展性 (Mellanox支持)
NVIDIA DGX A100擁有所有DGX系統中最快的I/O架構,它是NVIDIA DGX SuperPOD?這樣的大型AI集群的基礎架構,是企業級可拓展架構的藍圖。DGX A100擁有8個單端口的Mellanox ConnectX-6 VPI HDR InfiniBand適配器, 用于集群,1個雙端口的ConnectX-6 VPI以太網適配器用于存儲和網絡,均能達到200Gb/s。海量的GPU加速計算與最 先進的網絡硬件和軟件優化相結合,意味著DGX A100可以 擴展到成百上千的節點或更多的服務器,以應對對話式AI和大規模圖像分類等最大的挑戰。
技術規格
NVIDIA DGX A100數據
類別 參數
GPU  8x NVIDIA A100 Tensor Core GPUs
GPU顯存 共320GB
性能 5peta FLOPS AI, 10petaOPS INT8
NVIDIA NVSwitches 6
最大功率 6.5kW  max
CPU 雙路 AMD Rome 7742, 共128 cores,2.25GHz(base),,3.4GHz(max boost)
系統內存 共1TB
網絡 8x Single-Port Mellanox ConnectX-6 VPI
200Gb/s HDR InfiniBand
1x Dual-Port Mellanox ConnectX-6 VPI
10/25/50/100/200Gb/s Ethernet
存儲 OS: 2x 1.92TB M. 2 NVME drives
Internal Storage: 15TB (4x 3.84TB) U.2 NVME drives
軟件 Ubuntu
凈重 271lbs (123 kgs)
打包重量 315lbs (143kgs)
規格 高: 10.4 in (264.0 mm)
寬: 19.0 in (482.3 mm) MAX
長: 35.3 in (897.1 mm) MAX
工作溫度 5ºC to 30ºC (41ºF to 86ºF)

QQ
返回頂部