新葡萄8883论坛-欢迎您

NVIDIA DGX A100
NVIDIA DGX A100
适用于所有AI工作量的通用系统
NVIDIA DGX™ A100是适用于所有AI工作负载的通用系统--从分析到训练到推理。DGX A100 为密集计算设定了新的标准,将5 petaFLOPS的AI性能封装在6U的外形尺寸中,取代了传统的计算能力。统一的单一系统,实现了对基础架构的精细化分配。此外,DGX A100还提供了前所未有的精细 化计算能力分配能力,利用NVIDIA A100 Tensor Core GPU中的多实例GPU功能,管理员可以为特定的工作负载分配大小合适的资源。这就确保了在支持最大和最复杂的工作的同时,也支持 最简单和最小的工作。在运行DGX软件找与NGC的优化软件的同时,密集的计算能力与完整的工作负载灵活性相结合, 使DGX A100成为单节点部署以及使用NVIDIA DeepOps部署的大规模Slurm和Kubernetes集群的理想选择。
下载数据手册
我们的优势
最快的解决时间
NVIDIA DGX A100采用8颗NVIDIA A100 Tensor Core GPU,为用户提供了无与伦比的加速能力,并针对 NVIDIA CUDA-X™软件和NVIDIA端到端的数据中心解决方案栈进行了全面优化。NVIDIA A100 GPU带来了全新的精度--TF32,其工作原理与FP32—样,同时为AI提供了比上一代更高的20倍的FLOPS,最棒的是,无需修改代码就能获得这样的加速。而且在使用NVIDIA的自动混合精度时,A100还提供额外的使用FP16精度,只需增加一行代码,就能将性能提升2倍。A100 GPU还具有 A100 GPU采用了领先于同级别的1.6兆字节/秒(TB/S)的 内存带宽,比上一代增加了70%以上。此外,DGXA100 GPU的片上内存大幅增加,其中包括40MB的Level 2级缓存,比上一代增加了近7倍,最大限度地提高了计算性能。此外,DGXA100还首次推出了NVIDIA新—代 NVLink™,将GPU到GPU的直接带宽提高了一倍,达到了600GB。芯片组采用了全新的NVIDIA NVSwitch,速 度比上一代产品快 2倍。这种前所未有的强大性能提供了最快的解决时间,让用户能够解决以前不可能或不实用的挑战。
世界上最安全的企业级AI系统
NVIDIA DGX A100为您的AI企业提供了最强大的安全防护,通过多硬件和软件组合组件达到多层的安全。DGX A100内建的安全防护功能涵盖了底板管理控制器 (BMC)、CPU板、GPU板、自加密驱动器和安全启动,使研究就人员能够专注于AI的运营,而不是将时间花在威胁评估和缓解上。
无与伦比的数据中心可扩展性 (Mellanox支持)
NVIDIA DGX A100拥有所有DGX系统中最快的I/O架构,它是NVIDIA DGX SuperPOD™这样的大型AI集群的基础架构,是企业级可拓展架构的蓝图。DGX A100拥有8个单端口的Mellanox ConnectX-6 VPI HDR InfiniBand适配器, 用于集群,1个双端口的ConnectX-6 VPI以太网适配器用于存储和网络,均能达到200Gb/s。海量的GPU加速计算与最 先进的网络硬件和软件优化相结合,意味着DGX A100可以 扩展到成百上千的节点或更多的服务器,以应对对话式AI和大规模图像分类等最大的挑战。
技术规格
NVIDIA DGX A100数据
类别 参数
GPU  8x NVIDIA A100 Tensor Core GPUs
GPU显存 共320GB
性能 5peta FLOPS AI, 10petaOPS INT8
NVIDIA NVSwitches 6
最大功率 6.5kW  max
CPU 双路 AMD Rome 7742, 共128 cores,2.25GHz(base),,3.4GHz(max boost)
系统内存 共1TB
网络 8x Single-Port Mellanox ConnectX-6 VPI
200Gb/s HDR InfiniBand
1x Dual-Port Mellanox ConnectX-6 VPI
10/25/50/100/200Gb/s Ethernet
存储 OS: 2x 1.92TB M. 2 NVME drives
Internal Storage: 15TB (4x 3.84TB) U.2 NVME drives
软件 Ubuntu
净重 271lbs (123 kgs)
打包重量 315lbs (143kgs)
规格 高: 10.4 in (264.0 mm)
宽: 19.0 in (482.3 mm) MAX
长: 35.3 in (897.1 mm) MAX
工作温度 5ºC to 30ºC (41ºF to 86ºF)

QQ
返回顶部
Baidu
sogou