近年来，随着人工智能技术的飞速发展，各行各业对高性能AI服务器的需求不断攀升。而在这一浪潮中，搭载英伟达“地表最强AI芯片”GB200的NVL72服务器凭借其卓越的性能和前所未有的计算能力，迅速成为市场的新宠，各大科技巨头纷纷扩大采购规模，使得这款服务器在市场上供不应求。
GB200 NVL72：地表最强AI芯片的实力
GB200 NVL72是英伟达在2024年GTC大会上发布的新一代AI专用GPU服务器。其核心架构为NVIDIA GB200 Grace Blackwell Superchip，通过NVLink-Chip-to-Chip（C2C）接口连接两个高性能的NVIDIA Blackwell Tensor Core GPU和NVIDIA Grace CPU，提供高达900GB/s的双向带宽。这一设计极大简化了编程，并支持万亿参数的多模态大模型，满足了大规模模拟和3D数据生成模型的更大内存需求。
GB200 NVL72的计算托盘基于全新的NVIDIA MGX设计，包含两个Grace CPU和四个Blackwell GPU，可提供80 petaflops的AI性能和1.7TB的快速内存。更重要的是，这款服务器支持在NVLink域中使用36和72个GPU，通过第五代NVLink技术，可在单个NVLink域中连接多达576个GPU，总带宽超过1PB/s，快速内存可达240TB。每个GPU具有革命性的1.8TB/s双向吞吐量，是PCIe Gen5带宽的14倍以上，为当今最复杂的超万亿参数的大型模型提供了无缝高速通信。
性能卓越：训练与推理的双重飞跃
在训练方面，GB200 NVL72与上一代的H100 GPU相比，性能提升显著。通过32k GB200 NVL72训练1.8万亿参数的GPT-MoE模型，性能可提升4倍。而在推理方面，借助新一代Tensor Core创新技术，以及引入了FP4精度和第五代NVLink等诸多技术，GB200 NVL72的整体效率提升了30倍。
这一性能飞跃得益于GB200 NVL72的多项技术创新。首先，其引入了更快的第二代变压器引擎，具有FP8精度，大幅提升了大型语言模型的训练速度。其次，Blackwell架构中的硬件解压缩引擎可以大规模本地解压缩压缩数据，加速端到端的分析管道，使得数据分析和数据科学用例的性能达到一流水平。
市场反响热烈：订单爆满，供不应求
凭借卓越的性能和前所未有的计算能力，GB200 NVL72服务器在市场上引发了抢购热潮。据媒体报道，搭载英伟达"地表最强AI芯片"GB200的AI服务器已开始出货，微软、Meta等巨头纷纷扩大采购更高规格的NVL72服务器。
据悉，GB200 NVL72服务器的平均单价约为300万美元（约合2139万元人民币），较NVL36机柜的平均售价高出66%。尽管价格不菲，但其卓越的性能和高效的计算能力使得各大企业不惜重金采购，这一热潮推动了英伟达在AI芯片市场的领先地位。
英伟达原本计划根据串联的CPU与GPU数量，将GB200分为NVL36和NVL72两种服务器，其中NVL72为最高等级。
原本NVL36的性价比被认为相当不错，但近期CSP大厂却纷纷转向采购NVL72服务器，NVL36逐渐被边缘化。
结语
超微正在利用NVIDIA Blackwell平台加速行业向液冷数据中心的过渡，为新的人工智能基础设施快速增长的能源需求提供新的能源效率模式。行业领先的端到端液冷解决方案由NVIDIA GB 200 NVL 72平台提供支持，可在单个机架中进行亿级计算，并已开始在第四季度末抽样选择客户进行全面生产。此外，最近发布的超微X14和H14 4U液冷系统和10 U风冷系统已为NVIDIA HGX B200 8-GPU系统做好生产准备。
想了解更多Blackwel产品有关的问题或需要进一步了解更详细的信息，请继续关注我们。