首页>>AI商业洞察

英伟达B200芯片,B200将成本和能耗降低了25倍

2024-03-19 20:23:51 19


在2024年的GTC大会上,英伟达创始人黄仁勋揭开了业界期待已久的新一代AI芯片——Blackwell B200 GPU的神秘面纱。这款芯片以其前所未有的性能和效率,标志着人工智能计算领域的一个新时代。

image.png

B200 GPU的发布,不仅是英伟达产品线的一个飞跃,更是对整个AI行业的一次重大推动。这款芯片拥有高达2080亿个晶体管,提供高达20 petaflops的FP4算力,这意味着它能够为大型AI模型提供高达30倍的性能提升。在与前一代Hopper构架的H100 GPU的对比中,B200在FP8及新的FP6格式上的AI运算性能可达20 petaflops,是H100的2.5倍。而在新的FP4格式上,B200的性能更是达到了惊人的40 petaflops,是Hopper构架GPU的5倍。

B200 GPU的设计理念是将两个紧密耦合的GPU芯片组合成一个统一的CUDA GPU,通过10 TB/s的NV-HBI(英伟达高带宽接口)连接,确保它们能够作为一个完全一致的芯片正常工作。这种设计不仅提高了性能,还大幅降低了成本和能耗,相比H100,B200将成本和能耗降低了25倍。

除了B200 GPU,英伟达还推出了GB200 Grace Blackwell超级芯片系统,它基于两个B200 GPU和一个基于Arm的Grace CPU,预计将在今年晚些时候发货。GB200超级芯片的理论算力将达到40 petaflops,整个超级芯片的可配置TDP高达2700W,这将为AI模型的训练和推理带来前所未有的速度和效率。

英伟达的这一创新不仅在硬件上取得了突破,还推出了AI推理微服务NIM,旨在成为世界AI的入口。通过这个平台,用户可以轻松体验和部署各种AI模型和应用,同时企业可以在自己的平台上创建和部署自定义应用,同时保留对其知识产权的完全所有权和控制权。

B200芯片的发布,不仅是英伟达技术创新的体现,也是对AI未来发展的一次大胆预测。随着AI模型的不断增长和复杂化,B200芯片的出现无疑将加速AI技术的发展,推动各行各业的数字化转型。英伟达通过这次发布,再次证明了自己在AI领域的领导地位,同时也为全球的AI研究者和开发者提供了更加强大的工具,以解锁AI的无限潜能。


相关标签: