前不久，英伟达在对GTC2024大会进行预热时称，黄仁勋将在大会上发布加速计算、生成式AI以及机器人领域的最新突破性成果。在AI持续火爆的当下，英伟达GTC2024的官宣无疑成为AI领域的重头戏。果不其然，在今日凌晨，黄仁勋抛出了重磅炸弹。
英伟达推出成本与能耗较前代改善25倍的AI芯片
英伟达在发表《见证AI的变革时刻》演讲中宣布，正式发布名为Blackwell的新一代AI图形处理器(GPU)，称其“非常非常强大”，基于Blackwell技术，英伟达将推出B200和GB200系列芯片。
据悉，Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI，而成本和能耗比前身低25倍。英伟达还称，Blackwell架构系列芯片是迄今为止功能最强大的AI芯片家族。
据黄仁勋介绍，B200拥有2080亿个晶体管，而H100/H200有800亿个晶体管，采用台积电4NP工艺制程，可以支持多达10万亿个参数的AI大模型。该芯片还通过单个GPU提供20 petaflops的AI性能，而单个H100最多可提供4 petaflops的AI计算。
Blackwell架构系列芯片也将降低能耗，仁勋举例称，如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，同样跑90天只要消耗四分之一的电力。
微软Azure、AWS、谷歌云等一众科技巨头都是Blackwell架构的首批用户。“生成式AI是我们这个时代的决定性技术。Blackwell是推动这场新工业革命的引擎。通过与世界上最具活力的公司合作，我们将实现AI在各行各业的承诺。”黄仁勋表示。
发布新一代AI超级计算机
英伟达还宣布新一代AI超级计算机——NVIDIA DGX SuperPOD，其搭载NVIDIA GB200 Grace Blackwell超级芯片。黄仁勋称，这台AI超级计算机可以用于处理万亿参数模型，能够保证超大规模生成式AI训练和推理工作负载的持续运行。
在配置上，全新DGX SuperPOD采用新型高效液冷机架级扩展架构，基于NVIDIA DGX GB200系统构建而成，在FP4精度下可提供11.5 exaflops的AI超级计算性能和240 TB的快速显存，且可通过增加机架来扩展性能。
与NVIDIA H100 Tensor Core GPU相比，GB200超级芯片在大语言模型推理工作负载方面的性能提升了高达 30倍。
在NVIDIA GB200的支撑下，性能也有了大幅度提升。据悉，每个DGX GB200系统搭载36个NVIDIA GB200超级芯片，共包含36个NVIDIA Grace CPU和72个NVIDIA Blackwell GPU。这些超级芯片通过第五代NVIDIA NVLink连接成一台超级计算机。
基于DGX GB200和DGX B200系统构建而成的NVIDIA DGX SuperPOD将于今年晚些时候提供。”NVIDIA DGX AI超级计算机是推进AI产业变革的工厂。新一代DGX SuperPOD集NVIDIA加速计算、网络和软件方面的最新进展于一体，能够帮助每一个企业、行业和国家完善并生成自己的AI。”黄仁勋表示。
英伟达推出系列微服务
在演讲中，黄仁勋还宣布推出AI微服务，用于在自己平台上创建和部署定制应用。黄仁勋表示：”未来软件开发或许要依靠NIMs(Nvidia inference micro service)，用与AI聊天的形式调动一堆NIMs来完成训练、应用的部署。”而英伟达的愿景是成为AI软件的”晶圆厂”。
这些云原生微服务目录在NVIDIA CUDA平台上开发，其中包括NVIDIA NIM微服务，可适用于NVIDIA及合作伙伴生态系统中20多个热门的AI模型进行推理优化。在性能表现上，NIM微服务提供基于NVIDIA推理软件的预构建容器，包括Triton推理服务器和TensorRT-LLM，使开发者能够将部署时间从几周缩短至几分钟。
同时，用户现能够以NVIDIA CUDA-X微服务的形式使用NVIDIA加速软件开发套件、库和工具，用于检索增强生成(RAG)、护栏、数据处理、HPC等。CUDA-X微服务为数据准备、定制和训练提供端到端的构建模块，助力各行各业加快开发生产级AI。
NVIDIA还发布了20多项医疗NIM和CUDA-X微服务。黄仁勋表示：”这些精心挑选的微服务为NVIDIA全栈计算平台增添了新的一层，连接起了由模型开发人员、平台提供商和企业组成的AI生态系统，使其能够通过标准化的路径来运行针对NVIDIA CUDA安装基础(在云、数据中心、工作站和PC中的数以亿计的GPU)优化的定制AI模型。”
除了领先的应用提供商外，NVIDIA生态系统中的数据、基础设施和计算平台提供商也在使用NVIDIA微服务，为企业带来生成式AI。包括Box、Cloudera、Cohesity、Datastax、Dropbox和NetApp在内的顶级数据平台提供商正在使用NVIDIA微服务，帮助客户优化RAG管道，并将专有数据集成到生成式AI应用中。
人形机器人通用基础模型发布
当前关注度较高的人形机器人也出现在黄仁勋的演讲中。他表示：”在我们的世界里，类人机器人很有可能会发挥更大的作用，我们设置工作站、制造和物流的方式，并不是为人类设计的。因此，这些机器人的部署可能会更有成效。”
在演讲中，黄仁勋还发布了专为大规模AI量身定制的全新网络交换机——X800系列。NVIDIA Quantum-X800 InfiniBand网络和NVIDIA Spectrum-X800以太网络是全球首批高达800Gb/s端到端吞吐量的网络平台，将计算和AI工作负载的网络性能提升到了一个新的水平。
评论(0)