证券研究报告行业点评2024年03月20日计机增持(维持)英伟达GTC大会要点解读行业走势新一代Blackwell架构、超级芯片GB200发布,模型训练时长、功耗效率表现高数计机沪深300倍。当地时间2024年3月18日,黄仁勋发表主演讲《见证AI的变革时刻》,正式拉开2024年GTC大会的序幕。英伟达出全新Blackwell架构GPU。1)Blackwell用于32%2023-11数据中心,针对当前火爆的AI大模型优化,训练、理性能和能效均大幅升,与GraceCPU、新一代网络芯片等产品一起,面向生成式AI共组成整解决方案。黄仁勋还16%意称,Blackwell不只是芯片,而是一个全新的平。2)基于Blackwell的处理器,B200为人工智能公供了巨大的性能升级,其AI性能为每秒20千万亿次浮点运,而此0%前基于Hopper架构的最强的H100为每秒4千万亿次浮点运,约是其5倍。如果要用Hopper训练一个拥有1.8万亿参数的GPT模型,可能需要8000个GPU,并消耗15兆-16%的电力。如果使用Blackwell来训练,只需要2000个GPU,样的90能,但功耗降低-32%至约分一,仅需4兆的电力。2)新一代超级芯片GB200在拥有1750亿参数的GPT-3大模型基准测试中,性能是H100的7倍,训练度是H100的4倍。此,GB200-48%2023-07是NVIDIAGB200NVL72的关键组件。GB200NVL72作为单个GPU运行,具有1.4exaflops2023-03的AI性能和30TB的快内存,用于LLM理工作负载,并将成本和能源消耗降低多达25倍。作者生成式AI微服务(NIM)发布,模型部署时间从几周减到几分钟。1)NIM是一优分析师刘高畅化的云原生微服务,旨在短上市时间并简化在任何地方部署生成式AI模型的过程,包执业证书编号:S0680518090001括云、数据中心和GPU加的工作...
发表评论取消回复