[研Ta究ble报_T告itlRe]esearchReport21Mar2024中国科技战略ChinaTechnologyStrategy英伟达GTC2024：从硬件到软件的AI全链条服务NVIDIAGTC2024:Full-chainAIServicesfromHardwaretoSoftware姚书桥BarneyYao王凯KaiWang,CFAbarney.sq.yao@htisec.comk.wang@htisec.com[热Ta点ble速_y评emFelia1s]hAnalysis[(TPalebales_essuememAPaPrEyN]DIX1forEnglishsummary)事件2024年3月19日，英伟达CEO黄仁勋在2024GTC人工智能大会上发表“见证AI的变革时刻”主题演讲。本次大会中，英伟达推出了新一代GPU架构Blackwell，并发布了一系列基于该架构的新一代硬件产品，同时介绍了其软件生态进展。点评新一代GPU架构Blackwell：高带宽+第二代Transformer引擎，更大更高效。Blackwell架构旨在降低AI计算的成本和能耗，实现更大模型的训练和计算能力的扩展。BlackwellGPU采用了台积电定制的4NP工艺制造，由两颗芯片通过NV-HBI（高达10TB/s的芯片到芯片带宽）连接行程一个逻辑芯片，从而集成2080亿个晶体管（H100为800亿个），AI性能是上一代Hopper架构H100芯片的5倍；采用第二代Transformer引擎，可支持支持双倍的计算和模型大小；搭载第五代NVLink技术（第四代NVLinkSwitch芯片），为每个GPU提供1.8TB/s的双向吞吐量，以支持多达576个GPU域内直连为10万亿参数级别和基于混合专家模型（MoE）的LLM提供高速通信；配备RAS引擎提供芯片级别的防性维护功能；配备安全AI，能够高效保护AI模型和客户数据，并支持新的本机接口加密协议；全新解压缩引擎支持最新的格式，可加速数据库查询以提供提供最高性能的数据分析和数据科学领域应用。AI计算业务线产品...
发表评论取消回复