计算机全球AI算力需求继续向上华泰研究专题研究计算机增持(维持)2024年4月12日│中国内地全球AI算力需求继续向上研究员谢春生随着大模型持续迭代,模型能力不断增强,其背后是“ScalingLaw”下模SACNo.S0570519080006型参数量和数据集不断增长的结果。我们认为,从大模型的演化路径来看,SFCNo.BQZ938xiechunsheng@htsc.com模型体量还将进一步扩张,从而带来算力需求持续增长。具体来看,大模型+(86)2129872036对算力的需求体现在预训练、推理、调优三个环节。根据我们的测算,以1000亿参数模型为例,三个环节的算力总需求约18万PFlop/s-day,对应联系人林海亮需要2.8万张A100等效GPU算力。长远来看,成熟大模型的运营有望带SACNo.S0570122060076来3169亿美元的服务器增量市场,较2023年全球211亿美元的AI服务器linhailiang@htsc.com市场而言,仍有较大成长空间。基于此,我们认为大模型持续迭代有望带来+(86)2128972228大量算力基础设施需求,建议关注算力产业投资机遇。行业走势图计算机沪深300(%)6模型体量越来越大,带动算力建设需求(7)大语言模型(LLM)是在大量数据集上预训练的模型,其在处理各种NLP任务方面显示出了较大潜力。Transformer架构的出现开启了大模型的演化(20)之路,随着解码模块堆叠数量的不断增长,模型参数量持续增加,逐渐演化出GPT-1、GPT-2、GPT-3、PaLM、Gemini等不同版本模型,参数量也从(32)十亿、百亿,向千亿、万亿增长。我们看到,每一代模型的演化都带来能力的增强,背后一个很重要的原因在于参数量和数据集的增长,带来模型感知(45)Aug-23Dec-23Apr-24能力、推理能力、记忆能力的不断提升。基于...
发表评论取消回复