中国AI算力行业发展报告
惠说数据
2025-01-10 15:10:06
报告主要从以下内容阐述:
-
[得意R]2015-2016 年左右开启了大模型时代,整体的训练计算量较之前的时期大2到3个数量级。从2022年底,随着ChatGPT成功带来大规模参数通用大模型相继发布。这些大模型的训练需要千亿、甚至万亿级参数,以及上干GB的高质量数据,大模型的训练选代将极大地拉动了智能算力的需求。
-
[赞R]2012-2023年算力需求翻了数十万倍,AI算力需求远超摩尔定律,大模型对算力的需求每年持续增长,未来10年AI算力需求将再增长500倍。
-
[微笑R]技术层面上,基础模型通过迁移学习(Transfer Learning)和规模(scale)得以实现;Transfommer的应用标志着基础模型时代的开始(基础模型的庞大规模和应用范围突飞猛进),模型参数量指数级增长,带动算力超过尔定律。
-
[吧唧R]Sora等视频生成类模型相较于大语言模型消耗的算力提升20倍。随着海量数据的积累,大模型需要处理的数据量也在不断增长,进一步加剧了对算力的需求。
................
[派对R]相关报告
[斜眼R]2024年中国AI算力行业发展报告-甲子光年-2024.12-60页
0
阅读:34