直面大模型“大成本”挑战，如何提高算力效率？
2024-06-03 16:27:20
no.XX Studio
▓德州豪客赛报名费▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐广西田东举行香芒丰收展
中新网深圳在全国率先实现人才引进入户全流程网办
中新网北京6月3日电 (记者 夏宾)近年来%*#%，为了追求大模型的智慧能力##@，各国公司不停加码投入@%*@，4月##%，Meta宣布追加10亿美元投资%@，用于其AI芯片研发和AI数据中心建设；亚马逊为了建设新数据中心投入110亿美元#@*#。但在大模型扩张的背后@#%%%，算力代价、能源代价同样巨大%**。
有业界技术团队测算*%*@%，若要对一个5000亿参数规模的单体大模型进行充分训练##**，所需算力基础设施约在10亿美元规模@##，每年消耗的电费在5.3亿元人民币*%#*#。无论对于哪个机构、企业@*%，这都是天文数字和巨大代价#%#@，中国也不例外*%@#*。
知名科学杂志《Nature》此前发表了一篇关于大模型未来发展之路的文章*@#*，《In Al, is bigger always better?》(人工智能%@，越大型越好？)%***%。争议的出现@@#%%，意味着AI发展方向出现了分歧%***。
如今#%@#%，“大”不再是模型的唯一追求@#*，计算效率和算力开销两大问题成为新的行业焦点%%#。
对大模型推理成本的优化%#**，可通过很多技术手段实现##。首先是模型本身**，模型结构、训练方法都可以持续改进#%%@，包括业界很关注的MoE(混合专家模型)@*，就是优化推理成本很好的解决方案%#*。其次是工程上的优化%%。大模型的调用量越大@@，优化推理成本的空间也越大@#%。以前的模型都是单机推理%@##，大模型用的是分布式推理@#@%%。所以如果能把各种各样底层算力用得更好#@#，推理成本就会大大降低*@*@。
MoE大模型的盛行#*@，实际上对应的正是模型能力和算力开销两大问题的解决%@。这也是为何众多大模型厂商如OpenAI、谷歌、Mistral AI、浪潮信息等陆续基于MoE架构升级自家大模型产品的原因#%。
从浪潮信息发布的“源2.0-M32”开源大模型来看@@，其基于“源2.0”系列大模型已有工作基碄@%@。葱绿岢龊筒捎昧恕盎谧⒁饬频拿趴赝纭奔际�%#@*%，构建包含32个专家(Expert)的混合专家模型(MoE)##%%*，并大幅提升了模型算力效率@@%%%，模型运行时激活参数为37亿@@#%#，在业界主流基准评测中性能全面对标700亿参数的LLaMA3开源大模型*%。
浪潮信息人工智能首席科学家吴韶华在接受中新网记者采访时说**，我们一直在想如何以更低的算力消耗#@，提高整个大模型的应用效果#@%，能让企业、机构以更小的算力代价去获得更高的模型能力**%%。“这可能是中国发展自己的AI大模型比较行之有效的路径@%#@%。”
他直言%%*，大模型推进速度越来越快%%#*@，必须强调模型算力效率@*%@*。“大家可以想象*#，效率越高就意味着在单位算力投入相等的情况下获得的精度回报越高#%%*@，它对于训练和应用都非常有利@%#@。”
“现实的算力是有限的@#，我们一再反复强调模算效率**@@，试图针对当前算力情况闯出一条自己觉得比较好的路子%*。在固定每个Token算力不变的情况下#%#，通过扩展专家数量可以获得更大参数量的模型###，进而获得更高精度#%。”吴韶华说##*。
他进一步称%**%，整体来看%#*，尽管当前模型的能力提升非常之快@%，但之前大家更多关注单个维度问题%#*%，即平均精度的提升*@。但大模型进入快速落地时代#*%*#，就不得不考虑更多维度的问题*##，包括模算效率、精度、算力开销等##。
中国工程院院士郑纬民曾做过这样的计算%@*%%，在大模型训练过程中@%*@，70%开销要花在算力上；推理过程中95%的花费也是在算力上%*。
为解决大模型训练的算力不足问题%**，郑纬民建议@*，在推动智能计算中心建设同时也可以利用已有超算系统的空余算力*#%%。
郑纬民表示*%*，现有14个国家挂牌的超算系统*@*##，每台机器的建设成本都很高##，成本在10亿元至20亿元##@#，甚至更高@@。这些超算系统已经为中国的国民经济发展作出巨大贡献@***#，但有些系统还有空余算力%@#，这些空余算力也可被用来做大模型训练%*###，且经过优化甚至可降低大模型训练成本%%%#%。
对于近期中国企业的一轮大模型降价*#%，零一万物CEO李开复表示@###，未来整个行业的推理成本每年降低十倍是可以期待的#**，且这个趋势是必然的@@*，如此会有更多人用上大模型#@*@#，这是非常利好的消息%##*#。(完)
|
|
