算力服务:大模型时代的新商业模式

随着人工智能大模型的兴起,算力成为了一种新兴的商业模式。虽然当前大模型"炼丹"热潮可能会逐渐褪去,但算力服务商需要未雨绸缪,及时调整战略方向。

清华大学毕业3年的毕恺峰训练了一个气象大模型,使用了全球40年的天气数据,用200张GPU卡进行了约2个月的预训练。按照每小时7.8元/GPU的价格计算,这个垂直领域大模型的训练成本可能超过200万元。如果是训练通用大模型,成本可能要翻百倍。

目前中国已有超过100个10亿参数规模的大模型。然而,行业普遍面临高端GPU短缺的问题。算力成本高企,缺乏算力和资金成为了摆在许多企业面前的难题。

高端GPU的短缺在整个行业都是个难解的问题。大模型的爆发导致市场对算力的需求快速增长,但供给量的增速远远跟不上。虽然长远来看算力供给一定会从卖方市场进入买方市场,但这个过程需要多长时间还是未知数。

各家公司都在盘算自己手中拥有多少英伟达GPU,并以此来判断市场份额。有知情人士表示,如果手里有接近1万张卡,而市场总共是10万张卡,那份额就是10%。预计到年底可能会达到4万张卡,如果届时市场总量是20万张,那就可能占20%的市场份额。

一方面是买不到GPU卡,另一方面是大模型训练的门槛并没有业界宣传的那么容易跨越。训练一个十亿参数规模或更大的通用大模型,成本可能要达到数十亿甚至上百亿元。有业内人士表示,如果没有百亿千亿资金支持,很难在这个领域长期发展。

面对这种局面,业内普遍认为,随着大模型市场的竞争加剧,市场也会从狂热走向理性,企业也会根据预期的变化来控制成本、调整策略。

为了应对高端GPU短缺的问题,企业采取了多种应对措施:

1. 使用更高质量的数据进行训练,提升训练效率。

2. 提升基础架构能力,实现千卡以上稳定运行两周不掉卡。

3. 优化算力卡资源调度,提高使用效率。

4. 改善网络性能,避免训练速度和效率受到影响。

5. 从云计算架构过渡到超算架构,以降低成本。

6. 使用国产平台进行大模型的训练和推理,替代英伟达GPU。

对于大多数企业来说,自建数据中心满足需求是很困难的,所以许多算法团队选择专业的算力服务商来支持。千卡级别的GPU集群才能产生规模效应,选择算力服务商可以降低边际成本。

算力已经在市场需求和技术迭代的过程中,发展成为一种新的服务模式。算力服务的本质是通过新型计算技术实现异构算力的统一输出,并与云计算、大数据、AI等技术融合。它不仅包括算力,还包括存储、网络等资源的统一封装,以服务形式(如API)完成算力交付。

在算力产业链中,上游企业主要供应通用算力、智算算力、超算算力、存储和网络等基础资源。中游企业以云服务商、新型算力服务提供商为主,通过算力编排、调度和交易技术实现算力生产,并通过API等方式提供算力。下游企业则是依靠算力服务提供的计算能力进行增值服务的产业链角色。

按量计费和包年包月计费是当前算力服务的主流模式。用户可以选择对应的算力服务实例或MaaS服务平台。行业也在推进算力服务的"算网一体化融合",支持跨架构、跨地域、跨服务商的调度。

随着大模型高性能计算需求的常态化,脱胎于云服务的算力服务快速进入大众视野,形成了独特的产业链和商业模式。虽然当前高端GPU短缺导致了"抢芯"现象,但这只是暂时的。长期来看,算力成为一种服务是确定性趋势,算力服务商需要做好准备,在市场风向转变时能够及时调整策略。