融易新媒体
快捷导航 融易新媒体
主页 > 科技 > 自媒体 >

藏在AI背后的“吃电狂魔”

时间:2024-04-10 16:53:29来源:互联网

文|雪豹财经社 魏琳华

3月底,美国密歇根湖畔的一座已经关闭的核电站Holtec Palisades,获得来自美国能源部的15亿美元贷款担保,进入重启阶段。如果顺利通过监管环节,它将成为美国历史上第一座重启的核电站。

美国能源部之所以重启核电发力,是出于对电能需求失衡的担忧。在制造业、电动汽车等行业的耗电需求上升之际,人工智能行业的快速发展,加速了美国电力危机的到来。

“人工智能本身不是问题,因为它可以帮助解决问题。”美国能源部长詹妮弗·格兰霍姆在接受Axiro采访时表示,但是,人工智能和数据中心对电力日益增长的需求,却成了实实在在的新问题。

小小应用,吃电狂魔

人工智能应用具体有多耗电?

荷兰科学家亚历克斯·德弗里斯在他的论文中,为对话机器人ChatGPT算了这样一笔账:

每当ChatGPT试图响应一次问题,它需要消耗2.9瓦时的电量。这是什么概念?响应10次的电量,可以支撑一个功率15W的LED灯泡工作2小时;响应100次,可以给智能手机充大约13次电。

一天内,ChatGPT平均需要处理约2亿个来自用户的对话请求,这意味着它单日消耗的电量就要超过564兆瓦时(1兆瓦时=1000千瓦时,564兆瓦时相当于56.4万度电)。以美国每个家庭每日平均耗电量换算,ChatGPT每天需要消耗掉1.7万个美国家庭一天的用电量。

由于模型参数、能耗处理等因素差异,不同AI模型的耗电量无法遭准确估算。于是,亚里克斯以英伟达推出的A100服务器作为测算对象,对整个人工智能行业可能产生的耗电量进行估算。

基于他的假设,到2027年,英伟达可能推出150万台A100服务器,其中95%将遭应用于AI行业。每一台DGX A100型号的服务器内置8张A100芯片,以1140万张A100芯片的耗电量进行估算,2027年,整个人工智能行业每年的耗电量将高达85~134太瓦时(1太瓦时=1×10 千瓦时)。

也就是说,到2027年,AI耗电量或将接近人口超过1000万的瑞典或1700万人口的荷兰一年的总用电量,相当于当前全球用电量的0.5%。

按照这个估算值,AI的耗电量或将比肩比特币挖矿。据剑桥大学计算,比特币挖矿一年耗电量大约是165.99太瓦时,接近人口一亿的埃及一年的用电量。

比特币挖矿如此耗电,是由它的工作方式决定。在比特币之父中本聪的设计中,比特币系统通过工作量证明(Proof-of-Work)的方式,让矿工们竞相计算出一个足够困难的哈希值(由数字+字母构成的字符串)来创建新的区块并获取奖励。这种竞争性的计算过程,需要消耗大量的电力和计算能力。

AI之所以如此能吃电,是因为大模型的训练和推理过程均需消耗大量电力。

大模型质量的关键在于数据、算力和顶尖人才,而高算力的背后,是靠着数万张芯片昼夜不停的运转支撑。

相比于平常安装在笔记本电脑上的CPU(中央处理器),融易新媒体消息,GPU(图形处理器)遭证明是更适合AI训练的硬件。如果把CPU看做一个处理单任务的元件,那么GPU的优势就是同时处理多个并发任务。虽然GPU起初并非为了处理AI需求而生,但同时处理多任务的特质,让它成为进入AI大模型训练场的门票。

和CPU相比,GPU可以处理多个并行任务  图源:英伟达官网

快的代价是更高的能量损耗。据估算,一张GPU比CPU的能耗高出10~15倍。在大模型训练过程中,需要多张GPU接连不断运转。大模型参数量和数据量越大,训练耗费的电量也越大。

以GPT-3的训练为例,斯坦福人工智能研究所发布的《2023年人工智能指数报告》显示,1750亿参数的GPT-3在训练阶段的耗电量高达1287兆瓦时。哈工大人工智能研究院院长刘劼打了个比方,相当于开车从地球到月球往返一次。

在完成训练后,AI在推理方面的耗电量又远超过训练耗费的电量。

每响应一个请求,大模型需要完成推理过程,找到最接近问题的解答。按照上述数据推算,GPT-3在训练阶段消耗的电量,甚至无法支撑ChatGPT运行3天。

在多模态大模型发展成为主流的情况下,在AI响应需求的推理过程中,耗电量还将进一步提升。据人工智能公司Hugging Face的研究,不仅多模态大模型耗电量远超过一般模型,涉及图像处理的模型也比纯文本处理更耗电。

究竟到不同任务,文本分类、标记和问答等简单任务相对低耗,千次推理仅需0.002~0.007千瓦时。而在响应多模态任务时,一次文本到图像生成耗能最高需要用到2.9千瓦时,相当于ChatGPT响应100次的耗电量。

巨头的AI梦,把电力缺口撕得更大

从训练15亿参数的GPT-2到训练1750亿参数的GPT-3,Open AI从十亿参数到千亿参数的跨越,仅用了一年时间。

大模型狂飙之际,越来越多的大型科技公司开始把AI和公司主营业务的融合提上日程。


近期热点

藏在AI背后的“吃电狂魔” 04-10

界面·财经号优质稿件TOP20|2024年3月榜 04-10

电厂 | 为抢特斯拉Model 3的订单,小米和智己拼了 04-10

自我调侃的“留子”们,开始拍短剧 04-10

父母犯错,儿子“背锅”,40亿恒星科技“接班人”遭罚160万 04-10

热门文章
热点 热点追踪 网站首页 热点 观点