当前位置:首页|资讯|ChatGPT

ChatGPT训练一次要耗多少电?

作者:了不起的云计算发布时间:2023-06-11

原标题:ChatGPT训练一次要耗多少电?

如果开个玩笑:问ChatGPT最大的贡献是什么?

“我觉得它对全球变暖是有一定贡献的。”知名自然语言处理专家、计算机科学家吴军在4月接受某媒体采访时如是说。

随着ChatGPT引爆AIGC,国内外巨头纷纷推出自己的AI大模型,大家为人工智能所描绘的盛世图景欢呼时,也应留意到盘踞在其上方的阴影——电力成本。

根据斯坦福人工智能研究所(HAI)发布的《2023年人工智能指数报告》,OpenAI的GPT-3单次训练耗电量高达1287兆瓦时(1兆瓦时=1000千瓦时)。

这是什么概念呢?对此吴军打了个形象的比方:

“ChatGPT训练一次要耗多少电?大概是3000辆特斯拉电动汽车,每辆跑到20万英里,把它跑死,这么大的耗电量,才够训练一次,这是非常花钱的一件事。”

据美国国家环保署评定,特斯拉Model Y每百英里(161公里)耗电28千瓦时,1278兆瓦时相当于3000辆特斯拉,每辆跑满20万英里(32.2万公里)。而根据一般的经验法则,大多数司机认为20万英里大关是汽车寿命上限。

OpenAI曾发布报告指出,自2012年以来,AI训练应用的电力需求每3个月到4个月就会翻一倍。大规模AI训练和推理通常需要庞大的数据中心算力提供支持,其背后有大量电力供应和冷却系统昼夜运转,由此导致能源成本和温室气体排放增加。

考虑到IT部门的高能耗胃口,为了消除工作负载、硬件和数据足迹中的低效率,最大限度地节约能源和资金,企业需要将数据中心置于IT运营的核心地位,从整体视角重新评估运营各个方面,从而推进可持续发展、优化能源效率。降低能耗的整体方法可能包括以下策略:

01使用高效节能的设备

企业需要对所有 IT 设备进行全面评估,识别出能耗较高的设备,用更节能的产品替换它们。作为全球领先的数字化解决方案供应商,戴尔科技集团将可持续发展置于一切工作的核心,不断提高数据中心基础设施解决方案的标准,帮助客户实现可持续发展目标。

02智能能源管理和监控

根据戴尔创新指数调查,39%的受访者正在转向技术以获得对碳影响更高的可见度。机器遥测数据可以为高能效、高性能机器的最佳组合提供微调的见解,从而使设备只在需要时使用电力。戴尔PowerEdge家族智能运维工具可助力企业实现碳排放能源洞察,提高可持续性。

03按需使用服务

仅在需要时使用数据和能源服务,有助于削减所有系统始终以最大负荷运行的开销。企业通过即服务选项来消除过度配置造成的浪费,而且无需操心生命周期管理,从而节省了在停用和报废硬件上花费的时间。

越来越多的企业开始认识到“即服务”的价值,在戴尔创新指数调查中,42%的企业正在尝试将能源使用作为一种服务来管理能源消耗。

总结:日益突出的能源成本迫使企业重新审视其对能源效率的看法,他们正在意识到绿色可持续不仅有助于保护环境,而且还能节省成本。在整体推进可持续发展时,企业需要全力以赴,而不是简单地修修补补。对IT来说,现在是拥抱可持续发展的最佳时机,也是更加必要的时机。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1