当前位置:首页|资讯|ChatGPT

火爆全网的ChatGPT,算力成本有多庞大?

作者:百旺信云数据中心发布时间:2023-02-16

原标题:火爆全网的ChatGPT,算力成本有多庞大?

近日,ChatGPT话题频频登榜热搜。据瑞银集团报告显示,截至2023年1月末,ChatGPT月活用户已经突破1亿,成为史上用户增长速最快的消费级应用程序。

从到大学生作业的代写,到以色列总统的演讲词的撰稿…ChatGPT正在深刻影响着世界。

(89%的美国大学生用ChatGPT做作业;以色列总统艾萨克·赫尔佐格2月1日发表了部分由ChatGPT撰写的演讲稿)

也许正如比尔·盖茨所言:“ChatGPT这种人工智能技术出现的重大历史意义,不亚于互联网和个人电脑的诞生。”

什么是ChatGPT?

ChatGPT是由微软投资的AI实验室OpenAI开发出的一款智能聊天机器人模型。与我们日常熟悉并使用的Siri、微软小冰、小爱同学、小度等聊天机器人相比,其语言组织能力、文本水平、逻辑能力更加强大,交流表现十分惊艳,有人甚至将ChatGPT比喻为“搜索引擎+社交软件”的结合体,因为能够在实时互动的过程中获得提问问题的合理答案。

(图片来源:陈巍谈芯)

所以ChatGPT不再仅仅局限于基本的聊天、娱乐功能,而是迭代升级成了一个生产力工具。我们日常的工作,如工作周报、文章创作、邮件、调研报告、视频脚本、编程代码等的撰写,都可以通过与其聊天完成。

ChatGPT根据命题撰写小说框架(图片来源:深燃)

并据外媒报道,Google有内部文件透露,ChatGPT通过了谷歌年薪达18.3万美元的L3工程师入职面试。

支撑ChatGPT的算力成本庞大?

ChatGPT能够实现当前如此强大的交互,离不开背后庞大的算力支撑。有数据显示,ChatGPT的总算力消耗约为3640PF-days。按近期在国内落地的某数据中心为参照物,算力500P耗资30.2亿落成,若要支持ChatGPT的运行,需要7—8个这样数据中心支撑,基础设施投入需以百亿计。

并且随着ChatGPT优化模型的增大,算力需求倍数递增,带来的成本压力也在不断增长。据悉,从2018年起,OpenAI就开始发布生成式预训练语言模型GPT(Generative Pre-trained Transformer),可用于生成文章、代码、机器翻译、问答等各类内容。在当时,训练参数量只有1.17亿。在2019年2月发布GPT-2时,训练参数量为15亿。

而2020年5月的GPT-3,参数量更是达到了1750亿,仅是托管在微软的云服务器拥有28.5万个CPU和1万个高端GPU。AI训练所需算力指数的增长速度已然超越硬件的摩尔定律。

算力基础设施建设任重道远

ChatGPT是人工智能落地应用的一个缩影。随着近年来5G、自动驾驶、工业互联网、智慧城市、元宇宙等诸多领域的迅猛发展,对高可靠、高性能、高安全算力需求更加突出,全球正掀起一场算力的军备竞赛。

数据中心作为算力基础设施,被高度重视。但与此同时,算力基础设施建设运营中存在的高能耗、高成本等问题,急待解决,发展之路任重道远。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1