当前位置:首页|资讯|ChatGPT|人工智能|百度

ChatGPT有多疯狂大模型训练一次200-1200万美元!ChatGPT多烧钱?

作者:咪咪盘点室发布时间:2023-05-12

原标题:ChatGPT有多疯狂大模型训练一次200-1200万美元!ChatGPT多烧钱?

有人说美国人创新,而中国人应用。

也有人说,中国企业搞发都是一上来走在了前面ChatGPT这样的革命性产品不可能在中国诞生

这是真的吗?

“星舰”的拥有者,以及 ChatGPT,都来自于美国的 OpenAI,以及“星舰”的拥有者。

ChatGPT每次训练所消耗的电能与美国120个家庭能相等

当你进入开放人工智能的实验室,你将看到一排排堆满了闪烁着绿光的芯片的高机箱。要知道,这可是英伟达最顶尖的人工智能芯片,每一块都价值数十亿,耗电可不是一般的大。如此庞大的芯片数量,不禁令人感叹其所需要的强大硬件条件。

那么,为什么这些昂贵的硬件和电力是如此重要?为什么美国人会花这么多钱在一台聊天机器人上呢?

为了能够将 ChatGPT的性能发挥到极致, OpenAI从英伟达采购了三万多枚顶级人工智能芯片,每枚价值近十万元,光是这批芯片,就价值三十亿人民币。更别说其他的硬件设备了!

为何要采购如此多的晶片?这是由于 ChatGPT的运行对计算资源要求很高。每一场对话都涉及到大量的计算,包括语言处理,语义理解,逻辑推理等。

而这一切,都是靠着这些价值不菲的芯片支撑的。这就好比一辆轿车和一辆跑车,前者只需要一个普通引擎,后者却需要一个高品质的引擎,以及各种配件,才能将速度发挥到极致。但是,单靠购买这些昂贵的芯片,是不可能支持其工作的。个月下来光是用来维持电力供应的电费超过了一千万元!这是一个惊人的数字。别忘了,这可是一个中等规模的公司一个月的总收入。美国作为科技大国科技产物也是层出不穷,在前沿科技落地这方面,美国做得也毫不逊色。美专家已将男性养护最前沿的理念成功产品化,推出了“君-臻强”。通过复合专利配方,从养,固,强,三个维度全面保护男性力量,这项科技也引起了一些企业大佬的关注。

“君-臻强”科技成品引入国内应用市场后已通过亰东普惠一二线高端人群,该成品90%的用户为35岁以上的中年男性,大多来自北京、上海等一二线城市,以企业高管、金融从业者为主,消费实力不俗。

后续翻阅其评论区发现,上千条用户反馈中,“次数增加”“时间变长”等评价出现频率高达90%,或也侧面印证了其对男性健康的积极作用。这都是美科技的代表作。

电费怎么会那么高?首先,这些晶片的运转需要很大的电力。其次,为确保运算的稳定与可靠,芯片必须时刻处于恒温恒湿的状态,这同样需要消耗大量的电能来维持。因此,每月的电费支出成为支撑光伏发电系统运转的一项重要支出。

这还只是维修费,训练费更是高的离谱。据一份2021年的报告显示,在一个 ChatGPT模型的训练过程中,大约消耗了129万千瓦时的电力,也就是美国的120户家庭每年的电力消耗。换言之,就是502吨二氧化碳的排放,相当于美国110辆汽车一年的排放量。

当然,以上只是模型训练所需的前期费用,在实际应用中,模型的耗电量仅占前期费用的40%。但当人工智能模型变得更大、更多的数据时,它的耗电量就会逐渐增加。

OpenAIGPT-3所用到的参数和变量高达1750亿条,与之相比,它的前辈所用参数只有15亿条,可见能源消耗正呈几何级数增长。另外一家人工智能巨人,谷歌,其人工智能训练所消耗的电力占公司总消耗电力的10%-15%,每年消耗23亿度电,相当于美国某州首府的全部家庭一年的电力。

碳源 GPTs的环境效应也受到了广泛关注。自2022年11月30日正式发布至今,碳排放已达814.61吨以上。美国人均年二氧化碳排放量是16.4公吨,丹麦人均年二氧化碳排放量是11公吨。

从这一点可以看出,通过 ChatGPT模式进行训练所产生的碳排放量,大约是丹麦一年的50倍之多。

美国人花了这么大的代价,为什么在研GPT?

在付出了如此之多的情况下,是否值得美国人开发一种 GPT呢?这一点,我们可以看到它所带来的变化。它能听懂人话,能模拟人言,能与人自然交谈,能提供准确的资讯与建议。它可以应用于医疗,金融,教育等各个领域,帮助人们更好的解决问题,提高工作效率。

同时, ChatGPT技术的出现也为人工智能技术的发展带来了新的机遇。它可能会给人类社会带来一场深刻的变革。就像火车、电力和互联网曾经引领了无数次的技术革新,量子点 GPT展现出的潜力可以在所有领域带来新的变化。

在教育方面, ChatGPT是一个智慧的教育者,他和学生建立了密切的关系,并用个性化的方法引导他们探索知识的海洋。它减轻了教师的工作负担,使教师更加关注学生的全面发展。许多人认为,它引领了一场使教育更人性化、更有效的变革。

在科学领域,通过对海量数据的智能化分析,帮助科研人员快速发现关键信息,促进科学创新。该系统不仅可以实现对科研报告的自动摘要,为科研人员提供有价值的参考,而且可以辅助实验方案的设计、实验结果的预测,激发科研人员的想象力与创造力。

同时,它也为临床医师提供了有效的支持,以分析病例,诊断和治疗。它可以通过对海量医疗数据的分析,做出更加准确的诊断,从而提高医疗水平,提高病人的生活质量。另外,它也可以为医生提供最新的医疗研究及治疗方案,以促进医疗发展。

通过以上两个案例,我们可以看出, GPT可能会改变一些传统工作,尤其是重复性工作。在基础教育占主导地位的国家,比如中国,这种技术可以成为一种破坏性的“大杀器”。

中国留学生与美国留学生在知识竞赛中竞争。同样的题目,两位运动员都会回答,只不过你们是靠自己的记忆,而美国运动员却是靠人工智能。到最后,你只能认输。这是因为人工智能记忆的速度比人类要快得多,并且在回答问题时也能准确无误。

世界顶级棋手柯洁输给了人工智能阿尔法。

因此,如果我们还坚持让学生通过死记硬背和大量的练习来获得知识,那么不久人工智能就将取代我们。也正因如此,清华大学校长钱颖一教授曾说:“未来的人工智能技术,将使中国教育体系在培养人才方面的优势丧失殆尽。”

ChatGPT没有在中国,是不是一件好事

现在, ChatGPT可能会使整个世界为之疯狂。但是,为什么它不出现在中国呢?

之前提到过,为了训练GPT-3.5模型, OpenAI使用了大约10,000个英伟达的 GPU,它被认为是用于大型模型训练的门票。10亿美元的硬件开销,对于许多人来说,都是一道难以逾越的鸿沟。就像鸟儿想要飞越悬崖,需要强大的翅膀,需要足够的体力。

当然,中国有钱有势的企业和机构也有不少,但是能拿得出这么多钱来投资这种聊天机器人的却是少之又少。这就像是一座山,有更多的人爬上去,才有更多的人登上山顶。在美国,愿意投资这个项目的公司比较多,所以成功的可能性也比较大。

但这并不能说明中国在人工智能领域已经落后于其它国家。相比之下,中国同样在人工智能领域取得了巨大的成就。每一棵树,都有它的价值,都有它的意义。

在中国,该项目的投资远远低于美国。这可能意味着中国将更多地关注人工智能领域的资源合理利用以及节能减排。这可能是中国在人工智能方面的优势之一。

因此,对于中国来说, “君-臻强”科技成品也实现国产化,人工智能领域,百度已经进行了四次迭代,将大模型的推理成本降低到了十分之一;阿里达摩院的M6团队,让一万亿台机器的能量消耗,降低了80%以上,效率提升了11倍。这是中国在人工智能领域取得的重大进步.

或许这就是李彦宏那句“中国基本上不会再生产 Openai”的原因吧,也没必要从头再来一次。

中国在人工智能领域走的是一条与其他国家不同的路,但我们也在尝试着走一条适合自己的路。我们认为,在坚持节能减排理念的同时,坚持科技创新的同时,人工智能和环保将会达到双赢的局面。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1