4 月 17 日消息,OpenAI 近期发布招聘信息,宣布招聘移动终端工程经理、安卓软件工程师和 iOS 软件工程师等岗位,全面开启手机软件生态研发工作。这意味着手机或成为生成式 AI 的硬件入口。
ChatGPT 于 2022 年 11 月 30 日上线,在短短两个月内获得 1 亿用户,而它 AI 模型和算法的背后,则是英伟达的人工智能硬件。
据介绍,ChatGPT 的背后模型是 GPT (Generative Pre-Training,生成式预训练模型),GPT 这个名字展现了这款模型偏向“生成文本和代码”的属性。
这里简单计算一下,拥有 1750 亿个参数的 GPT-3 因其巨大的每秒浮点计算量,单次训练成本达到 460 万美元。如果使用英伟达 A100 芯片,单次训练的使用量应达到数百片,成本在 3000 万元人民币左右。
细数一下,第一代 GPT-1 诞生于 2018 年 6 月,训练参数量为 1.2 亿个,数据库规模为 5GB;时隔半年之后推出了第二代 GPT-2(2019 年 2 月),训练参数量为 15 亿个,数据库规模为 40GB;第三代 GPT-3 诞生于 2020 年 5 月,训练参数量飞跃至 1750 亿个,数据库规模达到 45TB。
目前,OpenAI 已经在今年 3 月推出了新一代文本生成 AI 模型 GPT-4 多模态模型,它在各种专业和学术基准上和人类相当!
OpenAI CEO 萨姆・奥尔特曼 (Sam Altman) 已经确认,该公司目前没有训练 GPT-5,并且“短期内也不会训练”。GPT-5 被认为是 GPT-4 的继任者,后者是 OpenAI 今年三月发布的大语言模型。
然而,没有在训练 GPT-5 并不意味着 OpenAI 不再拓展 GPT-4 的能力。奥尔特曼强调了,他们也在考虑这项工作的安全性问题。“我们正在 GPT-4 之上做其他事情,我认为这些都涉及到安全问题,这些问题在信中被完全忽略了,”他说道。
来源:IT之家