当前位置:首页|资讯|斯坦福|人工智能|教育

斯坦福《2023年人工智能指数报告》生成式 AI 模型成潮流,大型语言模型 LLM兴起

作者:华制智能发布时间:2023-04-14

原标题:斯坦福《2023年人工智能指数报告》生成式 AI 模型成潮流,大型语言模型 LLM兴起

近日,斯坦福大学以人为本人工智能研究所(Stanford HAI)发布了《2023年人工智能指数报告》(Artificial Intelligence Index Report 2023)。报告跟踪、整理、提炼和可视化了与人工智能相关的最新数据,从研究与开发、技术性能、AI技术伦理、经济、教育、政策与治理、多样性和舆论等八大角度对人工智能的影响和年度趋势展开了分析。

0 1

2022 年 AI 行业的主要趋势

AI 在许多基准测试中继续发布最先进的结果,但在几个方面的同比改进微乎其微。此外,达到基准饱和的速度也在增加。许多用于衡量 AI 进展的传统基准测试,如 ImageNet 和 SQuAD,似乎已不足。新的、更全面的基准测试套件,例如 BIG-bench 和 HELM 已经被发布,以挑战功能日益强大的 AI 系统。

DALL-E 2、Stable Diffusion 和 ChatGPT 等生成式 AI 模型已成为时代潮流的一部分。它们显示出令人印象深刻的能力,同时也引发了一系列道德问题。“文生图” 通常在性别维度上存在偏见,而像 ChatGPT 这样的聊天机器人,可能会传递错误信息或被用于邪恶的目的。

大语言模型(LLMs)推动了最近的 AI 进展,它现在变得更大、更昂贵。例如,PaLM 是 2022 年发布的 AI 模型之一,其成本是 2019 年首批推出的 LLMs 之一 GPT-2 的 160 倍,体积是其 360 倍。

AI 正在帮助加速科学进步。2022 年,AI 模型被用于控制氢聚变,提高矩阵运算效率,并产生新的抗体。AI 也开始构建更好的 AI。Nvidia 使用 AI 强化学习代理来改进为 AI 系统提供动力的芯片设计。同样,谷歌最近使用其 LLMs 之一 PaLM 来建议改进同一模型的方法。

0 2

12张图剖析AI趋势

大型语言模型 LLM 的兴起

在2019年发布的GPT-2被认为是第一个大型语言模型,拥有15亿个参数,培训成本估计为5万美元。三年后,PaLM推出,拥有5400亿个参数,培训成本估计为800万美元。各个领域的大型语言和多模态模型都变得越来越大和昂贵。这意味着人工智能系统的能力正在不断提高,需要更困难的测试才能挑战它们。

衡量AI能力需要新的标准

当前的人工智能工具不断满足或打破传统的AI测试基准,表明人工智能系统在旧基准上变得越来越有能力,并且需要更困难的测试才能完全挑战它们。由于这一趋势,需要新的基准来确保人工智能系统的准确性和可靠性。

训练的环境成本越来越贵

大模型的训练、使用都非常耗电,会产生大量的碳排放,这在欧美开始受到关注。GPT-3被认为是有据可查的能耗第一名,但即使是相对更高效的BLOOM模型,它的耗电量也达到433兆瓦时,足以为一个普通美国家庭供电41年。

AI引发的技术问题不断增加

AI与人类社会的伦理研究成为热点

FAccT会议从2021年到2022年收到的人工智能伦理相关论文数量增加了一倍,自2018年以来增加了10倍。这表明人工智能伦理和相关工作在学术界的关注度越来越大。其中一个趋势是,过去FAccT相关研究由学术界主导,但在过去的一年中,工业界的参与者在这个领域贡献了更多的工作。

带动新的岗位出现

研究发现,各个领域招聘中对AI技能的要求逐渐增多,并且AI工作岗位的数量在2022年明显高于2021年。IT信息部门占招聘的主导地位。在美国,软件工程比较集中的加利福尼亚州招聘最多,达到了14.21万个,其次是德克萨斯州(6.66万个)和纽约州(4.38万个)。

企业投资从 2021 年的高位回落

企业投资有所减少,但在过去十年中增长了13倍企业在AI领域的投资(合并/收购、少数股权、私募和公开发行)从2021年的高点下降,但在过去十年中增长了13倍。2022年最大的投资事件是微软成功收购AI语音公司Nuance Communications,收购价达到197亿美元。

中国成为最重视机器人的国家

世界范围内,机器人安装量增加了31%,但没有哪个国家像中国一样重视机器人的整合。2013年,中国超过日本成为安装工业机器人最多的国家,自那时以来,这个差距还在不断扩大。2021年,中国安装的这些机器人超过了全球其他地区的总和,如今中国机器人安装量占全球的51.8%以上。

产业界吸引AI人才

研究报告发现,AI博士等人才主要都进入了产业界,让AI产业发展已经自发形成了一个人才与技术应用的正循环。相比之下进入政府机构的数量仅为0.7%,在过去五年中相对不变。学术界也有较大的降幅。AI研究的一线正与产业一线统一。

越来越多的国家开始对AI监管

去年,127个国家的立法机构通过了37项法律涉及人工智能技术,其中排名第一的美国通过了9项法律,其次是西班牙(5项)和菲律宾(4项)。具体法案包括菲律宾的一项AI教育改革,内容主要涉及应对人工智能在内的新技术引起的挑战;西班牙的法案侧重于AI算法中的非歧视和问责;美国则在建立AI培训计划。自2016年以来,各国通过了123项与AI相关的法案,其中大多数是近年来通过的。

美国联邦人工智能预算增加

2022财年美国政府机构为AI研究和开发分配了17亿美元,比2021年增长13%,比2018年增长209%。同时,美国国防部在其非机密AI预算请求中提出了11亿美元的预算,比2021年增长26%。

越来越多的女性进入计算机科学领域

虽然AI(以及更广泛的STEM领域)在多年来一直是男性主导,但是越来越多的女性也开始进入计算机科学领域。最近的数据显示,女性在计算机科学学士学位中的比例正在增加,上升到了22.3%。尽管北美大学的教师仍然以男性为主,但女性的比例已经达到了30.2%的新高,比2015年增长了约8.5%。

更多内容

下载报告查看

--THE END--

来源:斯坦福


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1