当前位置:首页|资讯|汽车|AIGC|人工智能

AI+汽车智能化深度:【大模型+政策+功能】AIGC 实现多模态输入输出(附下载)

作者:AIGC资源社发布时间:2023-06-19

原标题:AI+汽车智能化深度:【大模型+政策+功能】AIGC 实现多模态输入输出(附下载)

今天分享的是人工智能AIGC研究报告:《AI+汽车智能化系列之一【大模型+政策+功能】三重共振开启L3智能化大行情!》。(报告出品方:东吴证券)

研究报告内容摘要如下

AIGC 实现多模态输入输出,有望开创全新应用场景

CHATGPT 为代表,AIGC 基于训练数据生成各类内容。AIGC(Generative AI,生成式 AI)是一种人工智能相关的技术,它可以使用训练数据来生成新的内容,包括文本、图像、音频和视频等。当下最为火热的 CHAT GPT(chat Generative Pre-trained Transformer)就是 AIGC 的一种,作为基于大规模预训练语言模型的对话系统,具备极强的自然语言处理能力,能够应用到各类文字语言任务中。

多模态输入输出技术逐步成熟,AIGC 有望开创更多应用场景。

随着自然语言生成技术以及 AI 大模型的成熟,AIGC 逐步受到市场的关注。因为 Prompt 以及 Diffusion 等技术对模型泛化能力以及多模态输出能力的提升,目前已经能够生成文字、图片、音频、代码等多类型的内容,多模态大模型输入输出能力的逐步完善,有望使得其在除了文字领域之外开创更多新的应用场景。

技术架构+参数规模持续迭代,大模型表现能力不断提

升大模型参数规模不断增长,推动 AIGC 技术升级。AIGC 技术发展的背后是大模型(Foundation Models)技术的持续迭代。从 2017 年 TransFormer 结构的提出,加速了深度学习模型的参数学习能力。从 ResNet 系列开始参数规模不断增长,以 GPT(GenerativePre-trained Transformer)系列大模型为例:

1)GPT1 参数量达到 1.17 亿的规模,25 亿的单词量;

2)GPT-2 参数量达到 15 亿的规模,其中数据来自互联网,使用了 800 万在Reddit 被链接过的网页数据,清洗后的语料数据约 40GB;

3)GPT-3 参数规模达到 1750亿;4)ChatGPT 参数量达到万亿级别。在参数量上,每一代均比前一代产品有了数量级的飞跃,同时也带来了模型性能的快速提升。

参数量破亿,预训练大模型效果

大模型指的是具有非常大的参数数量的人工神经网络模型,在深度学习领域,通常指具备数亿到万亿参数的模型,这些模型通常需要在大规模的数据集上面进行训练,并且需要使用大量的计算资源进行优化。2018 年 Google和 Open AI 先后推出的 BERT(Bidirectional Encoder Representations from Transformers)以及 GPT(Generative Pre-trained Transformer)模型都是突破亿级别参数量的自然语言处理模型,具备非常好的数据处理效果,并且分别代表了“预训练+微调”(Pre-Train+Fintung)和“预训练+提示”(Pre-Train+Prompt)两种技术路线。

在确立了以 TransFormer 为主要技术架构方向后,大模型的发展开始逐步进入加速阶段,随着模型参数量的增长,带来的处理效果也不断提升。

2019 年,OpenAI 继续推出 15 亿参数的 GPT-2,能够生成连贯的文本段落,做到

初步的阅读理解、机器翻译等。紧接着,英伟达推出了 83 亿参数的 Megatron-LM,谷歌推出了 110 亿参数的 T5,微软推出了 170 亿参数的图灵 Turing-NLG;

2020 年,OpenAI 推出了超大规模语言训练模型 GPT-3,其参数达到了 1750 亿,在两年左右的时间实现了模型规模从亿级到上千亿级的突破,并能够实现作诗、聊天、生成代码等功能;

2021 年,谷歌推出的 Switch Transformer 模型以高达 1.6 万亿的参数量成为史上首个万亿级语言模型;同年 12 月,谷歌还推出了1.2 万亿参数的通用稀疏语言模型 GLaM,在 7 项小样本学习领域的性能超过 GPT-3;

2022 年,Stability AI 发布的文字 到图像的创新模型 Diffusion,以及 OpenAI 推出的 ChatGPT,ChatGPT 是由效果比 GPT3 更强大的 GPT-3.5 系列模型提供支持。

报告原文内容节选如下:

(本文仅供参考,不代表我们的任何投资建议。如需使用相关信息,请参阅报告原文。)

本报告共计:31页。受篇幅限制,仅列举部分内容。

精选报告来源公众:【幻影视界】,回复关键字“报告”,获取完整PDF电子版


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1