当前位置:首页|资讯|人工智能|ChatGPT|GPT-4

技术精华:生成式AI2023(附下载)

作者:吃不胖的微微发布时间:2024-03-29

原标题:技术精华:生成式AI2023(附下载)

行业报告:《技术精华:生成式AI2023》

(内容出品方:中国移动)

报告共计:36页

概要

如果说 2022 年被称为生成式人工智能之年,扩散模型应用取得突破,ChatGPT 出世,一系列开创性的研究论文发表,2023 年则把大模型推向了一个高峰,GPT-4的发布,标志着生成式人工智能,进入了面朝通用人工智能创新应用的阶段研究、应用、监管,合力开辟着生成式人工智能的发展之路。

创新应用生成式人工智能的生态包括了基础设施层、模型层与应用层,创新在每一个层面发起,竞争也在科技巨头、行业龙头和初创公司之间展开。

在整个生态中,受益于以参数规模为代表的大模型不断扩张,算力目前是最稀缺的资源,也处于最容易获利的要津。算力是大模型成本结构中最大的一块,GPU的性能,决定了这个新兴行业的步调。但是,GPU性能提升的速度,已经落后于大模型训练和推理需求的增长。

面对这一革命性的技术,不论是主动还是被动,企业都被卷入其中。不管是技术的守成者、创新者还是采纳者,业务模式都将发生变化,进而影响企业的发展。

当前,生成式A1尚处于技术发展的早期阶段,基础架构和核心技术并不成熟;科技巨头忙于研发大模型,尚未顾及深度切入具体的应用场景。但巨头何时添加相似的功能(feature)始终是悬在初创企业头上的达摩克利斯之剑,而大模型能力边界的扩张也可能在未来挤占初创企业的发展空间,可以说,这是初创企业的蓝海,但也有航道下的暗礁。

在中国,目前从模型出发的公司受到看好,通用大模型和重直大模型的创业如火如荼,而自建模型的应用也在努力构建着自己的壁垒;同样,科技巨头正在利用自身算力优势来构建大模型。我们有理由相信,在众多模型层和科技大厂的合力下,模型层的整体能力将进一步完善,在未来为应用层企业提供可靠的支撑。

前沿研究

生成式人工智能领域的一个突出特征,是研究与创新过程的密切结合,许多在企业内部实现,迅速推出用例和产品。这种研究与创业的一体化,初创企业和风险资本起到了重要的作用,而美国科技巨头和主要人工智能企业的研究投入、人才密集度、包括一些底层技术的研究,这些年来已经超过了大学等研究机构。

GPT-4 进发出通用人工智能的“火花”,需要研究和解决的问题反而更多了,如信心校准、长期记忆、持续学习、个性化、规划和概念跨越、透明度、认知谬误和非理性,等等。而过去半年最重要的研究方向,是破解和理解大模型神秘而又令人兴奋的智能“涌现”。大模型既需要超越对下一个词的预测能力,也需要一个更丰富、更复杂的“慢思考”深层机制,来监督“快思考”预测下一个词的机制。

大模型不仅用来生成文章和图片,而且可以当成智能代理:帮助管理和执行更复杂的任务。开源模型实现了低成本、小型化、专业化的训练,与闭源的基础模型竞争互补,共同推动了生成式人工智能技术的应用,也加快了模型向边缘侧和移动端部署。生成式人工智能大模型日益向多模态发展,具身智能也成为一个重要研究方向,帮助生成式人工智能更好地理解和处理现实世界的复杂性和多样性。大模型更安全、让智能更可信,成为新兴的研究热点。生成式人工智能对于就业和经济的广泛影响,正在吸引经济学、社会学、心理学等不同领域的研究兴趣。但仍然需求实证性的研究。

监管、 安全与人才

生成式人工智能加快了中国、欧盟和美国的监管和立法的进程。欧盟努力在今年底让《人工智能法案》生效,为全球人工智能立法定下基调。中国也预计将于明年提出综合性的人工智能立法。而美国重点在于建立风险控制技术标准。

中国对通用人工智能表现出很大热情与期待。地方政府中北京、上海、深圳是第一梯队,均提出了较具雄心的人工智能科研、创新与产业目标。中国研究人员发布的论文在数量上已经超过了美国,但在金字塔顶端,无论是研究还是创业,美国仍然占据明显的优势,

科技部要求人工智能企业应该接受科技伦理审查;审查主体应该设立科技伦理(审查)委员会。美国人工智能企业较早开始设立负责任与可信人工智能部门,从去年到今年以来经过一些调整,反映出在生成式人工智能发生变革之际,企业正在寻求用更好的技术和方案,来安全和负责地部署新技术。

十大前瞻

基于上述研究,报告对未来一至三年的大语言模型、多态模型和商业竞争态势,做出了十点前瞻。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1