当前位置:首页|资讯|AIGC

微博首席运营官王巍:AIGC价值观对齐是非常大的挑战

作者:新京报发布时间:2023-10-19

原标题:微博首席运营官王巍:AIGC价值观对齐是非常大的挑战

新京报贝壳财经讯(记者陈维城 见习记者韦英姿)10月19日,在2023国家文化产业创新实验区发展大会上,微博首席运营官、新浪移动首席执行官、新浪AI媒体研究院院长王巍认为,AIGC时代对媒体行业有非常大的冲击,可能重构媒体生态。此外,AIGC价值观的对齐是非常大的挑战。

王巍提到,AIGC的应用在两个方面,一是文生文、一个是文生图。AI的文生文的推动者是OpenAI,文生图的推动者则是Midjourney。在GPT4.0之后,可能还会有GPT5.0,在多模态方向,文字、视频、声音都会有进一步发展。

王巍介绍,AIGC的整体生态链,从技术架构的角度可分为三层:最底层是AI基础架构,包括GPU生产商,云计算平台服务商;中间层是大模型,大模型分两派,一派是开源,一派是闭源;最顶层是基于模型的一些应用,如妙鸭相机,都在源源不断涌现。

王巍表示,媒体行业的发展与技术紧密相关。从媒体产业来讲,PGC时代,也就是专业内容生产时代,是网络式、中心化的内容分发方式;到了UGC时代,人人有手机,有发布内容的工具,这就带来了移动互联网的发展。几年前我们讲TGC,就是物联网产生内容,但行业发展太快,直接绕过了TGC,来到了AIGC时代。这对媒体行业有非常大的冲击,可能重构媒体生态,从内容生产、内容制作、内容分发甚至到商业模式,都会带来非常大的影响。

“在AIGC的大潮中,AIGC的训练主要由两个步骤构成,一是基于大量语料的自监督学习,叫做预训练。二是基于人类反馈的强化学习。而在强化学习过程中,是离不开人类指导的,因为AIGC的价值观取决于训练它的人的价值观,AIGC训练出来的模型需要符合人类社会公认价值观的边界。所以在AIGC时代,我们有很多机遇,也有很多挑战,价值观的对齐其实是非常大的挑战,我们需要坚持价值观对齐的工作,才能让AIGC更好服务人类”王巍认为。

编辑 岳彩周

校对 卢茜


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1