当前位置:首页|资讯|GPT-4|ChatGPT|OpenAI|人工智能|深度学习

方滨兴谈 GPT-4:警惕形成知识茧房,甚至“三观被左右”

作者:红星新闻发布时间:2023-03-15

原标题:方滨兴谈 GPT-4:警惕形成知识茧房,甚至“三观被左右”

当地时间3月14日(北京时间3月15日凌晨),ChatGPT的开发者OpenAI发布了更强大的GPT-4模型。OpenAI表示,GPT-4是一个能接受图像和文本输入,并输出文本的多模态模型,是OpenAI在扩展深度学习方面的最新成果。ChatGPT热度还未散去,更强大的GPT-4再度成为关注焦点。

对于这股ChatGPT热潮,中国工程院院士、前北京邮电大学校长、网络空间安全专家方滨兴接受红星新闻记者采访谈了自己的看法。他特别指出,从安全角度,要警惕ChatGPT形成知识茧房,也要警惕应用GPT的智能行为体可能伤害人类。

↑方滨兴 据广州大学官网

据悉,此前的ChatGPT是基于GPT-3.5,而在去年就完成训练的GPT-4,一直备受期待。上一代的GPT-3.5不是多模态模型,只能输入和输出文字,而GPT-4能够接受图像输入并理解图像内容,理解能力达到可以解读表情包、梗图。

OpenAI称GPT-4准确度进一步提升,在各种专业测试和学术基准上的表现与人类水平相当,例如已经能够通过律师考试,分数在应试者的前10%左右。GPT-4还能够生成歌词、创意文本,实现风格变化。此次发布也证实了此前的外界猜测,ChatGPT的联网版本——微软的new Bing,已经用上了GPT-4。

对于ChatGPT以及GPT-4掀起的热潮,方滨兴关注到一些问题。他告诉红星新闻记者,现在的ChatGPT是一个聊天形式的软件,给出一个直接答案,取代了传统的教学体系,当大家习惯于查ChatGPT,什么都问它,它什么都给你解答,就会形成知识茧房,甚至“三观都会被左右”,这对各国政府来说都是一个大问题。

↑GPT-4创意图 据视觉中国

方滨兴的另一个担心来自于人工智能对于实体的控制。现在GPT只是一个软件,应用到网络聊天场景有了ChatGPT,但还不能看、不能听、不能摸。而当这样的人工智能接入机器人、汽车等现实世界的“行为体”,能够控制实体时,要警惕这些智能行为体可能有伤害人类的能力。

“GPT的知识背景会产生生命意识。现在所有机器人都没有自我意识,(如果)有一天(它)认为需要自我保护,比如怎么充电,防止别人卸载它的部件等。而它想保护自己不被伤害,一个重要的保护方式可能就是伤害对方。”方滨兴说。

此次发布中,一个令人惊叹的演示是:一个手写的草稿图,GPT-4可以立马生成网站的HTML代码。在方滨兴看来,GPT可以替代某些重复的劳动,比如现在的程序外包等,但需要创新的工作暂时无法代替。对于GPT的进步,方滨兴认为,这是有足够多的输入下的积累式学习结果,他认为,现在各大科技企业人工智能大模型“军备竞赛”,方法基本上都一样,比拼的是大家的耐心。

红星新闻记者 胡伊文 北京报道


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1