当前位置:首页|资讯|ChatGPT|人工智能

ChatGPT为何成了“制假高手”?这还要从它说起

作者:新京报发布时间:2023-02-22

原标题:ChatGPT为何成了“制假高手”?这还要从它说起

这几天,一条关于某地取消限行的消息热传网络。经调查,这是条彻头彻尾的假新闻,不过是有人为展示ChatGPT功能强大而搞出来的乌龙作品。

新华社 图文无关

一段时间以来,凭借强大的语言处理算法功能,ChatGPT成为备受追捧的现象级人工智能应用。从现实反馈来看,上至天文地理,下到科技前沿,ChatGPT确实对答如流。但细究其里,硬伤也比比皆是,甚至不乏大量“一本正经胡说八道”。比如,有人让其解释高深物理理论,结果附列论文一查来源均无出处;有人让其推荐知名学者,却发现人物履历七拼八凑;还有人问其历史问题,回答则是“驴唇不对马嘴”……形真实假、杂糅难辨,有时把一些内行都忽悠了,导致学术圈也开始对它警惕。

ChatGPT为何成了“制假高手”?这还要从其技术特性说起。所谓ChatGPT,Chat是聊天的意思,GPT中文全称是生成式预训练转换器,技术原理也如其名:先给它提供一个庞大的语料库,然后让模型通过上亿参数对这些内容打散、标记、学习,从而构建起一个复杂的预测模型,并在大量用户的不断使用反馈中不断接受训练,逐渐提高其人工智能水平。这一点,很像人类加工信息的“脑回路”,也正是因为其能像人类一样“理解文字”,所以较以往的各种AI产品显得更加“聪明”。事实上,也正是基于这种隐匿性更强的“假”,一些事实谬误和价值观偏见更容易在无形中附着其上。毕竟,ChatGPT再神,靠的也是被投喂的语料,对于这些语料碎片被调取、综合后所生成内容的真实性、准确性,ChatGPT并不负责任。这就好比海量真实事物被打碎打散后,它们的若干局部被随机捏合为一个新整体,这个新整体未必是真实存在的。更何况,人工智能的背后是人,素材、语料的训练,新内容生成的逻辑、规则设定,都不可避免地带有价值观和倾向性,这就难怪在国际政治、新闻评论、道德伦理等诸多议题上,频频可见ChatGPT诡异的双标,就连OpenAI也承认,这是“有害指令或带有偏见的回答”。

作为一种基于深度学习算法的信息技术,人工智能本身是中性的,但其开发者、使用者终究是带有价值倾向的。不少人忧虑,随着相关技术广泛应用,难辨真伪的虚假内容可能会出现井喷,导致信息甄别的难度不断提高;同时出于政治博弈等多种因素,夹带私货的价值偏见等可能会随着信息流水线式生产而加速扩散,进一步放大分歧和撕裂。对此,许多国家已经在着手应对。中国作为较早开展人工智能立法探索的国家之一,理应未雨绸缪、做好预案。从伦理规范到隐私保护,从价值观引导到真实性把控,都应积极探索设立相关规范,预防技术应用的失焦跑偏。

丹·布朗在其科幻小说《本源》中曾畅想——继恐龙灭绝后,人类在未来也会消失,一个新的物种将以极快的速度占领地球,那就是“人机结合体”。ChatGPT的横空出世,让不少人惊叹“未来已来”。我们固然不能拒绝科技的进步,但瞬息万变中,必须保持足够的警觉,最大限度避免技术负效应。

(原标题:ChatGPT写假新闻的警示)

来源:北京日报 作者 雨馨

流程编辑:U022


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1