当前位置:首页|资讯|ChatGPT

意大利禁用ChatGPT,数据安全再次被摆上台面|新京报专栏

作者:文艺sao客发布时间:2023-04-03

原标题:意大利禁用ChatGPT,数据安全再次被摆上台面|新京报专栏

▲意大利禁用ChatGPT。图/IC photo

近日,意大利宣布禁止使用ChatGPT,并限制OpenAI处理意大利用户信息,同时,个人数据保护局开始对此前ChatGPT立案调查。这也使得以ChatGPT为代表的人工智能大模型还未全面进入普及应用,就迎头撞上了数据安全的质疑。

意大利此举的依据,是3月份ChatGPT出现意大利用户部分数据丢失的情况。但综合来看,应当是意大利个人数据保护局认定OpenAI在收集分析用户数据的行为中,没有遵守当地法规。例如,没有告知用户,也没有就在意大利开展业务走完收集数据的审核流程。

要看到,海量数据的积累带来了人工智能的生产力质变,同时,从互联网诞生起就始终萦绕左右的数据安全、隐私保护等问题,也成为了人工智能大模型无法回避的伴生难题。

欧洲的个人数据保护走在前列

从历史来看,ChatGPT在欧洲率先遭遇数据安全的质疑几乎是必然。

自进入互联网时代以来,欧洲在个人数据保护方面就始终走在全球前列,相关监管堪称全球最早最严。

1981年开始,欧洲议会就通过了世界上第一个个人数据保护条例,此后,相关的监管条例始终紧跟技术变化,甚至始终领先技术一步。例如,1995年,欧盟进一步针对个人数据隐私和流动通过了新的立法,而此时,互联网时代也只是刚刚开启而已。

今时今日,关于个人数据保护的概念,多是在欧洲被率先定义,例如,数据的知情同意权、被遗忘权、数据携带权等等。因此,意大利援引全世界最严格的数据保护条例,对现在仍在测试阶段的ChatGPT进行封禁,既显得突然,同时又顺理成章。

客观上说,当前的ChatGPT在数据隐私、合规、伦理等领域的确处在测试探索阶段,用户在使用的同时,也在不断提供新的数据来训练该模型。

正因为仍处在黑盒测试之中,这些数据的合法性来源、用户数据尤其是隐私的保护、黑盒中的数据与知识产权冲突等问题,都给法律、监管带来了新的挑战。因此,审慎为上的欧洲才决定采取一刀切的封杀政策。

举个例子,与互联网时代的搜索引擎不同,ChatGPT本质上是直接模拟人类的思维与语言模式提供答案,其最终目标是为了“取悦用户”,而不是为了提供真实信息。那么,当用户在使用中被告知了一套虚假信息,导致了现实中的利益受损,这种虚假信息导致的安全问题应该如何界定?

安全与创新之间的平衡挑战

如何确保数据授权、界定数据安全的责任与科技公司的义务,规避隐私泄露、知识产权等风险,这些都将是人工智能在大规模介入公共领域后,必须首先解决的问题。

但与此同时,意大利这种一刀切的政策也并不值得鼓励。

过于严格且一刀切的监管政策,曾扼杀了欧洲在互联网时代的科技创新能力。今天,在关于欧洲为何错过移动互联网时代的讨论中,过于严苛缺少弹性的监管政策,一直被视为重要原因。

例如,2016年欧盟通过了史上最严格的个人数据保护法之后,多家全球科技企业在欧洲均卷入了在数据上的反复博弈。

2019年,美国信息技术和创新基金会下属的数据创新中心曾发布报告指出,欧盟的数据保护条例并未产生预期的积极效果,反而增加了企业的数据合规成本、损害科技公司创新和竞争力,同时增加了消费者获取在线服务的成本和不信任感。

回到人工智能领域,在全球大赛跑的背景下,既要提前设定红线和规则以保护公民数据安全,同时,又要防止监管过度带来的创新不足问题,这是各国共同面对的政策难题,需要不断寻找两者之间的平衡。

唯一可以确定的是,从人类近百年来科技创新与伦理冲突的经验来看,在科技即将带来生产力革命的前夜,提前思索、讨论和商定包容审慎监管的细节,远比亡羊补牢更好。

撰稿 / 马尔文(互联网从业者)

编辑 / 刘昀昀

校对 / 刘越


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1