当前位置:首页|资讯|ChatGPT|OpenAI

遭意大利封禁、加拿大宣布调查......ChatGPT不能用了?

作者:思为交互发布时间:2023-04-11

原标题:遭意大利封禁、加拿大宣布调查......ChatGPT不能用了?

遭意大利封禁、加拿大宣布调查......ChatGPT不能用了?

最近,欧洲国家开始对OpenAI进行监管,卷起了一轮新的监管风暴。3月31日,意大利隐私保护监管机构宣布禁用ChatGPT。虽然 OpenAI 创始人 Sam Altman 对此表示相当无辜,发推表示「我们遵守了所有隐私法规」言下之意表示「ChatGPT 没做错什么」,同时表示期待 ChatGPT 重新在意大利开放访问;但 Twitter 上也有从事数据安全领域的专家提醒 Altman:这并非只是结束,很可能是一波欧盟乃至世界各国禁止 ChatGPT 的开始。

4月3日,德国联邦数据保护专员发言人称出于数据保护方面的考虑,可能会暂时禁止在德国使用ChatGPT;加拿大广播公司(CBC)4月4日报道称,加拿大联邦隐私监管机构宣布,已经对OpenAI展开调查,因为该公司涉嫌“未经同意收集、使用和披露个人信息”;法国、西班牙等欧洲国家也开始考虑对AI聊天机器人采取更严格的监管。在这一轮“封杀潮”中,各国给出的理由都是危害信息安全、技术安全。

4月10日,中国支付清算协会也发布了关于支付行业从业人员谨慎使用ChatGPT等工具的倡议,呼吁人们在使用过程中不要上传涉及国家及行业机密的内容。

ChatGPT作为一款强大的语言模型,能利用高级算法来理解自然语言、上下文并且生成有意义的回复。然而,权力越大,责任越大,人们使用ChatGPT时上传敏感信息就存在信息泄露的风险。就在3月20日,OpenAI就曾经下线过ChatGPT,修复“允许查看其他用户聊天记录的程序错误”。ChatGPT的语言模型会收集聊天内容用于后续算法训练。用户在与ChatGPT的聊天过程中提供的隐私内容,很可能被ChatGPT收集,并成为算法训练的学习素材,然后在其他场景中披露出去。

数据泄露之后,OpenAI发布了一份事后分析报告,解释了Redis客户软件开源库中的一个漏洞导致ChatGPT服务泄露了其他用户的聊天查询和1.2%的ChatGPT Plus用户的个人信息。并表示:“该漏洞是在Redis客户软件的开源库Redis -py中发现的。我们一发现了这个漏洞,就联系了Redis的维护者,已发布了解决这个问题的补丁。”泄露的信息包括订阅者的姓名、电子邮件地址、支付地址、信用卡号后四位数字和到期日期。

此次事件之后,信息安全问题再次成为热议。信息安全一直都是每次技术进步的难点,AI也一直被视为一把“双刃剑”,在这股由ChaGPT引发的AI热潮当中,各种山寨版ChatGPT也不断涌向,且频繁向消费者索取个人信息授权。可以说一时之间AI已经和信息安全完全捆绑,那么作为使用ChatGPT的个人,又该如何妥善应对其带来的个人信息保护挑战呢?

1、加快数据合规建设,在人工智能设计中嵌入个人信息保护。企业应当严格落实数据合规建设的主体责任,积极参与数据合规体系建设。

2、严格审核数据来源,确保个人信息处理的合法性。个人信息作为人工智能对话中可能出现的内容,有必要对其进行特殊保护。

3、强化输出内容管理,健全防止个人信息泄露机制。对合成结果进行审核,建立健全对违法、不良信息的识别和阻断机制。

4、增强鉴别防范能力,防止被山寨人工智能骗取个人信息。在大数据时代,个人信息的重要性日益凸显,个人信息保护意识也应当随之提高。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1