意大利对ChatGPT的禁令，只是OpenAI麻烦的开始

意大利的 ChatGPT 禁令

OpenAI 首席执行官 Sam Altman 热爱意大利，但这种感情可能不是相互的——至少在涉及 OpenAI 的旗舰产品 ChatGPT 时不是。

上周，意大利以违反欧洲严格的数据隐私法 GDPR 为由暂时禁止了 ChatGPT 。该国家监管机构指责开放人工智能忽视安装防止未成年人使用服务和“非法收集个人数据”的功能。

该机构表示，由于无法验证用户的年龄，该应用程序“让未成年人接触到与其发育程度和意识相比绝对不合适的答案”。

意大利监管机构命令 OpenAI 停止从意大利客户收集数据，并披露纠正该国独立机构提出投诉的步骤。

OpenAI 立即遵守了禁令，表示将与意大利监管机构合作，“教育他们”理解OpenAI 的人工智能软件是如何训练和运行的。

“我们当然服从意大利政府，并已停止在意大利提供 ChatGPT（尽管我们认为我们遵守所有隐私法）”，Altman 发推文说，并补充说“意大利是我最喜欢的国家之一，我期待很快再次访问！”

这些评论因带有“美国式装聋作哑”引起了其他Twitter用户的嘲笑。与此同时，意大利副总理责备该国的数据监管机构，称禁令似乎过分了。但意大利的决定可能只是OpenAI在欧洲问题的开始。

德国考虑禁止ChatGPT，欧盟国家跟进

根据最新消息，德国正在考虑效仿意大利，禁止 ChatGPT。

德国数据保护负责人声称，出于对个人信息安全的担忧，德国可能会效仿意大利禁止 ChatGPT。

本周一德国数据保护专员 Ulrich Kelber 对媒体表示，他的国家可以效仿意大利最近的 ChatGPT 禁令，并发布类似的执法措施。

在意大利数据保护机构对 ChatGPT 涉嫌违反隐私规则展开调查后，Ulrich Kelber 表示，“原则上，这种行动在德国也是可能的”。他补充说，这将涉及每个联邦州的管辖范围。

Kelber 表示，在意大利实施禁令后，德国监管机构一直在与意大利监管机构进行沟通。

法国和爱尔兰等其他欧盟国家的数据隐私监管机构也已联系意大利数据监管机构讨论其调查结果。

爱尔兰数据保护委员会(DPC) 发言人表示：“我们正在与意大利监管机构跟进，以了解他们采取行动的依据，我们将就此事与所有欧盟数据保护机构进行协调。”

在欧盟的“一站式”数据监管框架下，爱尔兰的 DPC 是许多全球科技巨头的主要欧盟监管机构。然而，由于这家人工智能公司在欧盟没有办事处，它对 OpenAI 在欧盟的运作方式没有直接的监管控制。

与此同时，在英国，数据保护监管机构在意大利颁布禁令后发出警告称，如果公司在开发和使用生成人工智能时不谨慎，也很可能会触犯英国的数据保护法该办公室发布了一份清单供公司使用，以帮助确保它们遵守现行法律。

遵守该清单说起来容易做起来难。一些欧洲法律专家正在积极讨论处于当今生成式人工智能热潮核心的任何大型基础模型——所有这些模型都根据从互联网上收集的大量数据进行训练，在某些情况下包括个人信息——是否符合《通用数据保护条例》 GDPR要求 。

牛津大学 AI 伦理研究所的高级研究员 Elizabeth Renieris 撰写了大量关于将现有法律应用于 AI 和区块链等新兴技术挑战的文章，她在 Twitter 上写道，她怀疑《通用数据保护条例》 GDPR对生成式人工智能公司采取行动“将无法实施，因为数据供应链现在如此复杂且脱节，以至于很难在‘数据主体、控制者和处理器’之间保持清晰的划分（@OpenAI 可能会尝试利用这一点）。” 根据GDPR，隐私和数据保护义务，根据组织是否被视为某些数据的控制者，或仅仅是数据的处理者而有很大不同。

纽卡斯尔大学技术法主席 Lilian Edwards，对 Renieris 回复道，“当云计算到来时，这些区别变得很恼火，随着机器学习的出现而磨损，现在随着大型模型的出现而分崩离析。没有人想重新审视 GDPR 的基本原则，但我不清楚 [欧盟法院] 这次能否对其进行巧妙处理。”

Lilian Edwards是对的，欧盟立法者没有兴趣重新审视《通用数据保护条例》 GDPR的基本定义。更重要的是，欧盟正在努力弄清楚如何处理欧洲的大型通用模型。人工智能法目前正在努力敲定，希望欧盟议会的主要委员会在 4 月 26 日就共识版本进行投票。（即便如此，该法案也不会真正敲定。整个议会将在5 月初进行修正并投票通过，议会、作为欧盟执行机构的欧盟委员会和代表欧盟各国政府的欧洲理事会之间将进行进一步谈判。）总的来说，基于欧洲的大型基础模型。

在极端情况下，许多公司可能不得不效仿OpenAI，干脆停止向欧盟公民提供这些服务。令人怀疑的是，欧洲政客和监管机构是否希望出现这种结果，如果这种情况开始发生，他们可能会在执法方面寻求某种妥协。光靠这一点可能还不够。正如《通用数据保护条例》 GDPR 和跨大西洋数据共享的情况一样，欧洲法院对公民团体诉诸法庭，并根据对法律的严格解释获得判决，持开放态度，这些法律迫使国家数据隐私监管机构采取行动。

至少，大型基础模型法律地位的不确定性可能会让公司，尤其是欧洲的公司，在部署它们时更加犹豫，尤其是在他们自己没有从头开始训练模型的情况下。这可能也适用于拥有国际业务的美国公司——毕竟 GDPR 不仅适用于客户数据，还适用于员工数据。

美国监管机构投诉 ChatGPT

美人工智能和数字政策中心 Centre for AI and Digital Policy 已提出申诉，敦促美国联邦贸易委员会(FTC) 以防止 OpenAI 在其当前迭代之后推出新的商业版本，即 GPT-4。

该中心的投诉发布在该组织的网站上，将 GPT-4 标记为“有偏见、具有欺骗性，并对隐私和公共安全构成威胁”。

在正式投诉之前，马斯克、人工智能专家和行业领袖发表了一封公开信，要求停止六个月开发比OpenAI最近推出的GPT-4更先进的系统，并指出潜在的社会风险。

什么是ChatGPT？

那么什么是 ChatGPT？在其聊天框输入这个问题，要求生成式 AI 应用程序描述自己，就像它在和一个 10 岁的孩子说话一样。会得到以下回应：

“ChatGPT 就像一个超级智能的机器人朋友，可以通过输入消息与你交谈。它是由计算机创建的，可以回答你的问题，帮助你做作业，或者只是聊你喜欢的任何事情。但请记住，它不是一个真人，只是一个听起来像人说话那样的程序”。

它还提供更具技术性的回应，称“ChatGPT 是一种先进的 AI 语言模型，可根据输入查询生成类似人类的文本响应。它利用尖端的 GPT 架构来实现复杂的自然语言理解和生成”。

自 2022 年 11 月推出以来，已有数百万人使用了 ChatGPT，据称该人工智能内容生成器是历史上被采用最快的在线应用程序。

在推出后的一个月内，该应用程序就吸引了超过 100 万用户，以闪电般的速度飞跃到被大规模采用，与之相较的是，社交媒体平台 Facebook（Meta）用了 10 个月和流媒体平台 Netflix 用了三年才获得对应的用户数。

参阅

https://www.euronews.com/next/2023/03/31/openais-chatgpt-chatbot-banned-in-italy-by-watchdog-over-privacy-concerns

https://www.livemint.com/technology/tech-news/chatgpt-could-be-blocked-in-germany-if-necessary-warns-data-protection-chief-11680577555294.html

https://www.reuters.com/technology/germany-principle-could-block-chat-gpt-if-needed-data-protection-chief-2023-04-03/

本文来自微信公众号“Tech商业”（ID:InnoBusiness），作者：Brian&Jeremy，36氪经授权发布。