当前位置:首页|资讯|OpenAI|人工智能|ChatGPT

美国联邦贸易委员会正式调查OpenAI,监管风暴来了?

作者:第一财经发布时间:2023-07-14

美国联邦贸易委员会正式调查OpenAI,监管风暴来了?

美国联邦贸易委员会(FTC)对人工智能聊天器ChatGPT背后的公司OpenAI正式发起调查。

根据美媒当地时间13日曝出的信件内容,FTC告知OpenAI,将调查ChatGPT是否通过发布虚假信息损害了人们的利益,以及OpenAI是否存在“不公平或欺骗性”的隐私和数据安全行为。

FTC在信中还要求OpenAI分享内部资料,包括该公司如何保留用户信息,以及该公司为应对其模型产生“虚假、误导或诋毁”言论的风险而采取的措施。

这并非毫无预警。5月,白宫与OpenAI、谷歌、微软等公司的首席执行官会面,探讨相关技术的风险。白宫还表示,七家最大的AI公司已经同意在8月份的年度Def Con极客大会上开放模型,接受一定程度的公众监督。

对于披露模型的问题,欧洲工商管理学院(INSAED)决策科学和技术管理教授埃夫根尼奥(Theos Evgeniou)对第一财经记者表示:“我认为,关于共享模型信息的讨论重点错了。评估一个模型是否值得信任,只应该看它安不安全,而不是去检测这个模型的结构本身,因为它可能很复杂。这可以通过研究模型的行为来实现。我认为,一个模型无须做太多信息披露,也能解决很多问题。”

FTC想监管什么

13日,FTC主席可汗(Lina Khan)在众议院司法委员会的听证会上拒绝对该调查发表评论,但她表示,监管机构的担忧包括ChatGPT和其他AI服务“被输入大量数据”,而这些AI公司“没有检查是什么类型的数据被输入了”。

她补充道:“我们听到了一些案例,在(AI聊天机器人)回应询问时,一些敏感信息被泄露。我们也听到了诽谤、诋毁性论述、完全不真实的事情出现。我们担心的就是这种欺诈和欺骗行为。”

有用户报告称,ChatGPT捏造了人名、日期和事实,还伪造了新闻网站链接和学术论文参考文献。这一问题在业内被称为“幻觉”(hallucinations)。

监管机构对ChatGPT背后的语言模型攫取的大量数据也表示担忧。OpenAI推出两个月后,月活跃用户已超过1亿。微软新推出的必应搜索引擎也采用了OpenAI技术,在1月份发布后两周内,就被169个国家及地区的100多万人使用。

在对OpenAI的民事传票中,FTC向该公司详细询问了其数据安全措施、营销工作、训练人工智能模型的做法以及对用户个人信息的处理。比如对直接影响消费者的人工审核员有何监督,以及消费者的过往投诉信息等。

OpenAI首席执行官阿尔特曼(Sam Altman)13日晚些时候在推特上称,该公司会与FTC合作,同时相信该公司的技术是安全的、有利于消费者的。“我们保护用户隐私,我们设计这个系统是为了了解世界,而不是个人。”但他也承认:“我们对我们技术上的局限性十分坦诚,尤其是当我们有不足的时候。我们有限盈利的结构意味着我们没有动力获得无限回报。”

根据ChatGPT的解释,“有限盈利”的意思是,OpenAI将社会和道德使命放在了追求财务目标之上。

美国未来监管方向

今年以来,随着生成性AI应用的迅速崛起,相关AI产品已成为全球监管机构的关注焦点。

拜登政府已开始研究是否需要对ChatGPT等AI工具进行检查。美国商务部于4月正式公开征求意见,内容涉及所谓的问责措施。白宫科技政策办公室也在制定相关战略,以厘清AI带来的益处和弊端,后者包括黑客攻击能力增强、AI系统的歧视性决策以及AI生成的内容破坏选举的可能性等。

5月,FTC已向AI行业发出警告,称密切关注企业对AI技术的选择和使用,以及对消费者产生的实质性影响。

在参议院多数党领袖舒默(Chuck Schumer)的领导下,两党立法者也将AI监管作为本届国会的优先事项。但新的立法或措施可能至少需要几个月的时间才能出台。议员们同时也担心,相关立法可能会放缓美国的创新步伐。

对于美国监管AI的趋势,埃夫根尼奥对第一财经解释称:“商业是需要监管的。即使是科技高管也在号召监管。今年5月美国参议院对阿尔特曼的听证会上,他就是这样的立场。因为他们知道,如果没有监管,人们将不信任技术

但埃夫根尼奥认为,美国的监管不会太过着急或严苛。“美国喜欢的方式是:不要着急,看看它会怎样发展,先允许创新,等有问题时再去解决它。这是因为美国在决定行动时往往也非常迅速。我们已经看到金融危机后,美国改变事情的速度有多令人惊讶。这也符合美国愿意放手观察的做法。”他说。

FTC多管闲事”?

FTC是美国联邦政府中负责消费者权益保护的企业监管机构,可以对所有可能损害消费者利益的不公平和欺骗性商业行为,以及不公平竞争行为进行监管。

但批评人士认为,在可汗任下,该机构有时太过放大其职权范围。

代表科技行业的游说组织进步商会(Chamber of Progress)创始人科瓦切维奇(Adam Kovacevich)说:“当ChatGPT说错了关于某人的话,并可能对其声誉造成损害时,这属于FTC的管辖范围吗?我认为这一点都不清楚。”他认为,此类问题“更多属于言论范畴,超出了他们的权限”。

此外,在本周四的听证会上,可汗还被指责“骚扰”推特公司。推特在一份法庭文件中称,其受到FTC“繁琐且无理取闹的执法调查”。可汗对此回应称,该机构只对保护用户隐私感兴趣,“我们正在尽一切努力确保推特遵守命令”。

FTC遇到的烦心事不止这一桩。本周,FTC阻止微软收购动视暴雪的起诉也被美国联邦法院驳回。13日,FTC对这一裁决提起上诉。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1