美监管机构首次出手！OpenAI遭FTC正式调查：生成虚假信息带来危害
当地时间7月13日，据美国CNN报道，美国联邦贸易委员会正在调查OpenAI是否违反消费者保护法，并要求OpenAI提供有关其处理个人数据、向用户提供不准确信息的可能性以及“对消费者造成损害（包括声誉损害）的风险”的大量记录。
英国《金融时报》称，这是美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。
一份文件显示，美国联邦贸易委员会本周向OpenAI发出了一份长达20页的要求，包括“如何获取用于训练大型语言模型的数据”，到描述ChatGPT的“生成有关真实个人的虚假陈述的能力”等，以及要求OpenAI提供其收到的任何公众投诉、其涉及的诉讼清单还包括该公司于2023年3月披露的数据泄露细节的证词，该证词曾暴露了用户的聊天记录和支付数据。
据悉，该文件最早由《华盛顿邮报》曝光，随后，一位知情人士向CNN证实了该文件的真实性。
在OpenAI推出ChatGPT不到一年后就展开了调查，业内人士认为，美国联邦贸易委员会正在对人工智能采取行动速度较快。过去，FTC通常会在一家公司出现重大公开失误后开始调查，例如在2018年有报道称脸书（Facebook）与政治咨询公司剑桥分析（CambridgeAnalytica）共享用户数据后，该机构开始对脸书的隐私做法进行调查。
美国联邦贸易委员会主席莉娜·汗（LinaKhan）表示，科技公司应该在技术处于萌芽状态时受到监管，而不是等到技术成熟时才受到监管。莉娜·汗在当地时间周四在国会出席作证时，曾对AI表示担忧，称执法者“需要尽早警惕”AI等变革性工具。
“尽管这些工具很新颖，但它们并不能免除现有规则的约束。”莉娜·汗在五月份《纽约时报》的一篇文章中写道，“虽然这项技术发展迅速，但我们已经看到了一些风险。”
不过，OpenAI一直坦率地承认其产品的一些局限性。例如，与GPT最新版本GPT-4相关的白皮书解释说，该模型可能“产生与某些来源相关的无意义或不真实的内容”。OpenAI还披露了类似的信息，即GPT等工具可能导致对少数群体或其他弱势群体的广泛歧视。
“ChatGPT之父”、OpenAI联合创始人兼首席执行官山姆·奥特曼（SamAltman）也表示，快速发展的人工智能行业需要受到监管。今年5月，他在国会作证呼吁对人工智能立法，并拜访了数百名立法者，旨在为该技术制定政策议程。当地时间周四，他在推特上表示，OpenAI技术的安全性“非常重要”。他补充说，“我们有信心遵守法律”并将与该机构合作。
OpenAI已经面临国际监管压力。今年3月，意大利数据保护机构禁止了ChatGPT，称OpenAI非法收集用户的个人数据，并且没有适当的年龄验证系统来防止未成年人接触非法信息。OpenAI在4月恢复了对该系统的访问，并表示已按照意大利监管部门的要求进行了更改。
来源：澎湃新闻
