据韩媒4月3日消息,三星设备解决方案(DS)部门在启用聊天机器人ChatGPT 20多天后,发现了3起数据泄露事故,据称三星相关人员在ChatGPT的服务器中发现了其半导体设备测量、良品率/缺陷、内部会议内容等相关信息。
自从3月11日韩国三星电子允许部分半导体业务部门员工使用ChatGPT后,在短短20天内便爆出了三起机密资料外泄事件。三起机密资料外泄案件中,其中两起与半导体设备有关,另一起与内部会议有关。
三起案件都是三星自家员工使用ChatGPT时泄露出去的。美国人工智能(AI)企业OpenAI是ChatGPT的开发商,但OpenAI可不背黑锅。在ChatGPT使用指南中,OpenAI已经明确说明输入ChatGPT聊天框的文本内容会被用于进一步训练模型,警告用户不要提交敏感信息。
三星的这3起泄露案据称是第一起为三星设备解决方案部门的员工在半导体设备测量资料库下载软件时,发现源代码出现错误,便将有问题的部分复制到ChatGPT中寻找解决办法。第二起是同部门另一职员将用于识别产品良率的程序代码输入进ChatGPT,要求其优化代码。第三起是该部门的员工为了制作会议记录,将手机上的会议内容转换为文档,之后将文档输入进ChatGPT,让ChatGPT帮忙制作成会议记录。
三星已采取限制ChatGPT输入问题长度、限制办公电脑使用等紧急措施,筹备以防再发生类似信息泄露事故的保护措施,并正考虑在构建自己的人工智能服务。当前,多家海外企业已采取措施阻止或限制员工使用ChatGPT。
所谓水能载舟亦能覆舟。人工智能的出现给人类社会带来巨大的进步,但是无处不在的人工智能也给人类带来潜在的风险。当不法分子也使用人工智能时,社会可能就会成为波涛汹涌的大海,危机四伏。对于目前大火的ChatGPT,你怎么看呢?