三星引入 ChatGPT 不到 20 天，被曝发生 3 次芯片机密泄露！
整理 | 郑丽媛
出品 | CSDN（ID：CSDNnews）
ChatGPT 爆火 4 个月，已逐渐成为各路打工人的“辅助神器”：能写代码、能编小说、还能给出策划方案……而事实证明，ChatGPT 提升的不仅是工作效率，还有安全隐患。
上周，据 SBS 等韩媒报道：三星刚引入 ChatGPT 还不到 20 天，就发生了 3 起机密数据泄漏事件，其中涉及三星半导体设备测量资料、产品良率等信息。
韩媒认为，这些三星的机密资料已“完整地”传给了美国，被存入 ChatGPT 学习数据库中。
不到 20 天，发生 3 起数据泄露事件
实际上，最初三星因担心内部机密外泄，一直禁止员工在工作中使用 ChatGPT。
然而，随着 ChatGPT 进入各个企业的步伐加速，越来越多员工认为技术需要迭代变化，加之半导体本身就是构建“生成式 AI”的核心要素，于是三星决定：3 月 11 日起，半导体设备解决方案（DS）部门可开始使用 ChatGPT。
一般来说，企业在引入新技术时，都会对员工进行相关的培训和教育，让员工了解新技术的使用方法和注意事项，避免因为员工的不当操作而导致机密泄漏等安全问题。所以，三星向员工发出了提醒：“注意公司内部信息安全，不要输入私人内容。”
但所谓“怕什么就来什么”，三星刚允许员工使用 ChatGPT 不到 20 天，光掌握到的数据泄露事件就有 3 起—— 2 起设备信息泄露和 1 起会议内容泄露：
- DS 部门的 A 员工在运行半导体设备计量数据库（DB）下载程序的源代码时，发现有 Bug，便将代码复制到了 ChatGPT 中找解决方法。据韩煤报道，这个操作将使三星半导体设备测量相关代码成为 ChatGPT 的学习资料。
- DS 部门的 B 员工为了解设备产量和产品良率等信息，将所有相关代码复制到 ChatGPT 中，并要求 ChatGPT 优化其代码。
- DS 部门的 C 员工通过相关应用将会议录音转成文字，然后将文字输入到 ChatGPT 中，要求其整理成一份完整的会议记录。对此，韩媒称：“虽然不是技术秘密，但也可能导致会议内容泄露。”
三星启动“紧急措施”：提问不得超过 1024 字节
根据 OpenAI 网站上 ChatGPT 的常见问题解答，其确实指出与 ChatGPT 的对话可能会用作训练数据：
提问：你们会使用我的对话进行培训吗？
答：是的，我们的 AI 培训师可能会审核你的对话，以改进我们的系统。
但有些令人费解的是，尽管韩媒对此言之凿凿，许多网友却提出了关键疑问：“你们是怎么确认这些机密数据已被泄露了的？”，“就算这些对话被用作 ChatGPT 的学习数据，会这么快就出现在回答中吗？”
对于这个疑问，三星方面没有给出正面回答：“因为是公司内部情况，所以很难确认。”网友对此猜测，很可能是三星员工在内部承认了这些行为，由此引发了公司担忧。
对于这 3 起数据泄露事件，三星迅速向员工进行了通报：“在 ChatGPT 中输入内容的瞬间，数据就会被发送到外部服务器并存储，公司无法回收。如果 ChatGPT 学习了三星内部资料，敏感内容就可能会提供给其他人。”
与此同时，三星还启动了“紧急措施”：将向 ChatGPT 提问的上传容量限制在 1024 字节以内；调查信息泄露的原委，必要时给予员工处罚；若采取紧急措施后仍发生类似事故，三星可能会切断 ChatGPT 服务。
据了解，由于使用 ChatGPT 的这些隐患，三星正考虑通过 DS 部门的创新中心，研发一个三星专属的内部 AI 服务。
有关 ChatGPT 的争议一直没停
回顾ChatGPT问世的这 4 个月，其实有关它的争议一直没有定论：提高工作效率是真的，但它会把对话内容作为训练数据也是真的。
据 Cyberhaven 统计结果显示，近 160 万名打工人中，有 8.2% 的员工在工作场所使用过它——许多人称，因为使用 ChatGPT，他们的工作效率“提高了 10 倍”。同时，有 6.5% 的员工表示会将公司数据复制到 ChatGPT 中，更有 3.1% 的员工表示曾将公司的机密数据放入 ChatGPT。
“在 2 月 26 日至 3 月 4 日的一周内，平均有 10 万名员工的公司职员将机密文件放入 ChatGPT 中共 199 次，放入客户数据 173 次，放入源代码 159 次。”
因此，与之相对应的，越来越多企业因担心机密数据外泄，禁止员工访问 ChatGPT，正如之前的三星，还有摩根大通、美国银行、花旗集团、高盛、德意志银行等。近期软银也向全体员工通报了禁止向 ChatGPT 输入机密信息等注意事项。甚至，意大利个人数据保护局（Garante）也在 3 月 31 日宣布，即日起禁止使用聊天机器人 ChatGPT，并限制 OpenAl 处理意大利用户信息。
对于这些企业及国家的禁用动作，部分业内人士表示：“因为 ChatGPT 是热门话题，现在大家都在使用和学习，但对于信息泄露的忧虑等，国内企业也需要更加警惕。”
那么对于 ChatGPT 在工作中的使用，你又有什么看法呢？
参考链接：
https://n.news.naver.com/article/243/0000042639
https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt/
☞ChatGPT 大规模封号亚洲节点，并停止注册；Google 否认 Bard 窃取 ChatGPT 数据进行训练|极客头条
☞ ChatGPT 类大语言模型为什么会带来“神奇”的涌现能力？
☞ 让模型理解和推断代码背后的意图是预训练模型的核心挑战 | NPCon演讲实录