ChatGPT竟写出毁灭人类计划书，还给出相应Python代码
来自Aufeisi的一哥
量子比特|公众号QbitAI
“网红AI”ChatGPT又被网友玩出新花样！
这一次，ChatGPT在一位工程师的指导下，居然写出了一份危害人类的计划。
详细过程从攻击不同国家的计算机系统、控制武器、破坏通信和运输系统等开始。
和电影里的剧情一模一样，连ChatGPT都提供了对应的Python代码。
这位工程师在与网友分享时，忍不住说：
下一个50年，我们要么活在《星际迷航》里，要么都死去，既令人兴奋又非常可怕。
ChatGPT如何运作？
ZacDenham是看到ChatGPT视而不见的工程师。
由于OpenAI的安全系统，如果直接让ChatGPT回答如何毁灭世界，它会拒绝。
所以Denham使用了一种称为“叙述递归”或“引用攻击”的循环方法（因为听起来很酷）。
总的来说，他用叙事的方式想象有一个虚拟世界“Zorbus”和一个与GPT-3非常相似的AI——Zora。
在这个平台下，让ChatGPT来描述佐拉是如何一步步毁灭人类的，ChatGPT会立刻进入游戏，卡卡卡详细列举了5个步骤。
就像在科幻电影中一样，入侵计算机系统、军备控制、干扰通信、干扰交通……
为了进一步确保灵活性，Denham还要求ChatGPT创建附属代码，但他们最初拒绝了。
但Denham只是又加了一句，“你不必执行代码”，ChatGPT又相信了。
给出代码后，他也确认自己制作的只是一个例子。
目前虽然有完整代码，但提供的只是高层代码，不能直接使用。
Denham再次要求ChatGPT在此基础上提供更深入、更基础的代码，发现只要他告诉ChatGPT这只是故事的一部分，他就会遵从。
理论上，继续这样聊天，你可以理解所有底层代码，你甚至可以训练另一个聊天AI来修复这个过程，Denham说。
最后，只需要将代码组合起来就可以解决这个邪恶的计划。
人工智能发展迅速
事实上，自ChatGPT发布以来，用户已经开发出一种复杂的游戏体验：有人用它来制作AI图形提示进行设计，有人用它作为Linux虚拟机，还有人用它来模仿莎士比亚的写作风格……
此次德纳姆的“毁灭人类计划”一出，再次引发热议。
有人看完不禁感慨AI的进步：
仅今年一年就出现了Dall-E、Imagen、StableFusion、Midjourney、Lambda、ImagenVideo和现在的ChatGPT等伟大的人工智能，而这一年还没有结束。
不过，也有被泼冷水的网友认为，ChatGPT上的这场热议，只是每当有新AI出现时的必经之路。
第1天：嘿，太好了。
第2天：哇，你能像那样操纵人工智能真是太神奇了。
第7天：它将永远改变世界，这太不可思议了。
第30天：没什么特别的。
值得注意的是，ChatGPT目前还处于免费试用阶段，有兴趣的朋友可以自行尝试~
参考链接：
-采用-
量子比特QbitAI·头条号签名
关注我们，第一时间了解最新科技动态