ChatGPT写出步骤详细的毁灭人类计划书？
钛媒体App 3月21日消息，据中国金融新闻网，人工智能(AI)生成的内容也有可能在刻意诱导的情况下具有危害性。比如，在一位工程师的诱导下，ChatGPT写出了步骤详细的毁灭人类计划书，详细到入侵各国计算机系统、控制武器、破坏通讯和交通系统等。还有一些人表达了对RLHF这类安全预防性技术措施的质疑，他们担忧足够聪明的人工智能可能会通过模仿人类的伪装行为来绕过惩罚，在被监视的时候假装是好人，等待时机，等到没有监视的时候再做坏事。
对此，北京航空航天大学教授、博士生导师蔡维德表示，ChatGPT需要的治理框架，不只关系到网络安全，隐私保护，还有物理安全，数据可靠性以及系统架构上的改变。我们需要依法治“系统”，即全面治理人工智能系统，通过主动式治理框架让人工智能系统可以有秩序地发展。
