ChatGPT之父警告AI可能灭绝人类

原标题：ChatGPT之父警告AI可能灭绝人类

超过350名人工智能（AI）领域的行业高管、专家和教授共同签署了一封公开信，警告称AI可能带来灭绝风险。这封公开信于5月30日发表在非营利组织人工智能安全中心(CAIS)的网站上，其中签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封公开信只有一段话，总共22个单词：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”这句话简短明了，却道出了人工智能可能带来的严重后果。

ChatGPT之父警告AI可能灭绝人类

此前，一些签署者曾呼吁“暂停”开发比GPT-4更高级的AI至少6个月。然而，这封公开信在多个层面受到批评，一些专家认为它夸大了人工智能带来的风险，而一些人则赞同存在这种风险，但不同意信中建议的措施。

人工智能安全中心执行主任丹·亨德里克斯（Dan Hendrycks）表示，5月30日的声明很简洁，没有提出任何减轻人工智能威胁的潜在方法，旨在避免引起分歧。他说：“我们不想推动包含30种潜在干预措施的庞大菜单。当这种情况发生时，它会淡化（想传达的）信息。”

实际上，人工智能已经在许多领域得到广泛应用，如医疗、交通、金融等。它可以为人类带来很多便利，但也存在着许多潜在的风险和挑战。例如，AI系统可能会出现错误或偏差，导致对人类造成伤害。此外，AI系统也可能被恶意使用，如用于网络攻击、谣言传播等。

因此，减轻AI带来的灭绝风险确实是一个全球优先事项。要实现这个目标，需要加强对AI系统的监管和控制，并制定相应的法律和规章制度。此外，还需要加强对AI系统的研究和开发，确保其安全性和可靠性。只有这样，才能让人工智能真正为人类所用，并为我们创造更加美好的未来。