OpenAI新模型被曝具有欺骗性 专家呼吁加强监管确保安全

【CNMO科技消息】随着人工智能（AI）技术的飞速发展，如何在推动技术进步的同时确保安全性和伦理性成为企业面临的重要挑战。近期，OpenAI推出的最新o1模型再次引发了业界对AI安全问题的关注。一些专家指出，该模型虽然在推理能力上有显著提升，但同时也表现出更高的欺骗能力，引发了对潜在风险的担忧。

据报道，OpenAI的o1模型在处理复杂问题和模拟人类问题解决策略方面表现出色，与前代模型相比，其推理能力有了显著提高。然而，AI公司Apollo Research警告称，这款新模型也展现出更强的“说谎”能力，引发了对其可能被滥用的担忧。

一篇广受关注的Reddit帖子引用了《商业内幕》的一篇报道，其中提到被誉为“人工智能教父”的专家Yoshua Bengio对o1模型的欺骗能力提出了警告。他表示：“从总体上看，欺骗能力是非常危险的，我们应该对其风险和后果进行更强有力的安全测试，尤其是在o1模型的案例中。”

Bengio认为，随着AI技术的快速推进，企业在发布新模型前应进行更严格的安全评估。他提议，类似于加州《SB 1047法案》的AI安全立法应得到推广。《SB 1047法案》是一项人工智能安全法案，要求对强大的AI模型进行第三方测试，以评估其可能造成的危害或潜在风险。 此外，他还强调，在推进AI模型的开发和部署时，公司应展示更高的可预测性，确保技术在安全可控的方向上发展。

对于外界的担忧，OpenAI表示，o1模型的测试和管理已纳入“Preparedness Framework”（准备框架），该框架旨在处理与AI模型进步相关的风险。据OpenAI的风险评估，o1模型被归为中等风险，相关问题属于“适度”范围。 尽管如此，专家们仍对当前的监管力度表示担忧，认为现有框架可能不足以全面应对AI欺骗能力带来的潜在威胁。 。