OpenAI CEO：AI杀死人类有一定可能性

据量子位报道，近日，OpenAI CEO奥特曼在与MIT研究科学家Lex Fridman的对话中，谈及OpenAI“非营利性质”的逐渐削弱，奥特曼直言：“很久之前，就已经意识到非营利性不是长久之计。仅仅依靠非营利筹集到的资金对OpenAI的研究来说远远不够，商业化是必然选择。”

但在之后奥特曼也试图“找补”回一些，称目前的商业化的程度仅止于满足投资者与员工的固定回报，剩余资金还是会流向非营利性组织。

“提到AGI，一开始在OpenAI声称要做通用人工智能时，还有一堆人在嘲讽，如今做出GPT-4这样的产品，回过头来再看，嘲讽的声音已经越来越少了。”

而面对外界询问“GPT-4是AGI吗”这样的问题时，奥特曼则是直接给出了自己理解中的AGI：

“AGI所掌握的知识应该是要超过人类科学知识总和的，并且具有创造性，能够推动基础科学的发展；而目前所有GPT并不能做到这些，想要达到AGI还需要在目前GPT的范式上进行拓展，至于如何拓展，正是目前所缺乏的。”

此外，奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点：“我必须承认，（AI杀死人类）有一定可能性。很多关于AI安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。”