今年,随着人工智能的迅猛发展,或许是人类距离科幻成为现实最近的一次。
各行各业的专家们,都开始畅想人类与 AI 的未来。
刘慈欣作为国内顶尖的科幻小说家之一,自然也在各种场合被提问。
最近,刘慈欣做客俞敏洪的直播间,探讨本土科幻小说的发展。
当被问到对 AI 的看法时,大刘表示,尽管人工智能目前的水平还没有达到“统治人类”的程度,但它已经产生了很大的影响。
他透露,在参加前不久的科幻大会时,因为时间紧迫,有一两篇发言稿是用 ChatGPT 写的,结果写得还不错。
刘慈欣谈及人工智能的影响,认为其首先会取代高智能的职业,但这与之前的预测相反。其次,人工智能可以自我迭代出更高智能的版本,但我们的算力限制了它的发展。此外,人工智能可能会让人类陷入舒适的陷阱之中。
在现实和近未来的层面上,人工智能已经产生了一个明显的趋势:它有可能代替我们人去从事很多的工作,提高我们的生活质量和幸福感。
然而,我们也不能忽视人工智能对人类社会带来的冲击,特别是在文化艺术、文学等领域,甚至可能重新定义这些东西。至于人工智能是否会消灭人类,刘慈欣认为从目前的技术发展趋势来看,可能性不大。
但是,人工智能的迭代可能会让它很快地把智能水平提高到几百倍甚至上万倍,而人类的计算能力是有限的,所以人类的无能反而成为最后的屏障。此外,如果人工智能发展到一定程度,社会可能会面临前所未有的巨大陷阱。因此,我们应该对未来有所警觉。
下面为问答节选(部分删减):
Q:现在 ChatGPT 横空出世,被人们热烈地讨论,您觉得人工智能的发展对人类的命运会产生一个什么样的影响?那自我迭代的人工智能有没有可能会取代或者说消灭人类?
刘慈欣:我觉得这(人工智能的影响)应该从这个现实或近未来和比较远的未来这两点来看待。
所以这确实是我们应该对未来有所警觉的一件事情。