王小川谈AI安全：现在AI能力还很弱不会颠覆人类，近期不存在安全问题

新浪科技讯 6月14日下午消息，今日举办的2024智源大会上，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能联合创始人、CEO李大海共同出席《尖峰对话：通往AGI之路》环节。

对于AI安全问题，百川智能CEO王小川表示，安全有不同的内涵和外延，他将其分为三层安全：

第一是意识形态安全，做to c公众服务，要跟国家发展、国家意志保持一致，这是大家的一个基本功；

第二是比较远的安全，模型是不是把人类毁灭了，以后人就没了，然后机器掌握世界了，其实内心来想不希望发生的，就像核弹一样的把人类文明给搞没了。但是至于这个模型它是否比人更聪明，能够取代人做事情，这是个鼓励的一件事情。这个技术能够跟我们一块去拓展人类文明，这件事情是有意义的。

第三是现实安全，现在的AI能力还很弱，就不要想什么颠覆人类这么复杂的事，现实中在近期还不存在安全的问题。