AI教父：“AI具备人类意识不再是科幻”
参考消息网3月5日报道据《日本经济新闻》3月4日报道，这里是邻近加拿大多伦多大学的一处静谧街区。该大学名誉教授、有“人工智能(AI)教父”之称的杰弗里·辛顿在2023年12月27日接待了一位年轻人的来访。
来访者名叫伊利亚·苏茨克韦尔，他曾在2023年11月美国开放人工智能研究中心(OpenAI)的内部混乱中投票支持罢免首席执行官萨姆·奥尔特曼，最终“政变”失败，苏茨克韦尔也丢掉了高管职位。
苏茨克韦尔在社交媒体平台X上表示“深刻反省”，随后便消失在了公众视野中。关于此次“政变”的动机，有报道称可能是为了阻止某些威胁人类的前沿AI的研发，不过真相至今仍是云里雾里。
“如果你不想说就不必说。”考虑到这位多年来的得意门生的心情，辛顿教授没有主动提及此前的一系列骚动。之后两人共进午餐，一边享受着美味的鲑鱼一边讨论了从某个公式推导出的“非常恐怖的曲线”。
辛顿在接受《日本经济新闻》独家专访时透露了这一细节。苏茨克韦尔提出的公式是y=a/(2040-x)，其中y代表国民生产总值(GNP)，x代表年数。
据说他们发现各国的GNP趋势都符合这个公式。因农业的普及和工业革命而持续增长的GNP曲线自本世纪20年代引入生成式AI后逐渐变得陡峭。如果GNP继续按照公式增长，那么将在2040年达到无穷大。
AI超越人类智慧的时刻被称为“奇点”，如果AI迎来爆发式发展并产生大部分国民生产总值，人类的存在将变得微不足道。
在辛顿看来，由AI掌控经济活动的世界“发生任何事都有可能”。两人都认为AI将具有独立意识，不再遵从人类的指令行事，这样的未来令人担忧。“所以我们就这一话题进行了讨论。”
AI是否能够产生意识和情感？对于人类来说能否将其视为“善意”？在聊天生成预训练转换器(ChatGPT)巧妙运用词汇点燃生成式AI热潮的背后，全球的科学家如今正在面临人类观这一根源性问题。
“现在假设AI系统具备感情和人类层面的意识已经不再是科幻小说的范畴。”由数学、物理学、量子力学领域的专家组成的数学意识科学学会(AMCS)在2023年呼吁联合国咨询机构将这一点作为紧迫课题积极研究对策。
关于AI是否具有意识的争论由来已久。一个由著名AI研究者和神经科学领域专家组成的团队在2023年发表了一篇论文，提出了一种验证方法，试图给这个问题盖棺定论。这种方法试图利用现有科学理论创建一种关于AI是否有意识的评估手段。
致力于研发“人工意识”的日本AI初创企业ARAYA公司首席执行官金井良太也参与了论文的撰写。他指出：“不能否认作为目前生成式AI基础技术的大规模语言模型能够产生意识。”
各国试图将AI用于军事领域也推高了对于AI将会主动采取行动的担忧。有报道称，无需人类指令的AI杀人武器已经在利比亚战场投入使用。在危机感不断加剧的欧洲的主导下，2023年底，联合国通过了为制定相关规则采取紧急措施的决议，但俄罗斯和印度投了反对票。
鉴于科技界以研发速度作为优先考量，一直以来围绕AI是否具有意识的讨论被视为某种禁忌。2022年，时任谷歌公司研究人员的布莱克·勒莫因声称该公司的生成式AI产生了自主意识，而被以违反保密协议为由解雇。
为了能够就AI的风险自由发言，辛顿也在2023年离开了他供职十年之久的谷歌。鉴于针对研发和使用AI武器的威慑手段基本不能发挥作用，辛顿担忧由此带给人类的威胁“超过核武器”。
辛顿表示，对于自己研发出可能左右人类存亡的技术“并不后悔”。他说：“没有哪个人想要看到一个由AI支配的未来，这一事实将为各国联手监管AI奠定基础。”（编译/刘林)
杰弗里·辛顿于2023年6月28日在加拿大安大略省出席技术会议（法新社）
（来源：参考消息网）