当前位置:首页|资讯|OpenAI|阿尔特曼

起底OpenAI“地震”中的焦点人物Ilya,他对AI到底有何看法?

作者:极客网发布时间:2023-12-13

原标题:起底OpenAI“地震”中的焦点人物Ilya,他对AI到底有何看法?

OpenAI CEO山姆·奥特曼(Sam Altman)上周五被解雇,不再领导公司。

投资者对这种安排多有不满,尝试让奥特曼回归,但失败了。OpenAI最大的投资者微软发布消息称,已经聘请奥特曼领导微软新成立的AI研发部门。

为什么会出现人事动荡?我们不得而知,但有一个名字越来越耀眼,他就是新任CEO伊尔亚·苏茨克维(Ilya Sutskever)。

苏茨克维与奥特曼观点素有不合

有消息称,在技术研发和利润方面,奥特曼与董事会其它成员多有不合。苏茨克维是OpenAI的首席科学家和联合创始人,他也是董事会成员。苏茨克维与奥特曼站在对立面。

上周末,奥特曼、微软、OpenAI董事会、苏茨克维和追随他的几名董事开会讨论奥特曼的去留,最终他们于周日晚上签署备忘录,确认驱逐奥特曼,因为这是推动OpenAI发展、保护公司使命的唯一选择。

奇怪的是,没过多久苏茨克维便在Twitter上发消息称:“因为参与董事会的行动,我深感后悔。我无意伤害OpenAI。”奥特曼读到了这条消息,用一连串红心回应。

更古怪的是苏茨克维还联合500多名OpenAI员工在公开信上签字,信件称,如果不让奥特曼复职,他们就离开公司,加入微软,与奥特曼一起共事。他们还要求董事会成员辞职。

苏茨克维成为事件的焦点,那么他到底是何方神圣呢?我们不妨了解一下。

苏茨克维是OpenAI成功的关键

苏茨克维生于苏联(俄罗斯),在以色列长大,后来到多伦多大学学习,成为Machine Learning Group的学生,师从AI先驱Geoffrey Hinton。2018年Geoffrey Hinton因为深度学习研究成果获得图灵奖,他曾在谷歌工作,但最终离开,据说是因为他担心AI会变得比人类更聪明。

后来苏茨克维到斯坦福大学读博士后,与知名AI科学家吴恩达(Andrew Ng)是同学。再后来苏茨克维创建了名叫AlexNet的神经网络,大约10年前他成为谷歌Brain Team的一员。苏茨克维在谷歌呆了3年,然后成为OpenAI联合创始人。苏茨克维精通俄语、希伯来语和英语。

上个月《麻省理工科技评论》曾采访Y Combinator高管Dalton Caldwell,他谈到苏茨克维时说:“我记得奥特曼曾说苏茨克维是世界上最受尊敬的研究者之一,他认为苏茨克维能吸引更多的顶级AI人才加入,他甚至还提到了另一名顶级AI科学家Yoshua Bengio,他说很难找到比苏茨克维更合适的人来担任OpenAI首席科学家。”

马斯克也曾说,苏茨克维是OpenAI成功的关键。

早在2016年时OpenAI就推出了GPT大语言模型,但直到去年11月才向公众开放。因为免费,OpenAI模型快速流行起来,影响了科技产业。

苏茨克维关注如何控制超级智能

相比奥特曼及其它人,苏茨克维很少在公众场合出现,比较低调,他也很少接受采访。当他接受采访时,经常谈论的是AI的意义,包括好的一面和坏的一面,他还特别喜欢谈论AGI(强人工智能,通用人工智能)。

苏茨克维在《卫报》制作的纪录片中说:“AI很好,它会解决我们今天面临的所有问题,会解决失业、疾病、贫困问题。但它也会创造新问题,比如假新闻会严重无数倍,网络攻击将会变得更极端,人类还会开发出自动化AI武器。”

自ChatGPT发布之后,苏茨克维越来越关注AGI,经常思考OpenAI是否真的坚守造福人类的非盈利性使命。苏茨克维经常会在推特上发表一些言论,比如:“你所需要的是少一点困惑。”“想看得清楚,最大的障碍是相信已经看清的东西。”“自我是成长的敌人。”一般都是深思式的名言。

最近推文的风格突然变了,开始关注如何控制超级智能。苏茨克维似乎深信AI会变得比人聪明,而且聪明很多,他认为人类应该确保AI系统符合人类意图。

最近,OpenAI及一些同行开始用人类反馈信息强化AI学习,进而开发更先进的大语言模型,目的是创造所谓的“人工智能对齐技术”,苏茨克维认为这些模型已经触及“超级智能”。

“AI对齐”是AI控制问题中的一个主要的问题,即要求AI系统的目标要和人类的价值观与利益相对齐(保持一致)。

7月份,苏茨克维与对齐技术大佬 Jan Leike合作,建立所谓的“超级对齐团队”,他们准备用OpenAI约20%的算力来解决此问题,在未来4年内解决。

新团队说:“这是一个无比宏大的目标,我们并不能保证一定取得成功。我们只是很乐观,相信一个更专注、更集中的团队能解决此问题。”(小刀)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1