OpenAI前首席科学家Ilya创立新公司，瞄准超越AGI的“超级人工智能”和绝对的AI安全
整理｜王奕昕 李锦辉
编辑｜李然
封面来源｜The Guardian
前OpenAI首席科学家Ilya终于官宣了自己的新动向——成立一家致力于追求人工智能安全的新公司：Safe Superintelligence Inc.（SSI）。
彭博社报道截图
今天Ilya在X上转发了三位SSI联合创始人的公开信，正式开启招聘。
超级智能触手可及
构建安全的超级智能（SSl）是我们这个时代最重要的技术问题。
我们已经启动了世界上第一个直指超级智能安全实验室，目标和产品只有一个：安全的超级智能。
我们把它命名为安全超级智能公司。
SSl是我们的使命、名称和整个产品路线图，因为它是我们唯一的关注点。
我们将安全和能力视为需要通过革命性的工程和科学突破来解决的技术问题。我们计划在确保安全始终领先的同时，尽可能快地提高AI能力。
这样，我们就能专心地扩大规模。
我们的专注意味着不会受到管理费用或产品周期的干扰，我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。
我们是一家美国公司，在帕洛阿尔托和特拉维夫设有办事处，在那里我们根基深厚，有能力招募顶尖技术人才。
我们正在组建一支由世界上最优秀的工程师和研究人员组成的精干、严谨的团队，专注于超级人工智能的安全。
如果你是这样的人，我们将为你提供一个完成这项毕生事业的机会，帮助你解决我们这个时代最重要的技术挑战。
现在正是时候了，请加入我们。
最终，OpenAI的元老创始团队“一气化三清”，为世界贡献了3股力量——OpenAI，Anthropic，SSI，分头追求AGI和超越AGI的超级人工智能。
而且值得注意的是，Ilya在接受彭博社的专访中专门提到：
来源：X
大模型将会在未来新的AI系统中扮演关键得角色，但新的系统将会更加强大。现在的大模型本质的能力就是对话，但是未来他们做出的AI系统将会有更加通用的能力以及更强的规模化能力。类似于一个可以自主研发新技术的超级数据中心。
来源：X
SSI到底能够实现什么级别的AI，非常令人期待。
OpenAI宫斗大结局
而我们把时间线慢慢往回拨，捋一捋Ilya的出走过程。
5月15日，因为OpenAI宫斗被雪藏快半年的Ilya，终于正式官宣，离开它一手参与打造的OpenAI。当时他没有明确提出去向，只是说“会进行下一个对于他个人来说非常有意义的项目”。
来源：网络
现在看来，对于Ilya来说，唯一有意义的事就是AI安全。
来源：X
而从Ilya在公开信中的措辞，以及他对AI安全事业的坚持，我们也能看出，去年11月份，OpenAI突发的“宫斗”事件，不仅仅是普通的权力和政治斗争，而是OpenAI内部对于前进线路产生重大分歧后的矛盾爆发。
是否将产品发布和性能提升置于AI安全之上，Ilya和Sam Altman一定是有不同意见的。但是看着自己亲手创建的OpenAI正在分崩离析，他最后也选择在联名信上签名，挽回Sam Altman，即使他知道这样做的代价是自己将离开OpenAI。
来源：Linkedin
现在回过头来看Ilya在宫斗事件后发的道歉推文：要在世人面前公开承认自己因为追求毕生理想而做的选择（放逐Altman）是“错误”的，还要因为维护OpenAI的完整性和声誉不得不离开自己曾经战斗过而现在也还深爱着的地方，是需要多么宽广的胸怀啊。
而最终，请回Sam Altman之后，OpenAI董事会改组。“AI安全派”董事被新的外部董事代替，最高权力机构中的制衡不复存在，OpenAI成了Sam Altman的OpenAI。
另外两位创始人介绍
再让我们看看，到底什么样背景的人，能够成为Ilya新公司的联合创始人。
Daniel Gross
来源：个人网站
Daniel Gross，出生于以色列，是一名企业家和投资者，以其对创新技术和早期创业项目的深刻洞察而闻名。他在美国接受教育，开展职业生涯，曾在耶鲁大学专攻计算机科学，并在此期间开始了他的技术创业之旅。Gross 的职业生涯跨越了技术创新、风险投资和人工智能等多个领域。
职业经历：
△Cue 会智能地将人们最常使用的帐户（包括电子邮件、联系人和日历）中的有用信息整合在一起并在合适的时间显示出来。人们可以一目了然地查看一整天的信息，也可以使用 Cue 同时搜索所有帐户。图源：Y Combinator
Daniel Gross 在大学期间作为联合创始人创立了 Cue（一款可以整合电子邮件、联系信息和社交网络数据的搜索引擎）。2013年，Cue 被苹果公司以高达4000万美元的价格收购。这次收购不仅为 Gross 提供了资金，也为他后续的事业打下了坚实的基础。
我们是一个小团队，致力于寻找和资助世界上富有创造力和雄心勃勃的局外人——这些人可以创建伟大的公司，但可能没有资源或机会。图源：Pioneer官网
Cue 会智能地将人们最常使用的帐户（包括电子邮件、联系人和日历）中的有用信息整合在一起并在合适的时间显示出来。人们可以一目了然地查看一整天的信息，也可以使用 Cue 同时搜索所有帐户。图源：Y Combinator
2013-2017年，Gross 加入苹果公司，负责了多个与人工智能和搜索技术相关的项目，增强了他在 AI 领域的专业知识和经验。
离开苹果后，Gross 于2017年初加入 Y Combinator（著名的创业孵化器和风险投资公司）担任合伙人。在 Y Combinator，他在 AI 领域对众多初创企业进行了筛选和指导，提供了大量帮助。
2018年，Daniel Gross 创立了 Pioneer，这是一个通过在线竞赛来发现和支持全球创新、创业人才的平台。参与者需要提交他们的项目想法，并通过一系列的挑战和任务来展示他们的创新能力和执行力。这些任务大多模拟创业过程中的各种挑战，从而测试参与者的问题解决能力和持久性。
Daniel Levy
来源：个人Linkedin
Daniel Levy在2022年加入OpenAI，担任优化团队（Optimization team）负责人。
他于2015年，在巴黎综合理工学院（Ecole Polytechnique）获得理学学士，专业为应用数学（Applied Mathmetics）。2018年，获得计算机科学（Computer Science）硕士学位，导师为斯蒂法诺·埃尔蒙（Stefano Ermon），硕士阶段主要研究概率模型和强化学习（probabilistic models and reinforcement learning）。2021年，继续在斯坦福大学攻读并获得计算机科学（Computer Science）博士学位，导师为约翰·杜奇（John Duchi），斯坦福大学统计和电子工程副教授。攻读博士期间经过导师指导，研究领域是机器学习、优化和隐私保护（machine learning, optimization, and privacy）的前沿技术。
职业经历：
2016年，曾在Facebook应用机器学习部门实习。
2017年，曾在Google Brain实习，期间与Jascha Sohl-Dickstein和Matt Hoffman共事。
2020年，曾在Google Research实习，期间与Ananda Theertha Suresh、Satyen Kale和Mehryar Mohri共事。