前OpenAI首席科学家Ilya创办新公司：名为安全超级智能

雷递网 乐天 6月20日

前OpenAI首席科学家Ilya Sutskever日前透露，其正在创办一家新的人工智能公司。

在一些最大的科技公司寻求主导生成式人工智能热潮之际，该公司专注于创造一个安全的人工智能环境。该公司名为Safe Superintelligence（安全超级智能）。

“SSI是我们的使命、我们的名字和我们的整个产品路线图，因为它是我们唯一的关注点。我们的团队、投资者和商业模式都致力于实现 SSI。我们将安全性和能力作为技术问题，通过革命性的工程和科学突破来解决。我们计划尽快提高能力，同时确保我们的安全性始终保持领先地位。这样，我们就可以安心地扩大规模。”

“我们专注于一件事，这意味着不会受到管理费用或产品周期的干扰，我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响。”

与Ilya Sutskever 一起创立Safe Superintelligence的还有前OpenAI研究员Daniel Levy和Cue联合创始人、前苹果人工智能主管Daniel Gross。

Ilya Sutskever说：“我们将一口气追求安全的超级智能，只有一个重点、一个目标和一个产品。我们将通过一支精干的小团队取得革命性的突破来实现这一目标。”

2023年11月，OpenAI曾发生管理层“地震”。OpenAI董事会宣布，Sam Altman辞去CEO，并离开公司，首席技术官米拉·穆拉蒂（Mira Murati）担任临时首席执行官。仅仅一周之后，这一风波以Sam Altman重返公司担任CEO，赢得胜利结束。Altman 回归后，Ilya Sutskever被从公司董事会除名。

这则风波背后的推手被认为是Ilya Sutskever，原因是，在Sam Altman的主导下，OpenAI转变为一个封闭源代码的实体，与微软（Microsoft）建立了独家合作关系，将技术用于商业目的，违背了非营利的初衷。

特斯拉CEO马斯克曾说，“Ilya内心有良好的道德准绳，不唯权力至上。除非他觉得绝对有必要，否则不会采取如此激烈的行动。”

以下是Safe Superintelligence博客内容：

Superintelligence is within reach.

Building safe superintelligence (SSI) is the most important technical problem of our time.

We have started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence.

It’s called Safe Superintelligence Inc.

SSI is our mission, our name, and our entire product roadmap, because it is our sole focus. Our team, investors, and business model are all aligned to achieve SSI.

We approach safety and capabilities in tandem, as technical problems to be solved through revolutionary engineering and scientific breakthroughs. We plan to advance capabilities as fast as possible while making sure our safety always remains ahead.

This way, we can scale in peace.

Our singular focus means no distraction by management overhead or product cycles, and our business model means safety, security, and progress are all insulated from short-term commercial pressures.

We are an American company with offices in Palo Alto and Tel Aviv, where we have deep roots and the ability to recruit top technical talent.

We are assembling a lean, cracked team of the world’s best engineers and researchers dedicated to focusing on SSI and nothing else.

If that’s you, we offer an opportunity to do your life’s work and help solve the most important technical challenge of our age.

Now is the time. Join us.

Ilya Sutskever, Daniel Gross, Daniel Levy

June 19, 2024

———————————————

雷递由媒体人雷建平创办，若转载请写明来源。