新智元报道  

编辑：编辑部

【新智元导读】Sam Altman在APEC上曾暗示，OpenAI已经开发出比现在GPT-4更强大、远远超出人们期待的东西。一天后，他被解雇了。一封据称发给董事会的警告信也显示，OpenAI的某个模型，内部已产生重大飞跃。

Sam Alman被解雇，又曝出最新内幕！

据路透社报道，就在他被解雇的前四天，OpenAI内部的研究员曾向董事会发了一封警告信，称发现了一个可能威胁人类的强大人工智能。

知情人士表示，这封此前从未报道过的信，也是董事会最终罢免Altman的导火索之一。

据称，曾任OpenAI临时CEO的Mira Murati，在周三提到了这个名为Q*（读作Q-Star）的项目，并且在「政变」发生之前给董事会写过一封信。

董事会觉得，Altman瞒着董事会在推进可能威胁人类的项目。

与此同时，有内部研究员认为，OpenaAI在Q*上取得的进展，将会成为AGI的一个重要突破！

不过，就在刚刚，TradingStrategy.ai联创表示，「AI重大突破」这个说法已被OpenAI内部人士打假。

APEC会议上的「危险」发言

印证Q*项目的另一事件，是Sam Altman在被解雇的一天，在APEC一次会议上的发言。

在那次会议上，他暗示了OpenAI已经开发出了比GPT-4更强大、更难以想象的东西，远超人们的期待。

模型的能力将会有一个无人预料到的飞跃。与人们的预期不同，这个飞跃是惊人的！

而这次发言，很可能也是他被解雇的导火索之一，会让Ilya等董事会成员认为，他隐瞒了许多信息。

现在正在发生的技术变革，将彻底改变我们生活方式、经济和社会结构以及其他可能性限制……这在OpenAI的历史上有四次 ，而最近一次，就是在过去几周内。

在拨开无知的面纱和探索未知的边界时，我有幸在场， 这是我职业生涯中的荣幸。

Q*就是AGI？

其中一位知情人士说，在与路透社联系后，拒绝置评的OpenAI在给员工的内部消息中，承认了一个名为Q*的项目，并在周末的活动前给董事会写了一封信。

OpenAI的一位发言人表示，这条消息由CTO Mira Murati发送，提醒员工注意某些媒体报道，但并没有对其准确性发表评论。

其中一位知情人士告诉路透社，OpenAI的一些人认为Q*（发音为Q-Star）可能是OpenAI在AGI上取得的一个突破。

在OpenAI看来，AIG可以定义为「在最具经济价值的任务中，超越人类的自主系统」。

因为巨大的算力支持，新模型可以解决某些数学问题。虽然只是可以在小学水平上做数学题，但通过这样的测试，让研究者对Q*的未来非常乐观。

根据内部人士透露，在给董事会的信中，研究人员标记了AI的实力和潜在危险，但没有具体说明信中提到的确切安全问题。

另外，研究人员还标记了一个「人工智能科学家」团队的工作，有多个消息来源证实了该团队的存在。

30多年前，Fodor和Pylyshyn提出的经典论点——神经网络由于其统计性质而从根本上缺乏人类的系统组合技能——给神经网络研究蒙上了长长的阴影

其中一位知情人士说，该小组由早期的「Code Gen」和「Math Gen」团队组成，正在探索如何优化现有的人工智能模型，以提高其推理能力，并最终进行科学工作。

项目由Ilya主导

据悉，一些OpenAI员工认为，Altman的言论应该指的是公司早些时候的一项创新，就是这项创新，能让他们开发出更强大的AI模型。

Ilya团队的这项工作，此前从未被报道过。

知情人士透露，这项由OpenAI首席科学家Ilya Sutskever主导的技术突破，引起了一些员工的担忧。他们担心公司没有合适的保障措施，来将这种先进的AI模型商业化。

在接下来的几个月里，OpenAI的高级研究人员又利用这项创新，建立了能够解决基本数学问题的系统。

经常用大模型的人都知道，数学问题对于现有的LLM，都是一项艰巨的任务。

根据The Information报道，OpenAI的两位研究员，Jakub Pachocki和Symon Sidor，利用Ilya的工作成果建立了一个名为Q*(读作「Q-Star」) 的模型。

据称，Q*模型能够解决它以前从未见过的数学问题，而这，是一个重要的技术里程碑。

最近几周内，该模型的演示一直在OpenAI内部流传，而AI的发展速度，也让安全研究人员感到震惊。

据内部人士爆料，Ilya的突破，使OpenAI不再受限于获取足够的高质量数据来训练新模型，而这，正是开发下一代模型的主要障碍。

这项研究涉及使用计算机生成的数据，而不是真实世界的数据，比如从互联网上提取的文本或图像。

多年来，Ilya一直在研究如何让GPT-4解决涉及推理的任务，比如数学或科学问题。

此前，Ilya在这个方向就有多年积累。21年，他启动了一个名为GPT-Zero的项目，这是对DeepMind AlphaZero的致敬。

GPT-Zero可以下国际象棋、围棋和将棋。而团队假设，只要给大模型更多的时间和算力，假以时日，它们一定能达到新的学术突破。

尤其是针对LLM亟待提高的数理和推理能力，未来有可能会有极大提升。

在提出了这种可能性之后，他于两周之后就加入了OpenAI。

对齐派 VS 加速派

而即使在昨天Altman重返CEO之位后，高管之间的潜在分歧似乎仍未消除，因为OpenAI内部对工作进度的紧张关系仍在持续。

Ilya本人似乎对这项技术持保留意见。今年7月，他组建了对齐团队，致力于限制AI系统可能给人类带来的威胁。

在OpenAI的对齐团队看来，虽然超级AI还很遥远，但他们相信它会在十年内到来。

Pachocki和Sidor的立场，大概率是在Ilya对齐团队的反面。

上周Altman被解雇后，两人也迅速辞职。而Altman复职后，两人也随之回到了公司。

而OpenAI总裁兼联创Greg Brockman，对于这项技术也持支持态度，致力于将其整合到新产品中。他同样是在Altman复职后，随之回到了公司。

参考资料：

https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/

https://twitter.com/IntuitMachine/status/1726201563889242488

.data_color_scheme_dark{--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}.data_color_scheme_dark{--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}.data_color_scheme_dark{--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BG-COLOR-ACTIVE: #373737}.data_color_scheme_dark{--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}.rich_media_content{color:#000000e5;font-size:17px;font-size:var(--articleFontsize);overflow:hidden;text-align:justify}.rich_media_content{color:#ffffffa6;color:var(--weui-FG-HALF)}.rich_media_content{position:relative;z-index:0}.wxw-img{vertical-align:bottom}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) .rich_media_content img:not(.wx_img_placeholder){filter:brightness(.8)}}blockquote{padding-left:10px;border-left:3px solid #dbdbdb;color:#00000080;font-size:15px;padding-top:4px;margin:1em 0}blockquote{color:#ffffff8c;color:var(--weui-FG-1)}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) .rich_media_meta_text,body:not([data-weui-theme=light]) .icon_appmsg_tag.default,body:not([data-weui-theme=light]) .simple_pagination,body:not([data-weui-theme=light]) .sp_page_current,body:not([data-weui-theme=light]) blockquote,body:not([data-weui-theme=light]) .blockquote_info{color:#ffffff4d}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) blockquote{border-color:#404040}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) blockquote{border-color:#404040}}.data_color_scheme_dark .rich_media_meta_text,.data_color_scheme_dark .icon_appmsg_tag.default,.data_color_scheme_dark .reward_area_win .reward_user_tips .weui-loadmore__tips a,.data_color_scheme_dark .simple_pagination,.data_color_scheme_dark .sp_page_current,.data_color_scheme_dark blockquote,.data_color_scheme_dark .blockquote_info{color:#ffffff4d}.data_color_scheme_dark blockquote{border-color:#404040}*{margin:0;padding:0}.rich_media_content *{max-width:100%!important;box-sizing:border-box!important;-webkit-box-sizing:border-box!important;word-wrap:break-word!important}body,.wx-root,page{--weui-BTN-HEIGHT: 48;--weui-BTN-HEIGHT-MEDIUM: 40;--weui-BTN-HEIGHT-SMALL: 32}.wx-root,body{--weui-BTN-ACTIVE-MASK: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BTN-DEFAULT-ACTIVE-BG: #e6e6e6}.wx-root,body{--weui-DIALOG-LINE-COLOR: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BG-COLOR-ACTIVE: #ececec}body,.wx-root{--weui-FG-1: rgba(0, 0, 0, .55);--weui-ORANGERED: #ff6146;--weui-BG-0: #ededed;--weui-BG-1: #f7f7f7;--weui-BG-2: #fff;--weui-BG-3: #f7f7f7;--weui-BG-4: #4c4c4c;--weui-BG-5: #fff;--weui-FG-0: rgba(0, 0, 0, .9);--weui-FG-HALF: rgba(0, 0, 0, .9);--weui-FG-1: rgba(0, 0, 0, .5);--weui-FG-2: rgba(0, 0, 0, .3);--weui-FG-3: rgba(0, 0, 0, .1);--weui-FG-4: rgba(0, 0, 0, .15);--weui-FG-5: rgba(0, 0, 0, .05);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #fa9d3b;--weui-YELLOW: #ffc300;--weui-GREEN: #91d300;--weui-LIGHTGREEN: #95ec69;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1485ee;--weui-PURPLE: #6467f0;--weui-WHITE: #fff;--weui-LINK: #576b95;--weui-TEXTGREEN: #06ae56;--weui-FG: #000;--weui-BG: #fff;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: #fa9d3b;--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: #06ae56;--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: #10aeff;--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(0, 0, 0, .5);--weui-TAG-BACKGROUND-BLACK: rgba(0, 0, 0, .05)}body,.wx-root{--weui-BG-6: rgba(0, 0, 0, .05);--weui-ACTIVE-MASK: rgba(0, 0, 0, .05)}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-COLOR-ACTIVE: #373737}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).appmsg_skin_default.rich_media_empty_extra{background-color:#191919}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).my_comment_empty_data{background-color:#111}}.rich_media_content p{clear:both;min-height:1em}td p{margin:0;padding:0}h1,h2,h3,h4,h5,h6{font-weight:400;font-size:16px}:root{--articleFontsize: 17px}:root{--sab: env(safe-area-inset-bottom)}:root{--wxBorderAvatarRatio: 3}:root{--discussPageGap: 16px}:root{--appmsgPageGap: 20px}

div.autoTypeSetting24psection > p,div.autoTypeSetting24psection > section {margin-bottom: 24px;}