Sam Altman在宫斗前接受的最后一次采访：团队计划实现GPT-4的超级对齐【查看原文】
CriticGPT同样基于GPT-4训练，但目的却是用来指正GPT-4的输出错误，实现「自我批评」。
GPT-4OpenAI
新智元 2024-06-28
OpenAI惊传重大变动！近日，曾一度淡出公众视线的OpenAI联合创始人兼首席科学家Ilya Sutskever突然在社交平台宣布：“我决定离开OpenAI。”他表示对OpenAI在现任高管领导下打造安全且有益的通用人工智能充满信心，并透露自己对未来的新工作充满期待，认为那是一个对他极具个人意义的项目。苏茨克维承诺，将在合适的时机公布更多细节。此消息一出，立即激起网友们的热烈讨论，不少人戏称这是否意味着OpenAI的“宫斗剧”再次上演？不久后，OpenAI官方回应称，公司已决定不再保留所谓的“超级对齐”
Ilya SutskeverOpenAI人工智能
神经童非童 2024-05-23
要发展还是要安全，是一个问题
OpenAI
乌鸦智能说 2024-05-20
宫斗完结？OpenAI前CEO将加入微软，Sam Altman说：“任务继续” 界面新闻记者 彭新 界面新闻编辑 11月20日，微软CEO萨提亚·纳德拉（Satya Nadella
OpenAI微软阿尔特曼
界面新闻 2023-11-20
在这两种设置下对来自LLM的批评进行评分时，人工训练师会将原始错误描述（插入或首次检测时撰写）作为背景提供给模型。「篡改」是对抗性收集的：在访问生成批评的LLM时，他们将在每三次样本中有意漏掉他们「篡改」的错…
OpenAIGPT-4
机器之心Pro 2024-07-05
