当前位置:首页|资讯|阿尔特曼|OpenAI|人工智能

Sam Altman,被废黜的OpenAI CEO,这个时代的奥本海默?

作者:华尔街见闻发布时间:2023-11-20

原标题:Sam Altman,被废黜的OpenAI CEO,这个时代的奥本海默?

OpenAI官网在美股收盘前突然发布公告,宣布领导层换届,其创始人兼CEO Sam Altman被“扫地出门”,这对于整个科技界来说都是个“大地震”,各种关于Altman为何会被罢免的传闻满天飞。

OpenAI在声明中“措辞谨慎”,表示这一决定由董事会作出,经过深思熟虑和审查程序后,并得出结论:Altman在与董事会的沟通中不坦诚,阻碍了他履行职责的能力。董事会不再相信他继续领导OpenAI的能力。”

此后,关于Altman的传言甚嚣尘上,包括私生活(兄妹关系)、微软背后操纵、以及新版本GPT可能存在的安全问题,但似乎没有能得出结论。

华尔街见闻找到了一篇今年9月发表于纽约科技博客《Intelligencer》的文章,作者为Elizabeth Wei,作者花费了很多时间采访了Sam Altman本人,包括目前备受关注的妹妹Annie以及Altman的亲近友人,文章从Sam Altman的家庭生活、个人风格、科技价值观、创业历程等多个侧面,为我们带来了一个更加完整的Sam Altman。

在家庭生活中,他获得了最多的爱与自信,他的情感表达能力很弱,他与亲属的关系一般,尤其是与妹妹的关系最为恶劣。

在工作中,他坚信自己的价值观,被称为“technology brother”,他知道GPT有可能会为人类带来一些不好的结果,但他仍然会选择发布产品,他认为自己是尼采式的超人。

在科技圈内,他有自己的粉丝,但同时也得罪了非白男的创业者与从业者,他们不满但不敢公开表达。

而在作者Elizabeth Wei的视角中,Sam Altman迷人、真诚、冷静、睿智,但同时具有和马斯克相似的野心——这一点与硅谷的另一位创业者扎克伯格十分迥异。他时常尝试扮演一个好人,而这与他的野心似乎不符。一条最清晰、最简单的评价是:一个伪装成好人的帝国主义者。

不过Sam Altman并不太在意自己的公众形象,他认为那些“只是与我有一些相关”,但这不妨碍他不断将自己与奥本海默做类比。

华尔街见闻对该文的全文翻译如下,仅供参考:

一次尴尬的座谈

去年春天,38 岁的 OpenAI 首席执行官萨姆·Altman (Sam Altman) 与硅谷最受喜爱的佛教僧人杰克·康菲尔德 (Jack Kornfield) 进行了一次座谈。

对话发生在在旧金山耶尔巴布埃纳艺术中心举行的一场低风险活动 Wisdom 2.0 上,该论坛致力于融合智慧和“我们这个时代的伟大技术”。两人坐在黑色曼陀罗背景的舞台上一张巨大的白色软垫椅子上,就连主持人似乎也对Altman在这个活动上的出现感到困惑。

“是什么风把你吹到这里来的?”他问。

Altman说。“我绝对对这个话题感兴趣”——官方说法是正念和人工智能。“但是,啊,见到杰克是我一生中最大的乐趣之一。我很高兴能和杰克一起讨论任何话题。”

直到 78 岁的康菲尔德发表介绍性讲话时,议程才变得清晰起来。他的书籍(包括《明智的心》)已售出超过 100 万册。

“我想说的是,Sam在很大程度上是一位仆人式领导。”科恩菲尔德来这里是为了证明Altman性格的卓越性。

他会回答困扰我们很多人的问题:考虑到这个穿着炭灰色切尔西靴、戴着灰色华夫格亨利衫的相对年轻的Altman似乎正在控制人工智能如何进入我们的世界,我们应该对Altman感到有多安全?

科恩菲尔德说他认识Altman好几年了。他们会一起冥想。他们探讨了这样一个问题:Altman如何才能“建立价值观——菩萨誓言,照顾众生”?同情心和关怀如何“以某种方式被编程?”

在康菲尔德的整个讲话中,Altman双腿不交叉地坐着,双手交叉放在腿上,他的姿势令人印象深刻,他的面部表情决心传达耐心(尽管他的表情也表明耐心不是他的自然状态)。“我会让你难堪的,”康菲尔德警告他。然后僧人又对大众说:“他有一颗清净的心。”

在座谈会的大部分时间里,Altman在谈论要点时游离不定。他知道人们害怕人工智能,他认为我们应该害怕。因此,他觉得有道义责任出席并回答问题。“不这样做会超级不合理,”他说。他相信我们需要作为一个物种共同努力,决定人工智能应该做什么和不应该做什么。

根据 Altman 自己的评估(从他的许多博客文章、播客和视频活动中可以看出),我们应该对他作为我们的人工智能领导者感到满意但不是很满意。他自认为是一个非常聪明但不是天才的“technology brother”(技术区俚语,类似于“Geeker”一类只懂技术其他什么都不懂的人,编者注)。

他说,首先他拥有“绝对是妄想的自信”;其次,他对“长期技术和社会变革的弧线”有着预言般的把握;第三,作为一个犹太人,他既乐观又期待最坏的结果;第四,他非常擅长评估风险,因为他的大脑不会被其他人的想法所困扰。

这些是他的优势,但劣势是:在情绪能力以及人口统计学上他并不太适合他所扮演的角色。

“可能有人更喜欢这个角色,”他在三月份的Lex Fridman播客中承认。“可能有人更有魅力。”他意识到他“与大多数人的生活现实相当脱节”。他也偶尔显得麻木不仁。例如,像许多科技泡沫中的人一样,Altman使用“中位人类”这个短语,比如,“对我来说,AGI”——通用人工智能——“等同于你可以雇佣的中位人类同事。”

在耶尔巴布埃纳,主持人追问Altman:他打算如何为他的人工智能分配价值观?

Altman说,一个想法是聚集“尽可能多的人类”,达成全球共识。你知道:一起决定“哪些是要输入的价值观,哪些是系统永远不应该做的事情的限制”。

观众变得安静了。

“另外一件事可能是我希望Jack Kornfield做的,可以直接写下十页的内容‘集体价值应该是这样的,我们将如何让系统做到这一点。’那会相当不错。”

观众席更加安静了。

Altman并不确定他所领导革命在历史的完整性中究竟会被视为技术革命还是社会革命。他相信它会“比标准的技术革命更大”。然而,他也知道,由于他的整个成年生活都在科技创始人周围度过,“总是很烦别人说‘这一次不同’或‘你知道,我的东西超级酷’。”革命是不可避免的;他对此感到确信。至少,人工智能将颠覆政治(深度伪造已经是2024年总统选举中的一个主要问题)、劳动力(人工智能已经成为好莱坞作家罢工的核心)、公民权利、监视、经济不平等、军事和教育。Altman的权力以及他将如何运用它,现在是我们所有人的问题。

然而,真正解读阿尔特曼到底是谁,我们应该信任他多少,以及他在多大程度上整合了其他人的关切,即使当他站在舞台上试图平息这些关切时,这可能是困难的。阿尔特曼表示他会尽量减缓革命的速度。然而,他告诉在场的人,他相信一切会没事的,或者可能会没事。我们——他言语中所带的皇家“我们”——应该只是“决定我们想要什么,决定我们将执行它,并接受未来会非常不同,可能会更美好。”

这句话也没有产生好的效果。

“很多紧张的笑声,”Altman注意到。

然后他挥了挥手,耸了耸肩。“我可以对你说谎,说‘哦,我们完全可以阻止它。’但我认为这是……”

难以调和的形象矛盾

Altman没有说完这个想法,所以我们在八月底在旧金山Bryant Street的OpenAI办公室重新开始了对话。

办公室外面是一个新资本主义者的庭售会:无人驾驶汽车,狗躺在人行道帐篷旁晒太阳,一个衰败的公共交通系统的巴士车站,售卖着6美元拿铁的商店。而在办公室里,OpenAI是一个低调且有点平淡的科技公司,只有一句标语:请随意从小冰箱里拿一瓶Pellegrino或一张我们的标志贴纸。

面对面时,Altman比人们预期的更加迷人、更加真诚、更加冷静和滑稽——更贴近于他的本体。他讨人喜欢,头发带有灰色斑点。他穿着同一件方格短袖衬衫,这件服装迅速成为他的标志。我是今年夏天第一百亿位采访他的记者,当我们坐在一个隔音的房间里时,我为让他再做一次采访道歉。

他微笑着说:“很高兴见到你。”

关于Kornfield:“在那次谈话之后,有人对我说,‘你知道吗,我一开始真的很担心OpenAI将会在人工智能的价值观方面做出所有这些决定,而你说服了我,你不会做这些决定,’我想,‘太好了。’然后他们说,‘不,现在我更担心了。你将让世界做这些决定,而我不想要这样。’”

即使是Altman也觉得他站在那个舞台上回答有关全球价值观的问题是有些变态的。“如果我不参与其中,我会想,为什么这些家伙可以决定发生在我身上的事情呢?”他在2016年对《纽约客》的Tad Friend说。七年后,经过许多媒体培训,他的态度有所软化。“我对OpenAI这样的项目被认为是一个政府项目的事实非常同情。”

这种新的好人形象可能很难与Altman的权力欲望调和,这是他最明确的特征之一。他的圈内朋友向我描述他是“我认识的最有抱负的人之一,而且仍然保持理智,而我在硅谷一共认识两万人。”

然而,Altman采取了一种谦逊的方式来解释他的崛起。“我的意思是,我是一个中西部的犹太人,至少有一个尴尬的童年,用非常礼貌的说法。而我现在正在经营其中之一……”他突然停住了。“你知道,最重要的几十个技术项目之一。我无法想象这会发生在我身上。”

中产阶级犹太家庭走出的自信创业者

Altman在圣路易斯郊区的一个四兄妹家庭中长大,他是四兄弟姐妹中的长子:三个男孩,Sam、Max和Jack,每两年年龄相差一次,然后是一个女孩,Annie,比Sam小九岁。

如果你不是在一个中西部中产阶级犹太家庭中长大的——我从自己的经验中说——很难想象这样一个家庭能给儿子灌输的那种潜在的自信心。

“我父母为我做的最好的事情之一就是不断(一天多次,我想?)肯定他们对我的爱和信任,认为我可以做任何事情,”Jack Altman曾说。这样的自信储备是奇幻的、麻醉的,有着武器级别的威力。它们就像你心脏里的一个额外的阀门。

关于Sam的通常传说是,他是一个天才男孩——“在技术奇才世界是一颗崭露头角的明星,”据圣路易斯邮报所说。他从3岁开始修理家庭的录像机。1993年,为了庆祝他8岁的生日,Altman的父母——Connie Gibstine,一位皮肤科医生,和Jerry Altman,一位房地产经纪人——为他买了一台Mac LC II。Altman将这份礼物描述为“我生活中的一个分水岭:在我有电脑之前和之后。”

Altman一家每天晚上都一起吃晚餐。在餐桌周围,他们会玩“开方根”等游戏:有人会喊出一个大数字,男孩们会猜测,Annie会拿着计算器检查谁最接近。他们还玩20个问题来猜出每晚的惊喜甜点。家庭还玩乒乓球、台球、桌游、视频游戏和变戏法,每个人都知道谁赢了。Sam更喜欢是他赢。Jack回忆起他兄弟的态度:“我必须赢,我掌管一切。”男孩们还一起玩水球。“他可能不同意,但我会说我比他好,”Jack告诉我。“我的意思是,毫无疑问地比他好。”

Sam在高中时出柜,这甚至让他的母亲感到惊讶,她曾认为Sam“只是一种不分性别且喜欢技术的人”。正如Altman在2020年的播客中所说,他的私立高中“不是那种你真的会站起来谈论同性恋并被允许的地方”。当他17岁时,学校邀请了一位演讲者来参加全国出柜日。一群学生反对,“主要是出于宗教原因,但也包括其他原因,比如认为同性恋基本是坏人。”Altman决定给学生做一次演讲。他在前一晚几乎没睡。他在播客中说,最后的台词是“要么你有容忍开放的社区,要么你没有,而你不能挑选。”

2003年,正值硅谷从互联网泡沫中复苏之际,Altman进入了斯坦福大学。同年,Reid Hoffman共同创办了LinkedIn。2004年,Mark Zuckerberg创办了Facebook。在那一刻,一个郊区犹太家庭的长子没有成为投资银行家或医生。他成为了一名创业者。

大二时,Altman和他的男朋友Nick Sivo开始致力于Loopt,这是一个用于定位朋友的早期地理跟踪程序。Paul Graham及其妻子Jessica Livingston等人刚刚在他们的风险公司Y Combinator的一部分创建了Summer Founders Program。Altman申请参加,他赢得了6000美元的投资机会,并有机会在马萨诸塞州剑桥度过几个月,与志同道合的书呆子们在一起。Altman那个夏天工作得如此努力,以至于得了坏血病。

然而,即使在Loopt上,他也没有特别脱颖而出。“哦,又是一个聪明的年轻人!”直到今年1月在OpenAI董事会上,Hoffman才提及当初对年轻Altman的印象。这足以从Sequoia Capital那里筹集到500万美元。但Loopt并没有在用户中取得成功。2012年,Altman将公司以4340万美元的价格卖给了Green Dot。甚至Altman自己也没有认为这是一次成功。

“失败总是令人沮丧的,如果你因为试图证明某件事而失败,那是绝对绝对更加令人沮丧的。”Altman告诉我。他“感觉相当不快乐”——但他拿到了500万美元,他用这笔钱和彼得·蒂尔(Peter Thiel)的资金创办了自己的风险基金,Hydrazine Capital。他还休息了一年,读了一堆书,旅行,玩了视频游戏,并且,“就像一个典型的技术小子模因,”他说,“我决定去修道院待一段时间,这改变了我的生活。我肯定在很多方面仍然感到焦虑和紧张,但我的感觉是我感到非常轻松、快乐和平静。”

2014年,格雷厄姆选择Altman接任Y Combinator的总裁,当时该孵化器已经帮助推动了Airbnb和Stripe的发展。格雷厄姆在2009年曾将Altman描述为“过去30年中最有趣的五位初创企业创始人之一”,后来又说他是“比尔·盖茨在创办微软时的样子……天生就是一位强大、自信的人。”

Altman担任YC总裁期间,该孵化器每年收到约4万份新创企业的申请,其中有1,000份获得了现场推介的机会,最终有几百份最终获得了YC的资助:这笔资助通常是12.5万美元,以及指导和网络支持(其中包括每周晚餐和集体办公时间),作为交换,创业公司将7%的股份交给YC。从VC的角度来看(一些VC如一位所说的那样,花很多时间不工作,而是“在游艇上打电话”),运营YC就像“夏令营辅导员”。

在他的任期中,Altman大部分时间都和兄弟们住在旧金山的两栋房子中的其中一栋,一栋位于SoMa,另一栋位于Mission。他传播了一种雄心勃勃、封闭、规模的福音。他相信从你已经认识的人的网络中招聘的价值。他相信不要太在意别人的想法。“一个大秘密是你可以在很大程度上随心所欲地改变这个世界——大多数人甚至不尝试,”他在他的博客上写道。“最成功的创始人并不是着手创办公司的。他们的使命是创造一些更接近于宗教的东西,而在某个时候,创办一家公司是最容易的方法。”他认为,更大的风险是将自己困在一个小点子里,没有思考得足够大。

Altman的生活过得相当不错,他变得极其富有。他投资于男孩梦想的产品,比如研发超音速飞机。他在大瑟尔购买了一座预备住宅,并用枪支和黄金装备了起来。他在他的迈凯轮(McLaren)上参加了比赛。

他还接受了科技中的有效利他主义——功利主义哲学的一个分支。有效利他主义通过几乎任何手段来赚取大量财富,其信奉者理论上知道最好如何使用它。这一意识形态将未来置于现在之上,并设想了一个类似启示录的奇点:到那时人类和机器将融为一体。

2015年,基于对这个哲学框架的深度认同,Altman与埃隆·马斯克和其他四人共同创办了OpenAI,作为一个非营利组织——其他创始人包括Ilya Sutskever、Greg Brockman、John Schulman和Wojciech Zaremba。这个501(c)(3)的使命是创建“一台可以在各个方面像人类一样思考并将其最大程度地用于造福人类的计算机”。其理念是构建良好的人工智能,并在坏人构建坏种类之前占据主导地位。OpenAI承诺按照EA的价值观公开其研究。如果任何人 —— 或者任何他们认为“价值一致”和“安全意识强”的人 —— 在OpenAI之前准备实现AGI,他们将协助该项目而不是竞争。

在过去的几年里,Altman保持了他在YC总裁的工作。他每天发送大量的短信和电子邮件给创始人们,他追踪人们的回复速度,因为正如他在博客上写的那样,他相信回复时间是“出色和平庸创始人之间最显著的区别之一”。2017年,他考虑竞选加利福尼亚州州长。他在一次晚宴上“抱怨政治和州政府,有人说,‘你应该停止抱怨,为此做点什么,’”他告诉我。“然后我说,‘好吧。’”他发表了一个名为United Slate的平台,概述了三个核心原则:科技带来繁荣,经济公平和个人自由。Altman在几周后放弃了他的竞选。

2018年初,马斯克试图控制OpenAI,声称该组织在技术上落后于谷歌。到2月,马斯克退出,将Altman留任负责。

几个月后,2018年5月底,Altman的父亲在圣路易斯Creve Coeur湖上划船时突发心脏病,享年67岁。他在医院不久后去世。在葬礼上,Annie告诉我,Sam给予每个Altman子女五分钟发言的时间,她利用这个时间来给家庭成员的情感表达能力排名,最终她决定最后两名是Sam和母亲。

Moore’s Law for Everything

2021年3月,Altman发表了一篇名为“摩尔定律适用于一切”( Moore’s Law for Everything)的文章。文章开篇:“我在OpenAI的工作让我每天都意识到社会经济变革的巨大程度,这比大多数人相信的要来得更早……如果公共政策不能相应调整,大多数人最终会变得比今天更糟。”

摩尔定律,适用于微芯片,规定芯片上的晶体管数量大约每两年翻一番,而价格减半。由Altman提出的“Moore’s Law for Everything“假设”在数十年内,一切——住房、教育、食品、服装等等——都会每两年减半”。

在Altman写下这篇文章时,他已经离开了YC,全职专注于OpenAI。在他的领导下,公司在2019年春季成立了一个营利子公司。构建人工智能被证明成本高昂,Altman需要资金,到了夏天,他从微软筹集到了10亿美元。一些员工因为远离“对人类最大的利益”而感到不满而辞职。然而,这一变化却意外地没有引起太多骚动

“像千亿富翁一样的马斯克,会(因为变成营利性公司而)说山姆不好吗?”Altman核心圈子的一位朋友说。虽然Altman拒绝持有该公司的股权,最初将投资者的利润上限设定为100倍。但许多人认为这是一种形式上的操作,毕竟10亿乘以100就是很多钱。“如果伊丽莎白·沃伦(Elizabeth Warren)来责怪Altman将OpenAI变成了盈利性公司,所有的科技界人士都会觉得她在无理取闹,叫她“滚回家去”。

Altman继续参加赛车活动(他最喜欢的赛车之一是雷克萨斯LFA,该车于2013年停产,根据HotCars,“至少需要95万美元”)。在大流行初期,他戴着以色列国防军的防毒面具。他在纳帕购置了一个牧场(Altman是素食主义者,但他的搭档,来自墨尔本的计算机程序员Oliver Mulherin,“喜欢牛”,Altman说)。他购买了旧金山俄罗斯山的价值2700万美元的房子。他交了一些看起来很酷炫的朋友。戴安·冯·芙斯滕伯格在2021年形容他为“我最近的、非常非常亲密的朋友之一。遇到Sam有点像遇到爱因斯坦。”

与此同时,随着OpenAI开始向企业出售其GPT软件的访问权,Altman孕育了一系列投资项目,为一个由人工智能改变的世界做准备。

他投资了3.75亿美元在Helion Energy,一家投机性的核聚变公司。如果Helion成功——这是一个很大的赌注——Altman希望控制世界上最便宜的能源之一。他投资了1.8亿美元在Retro Biosciences,目标是将人类寿命延长十年。Altman还构思并筹集了1.15亿美元用于Worldcoin,该项目通过让人们注视一个被称为Orb的球来扫描全球的虹膜。然后将每个虹膜印刷与一个加密钱包关联起来,Worldcoin将货币存入其中。这将解决两个由人工智能产生的问题:在人工智能进一步模糊了人类与非人类之间的界限时,区分人类与非人类是必要的,以及一旦像OpenAI这样的公司吸走了大部分资金,重新分配一些资本。

这不是一个像扎克伯格这样野心水平的人所能选择的项目组合。与Altman相比,扎克伯格显得有些古怪,正如科技作家兼播客贾森·萨多夫斯基所说,他满足于“建立一个可以统治的城邦”。

Altman的投资选择更像马斯克,有野心、采取“帝国主义方式”。萨多夫斯基说:“他确实认为自己是世界一流的超人,是真正尼采式的超人。”“他会立即创造出毁灭我们的东西,并将我们从中拯救出来。”

然后,在2022年11月30日,OpenAI发布了ChatGPT。这款软件在两个月内吸引了1亿用户,成为科技史上最成功的产品推出。两周前,Meta发布了Galactica,但公司在三天后将其下架,因为机器人无法区分真实和虚假。ChatGPT也会撒谎,也会产生幻觉。但Altman仍然发布了,并辩称这是一种美德,世界需要逐渐适应这一点,我们需要共同做出决策。

2023年5月,Altman开始了一场22国、25城的世界巡回演出。这起初被认为是与ChatGPT用户见面的机会最终变成了一场类似社交界的首次亮相派对。Altman时常身着西装,但有时会穿灰色的henley衫,他向外交官们展示自己是不可避免的新科技超级大国。他会晤了英国首相里希·苏纳克、法国总统埃马纽埃尔·马克龙、西班牙总理佩德罗·桑切斯、德国总理奥拉夫·肖尔茨、印度总理纳伦德拉·莫迪、韩国总统尹锡悦和以色列总统艾萨克·赫尔佐格。他还与欧洲委员会主席乌苏拉·冯·德·莱恩合影。照片中,她显得优雅而不为所动,而他看起来像沃尔多在哪里?——他的手机可以在裤子的前口袋里看到,他的绿色眼睛因疲劳和皮质醇而显得凸出。

然后,Altman回到家,似乎不仅整理了他的衣橱,还整理了他的心灵。从6月底到8月中旬,他发了很多推文。如果你希望了解他,这是个宝藏。

今晚是芭比还是奥本海默?

Altman发布了一项投票。芭比以17%对83%的比例输掉了。

好吧,选择奥本海默。

第二天早上,Altman回来表达了他的失望。

我希望奥本海默的电影能激发一代孩子成为物理学家,但它在这方面确实没有达到预期。

让我们来制作这部电影!

(我认为社交网络成功地为初创创始人做到了这一点。)

Altman作品的仔细读者可能会感到困惑。多年来,Altman一直在将自己与这位制造原子弹的人相提并论。他曾经告诉记者,他和奥本海默同一天生日。他曾向《纽约时报》的卡德·梅茨转述过奥本海默的话:“技术之所以存在,是因为有可能。”因此,他不可能对克里斯托弗·诺兰在他的传记片中没有制作一部助推作品感到惊讶。奥本海默在他的生命后半段为自己在创造原子弹中的角色而感到羞愧和懊悔。“现在我成为了死亡,世界的毁灭者”——这是《恒河悟辩书》中最著名的一句话,也是奥本海默告诉NBC News在三一试验中他的心中所想的。 (这也出现在电影中,两次。)

在他的世界巡回演出期间,Altman一直把自己与奥本海默联系起来,他讨论了(以非具体的方式)人工智能所带来的存在风险,并主张(非常具体地)建立一个类似国际原子能机构的监管机构。联合国在1957年批准了IAEA,这个机构的任务是为国际和平与繁荣努力——这听起来对于一个轻松聆听的人来说可能是一个很好的类比。这让专家们极度恼火。

其中一个批评是关于它的政治愤世嫉俗性。“你说,‘对我进行监管,’然后你说,‘这是一个非常复杂和专业化的主题,所以我们需要一个复杂和专业化的机构来做这件事,’心里很清楚这个机构永远都不会被创立,”Sadowski说。“或者如果确实有东西被创立,那也没关系,因为你已经建立了它的基因。”

另一个问题是模糊性。正如专门从事评估和验证无人机和大型核电厂安全协议的工程师Heidy Khlaaf向我解释的那样,为了减轻技术带来的风险,你需要准确地定义这项技术能够做什么,它如何对社会产生帮助和伤害——而当Altman说人工智能可能会毁灭世界时,他只是坚持一般性。(也许有人会使用人工智能发明超级病毒;也许有人会使用人工智能发射核弹;也许人工智能本身会反过来对人类产生威胁——对于每种情况的解决方案都不是很清楚。)此外,Khlaaf认为我们不需要新的机构。人工智能应该在其用例中受到监管,就像其他技术一样。使用受版权保护的材料构建的人工智能应该受到版权法的监管。在航空领域使用的人工智能应该在该背景下受到监管。最后,如果Altman真的认真对待严格的安全协议,他将会更认真地对待他认为是较小危害的问题。

“如果你甚至不能阻止系统对黑人进行歧视”——这种被称为算法偏见的现象影响从职位候选人如何排序到哪些面孔被标记为最有吸引力的方方面面——“你怎么能阻止它毁灭人类?” Khlaaf问道。在工程系统中,危害是相互叠加的。“一个小的软件漏洞可以摧毁纽约的电网。”训练有素的工程师都知道这一点。“每一家公司,每一家人工智能领域的佼佼者都拥有资源和基础工程理解的能力,以找到如何在这些系统中减少危害的方法。选择不这样做是一种选择。”

与Altman的奥本海默-芭比民调同一天,他还发布了:

一切‘创造性’都是过去发生的事情的混合,再加上ε和反馈环路质量的乘积以及迭代次数。

人们认为他们应该最大化ε,但诀窍是最大化其他两者。

在整个夏季和秋季,OpenAI因据称在盗版的、受版权保护的作品充斥的数据集上训练其模型并从中获利而面临越来越多的压力。在得知他的书被用于未经许可地教授ChatGPT后,迈克尔·夏邦组织了一场集体诉讼。联邦贸易委员会对公司涉嫌违反消费者保护法的广泛调查。现在Altman主张创造力实际上并不存在。不管引人注目的作家或愤怒的插画家对于他们的独特性或价值有何看法,他们只是在重新混合旧思想,很像OpenAI的产品。

在措辞方面,数学术语赋予了一层确定性的外表。2015年,诺贝尔经济学奖获得者保罗·罗默创造了一个术语“Mathiness”,它描述的是使用数学语言不是为了澄清而是为了误导。“数学语言之美在于其以明显简单的方式传达有关世界的真理——E = MC2,” Bentley大学数学与数据科学教授Noah Giansiracusa告诉我。“我一遍又一遍地读他的推文,仍然不太清楚如何解析它或他究竟想要表达什么。”

Giansiracusa将Altman的话转化为符号。“使用C表示创造性事物,使用R表示对过去事物的混合,使用Q表示反馈环路的质量,使用N表示迭代次数,他是在说C = R + εQN还是C = (R + ε)QN?” Giansiracusa说,Altman的措辞并未明确操作的顺序。“‘和N’ — 和迭代次数 — 是否表示除了乘法之外的其他含义?还是…”

批评者的恨意——Altman巩固了白男的地位

Altman吸引了一些批评者。“就像是一部关于一个被送到成年人身体的孩子然后不得不假装希望没有人注意到的90年代电影,你知道吗?”《Palo Alto》的作者马尔科姆·哈里斯告诉我。“就像他是那个因为手臂骨折愈合不当而能投出一百万英里远的快球的孩子,现在他是新秀年度和大联盟投手,但他也只有12岁,不知道如何做任何事情。”

“他很聪明,对于一个内陆州的社区大学来说算是聪明,”一位湾区风险投资家说。“你看《继承战争》吗?你可以把他比作汤姆。”

无疑,其中一些是嫉妒。一些是对Altman中西部式的友好的反应。但主要是源于对科技文化重新扎根并巩固白人男性俱乐部主义的深刻愤怒。“你知道,我们” ——女性——“曾经在房间里待了一会儿,但当我们开始真正发言时,他们说,‘滚开,’” Signal总裁、前谷歌告密者梅瑞迪斯·惠特克告诉我。

现在唯一的选择就是从外部施加压力。“我希望他受到压力。就像站在那里看着别人的眼睛说这些废话,”惠特克继续说。“我们讨论的是对数百万、亿万人的创造性产出提出所有权主张,然后利用它来创建直接破坏他们生计的系统。”我们真的想把如此有意义的艺术表达变成“从某个微软产品中导出的衍生内容,由肯尼亚的不稳定工人根据他们自己从事的工作所遭受的创伤后应激障碍来校准,以适应礼貌的自由对话的范围内吗?”

当然,许多人乐于回到保守的价值观,理由是这对业务有利,感觉像是胜利。“我确实认为有这样一种语气,就像是,‘我告诉过你’”——这个“废话”指的是多元化、平等和包容——“‘而且,看看那让你到哪里去了。’”科技公司裁员,公司破产。这并不是DEI的结果,但这是一个方便的借口。当前的态度是:唤醒文化已经达到巅峰。“你真的不需要再假装在乎了。”

一位黑人企业家——像我为这篇文章采访的科技行业几乎所有人一样,出于对Altman权力的恐惧,他们不愿透露姓名——告诉我,他们花了15年时间试图打入白人男性的科技俱乐部。他们上了所有合适的学校,加入了所有合适的机构。他们让自己变得光鲜、成功和富有。“我不会希望这种事发生在任何人身上,”他们告诉我。“埃隆和彼得以及他们在那个小圈子里和他们一起喝年轻人的血或者做些什么——当真的没有必要、没有压力时,谁会迫使他们切下一小片并分享呢?这个系统对那些它的目标是为其服务的人来说运作得很好。”

我们剩下的人将被目前的态度对待,如企业家所说的,“明确而持久的不屑”。

在Sam的公共生活中消失的妹妹

家庭会重复社会的运作机制,权力差异会造成伤害,并且往往会引发冲突。

这一点在Altman家也是如此。杰瑞·阿尔特曼(Jerry Altman)2018年的讣告将他描述为:“康妮·吉布斯廷(Connie Gibstine)的丈夫;萨姆·阿尔特曼(Sam Altman)、马克斯·阿尔特曼(Max Altman)、杰克·阿尔特曼(Jack Altman)和安妮·阿尔特曼的亲父亲和岳父……”

Annie·Altman?阅读Altman的博客、他的推文、他的宣言《创业手册》以及关于他的数百篇文章的读者们可能熟悉杰克和马克斯。他们在各个地方都有出现,尤其是在《福布斯》上一篇引人注目的照片中,这张照片位于他们联合基金“Apollo”宣布的附带简介的顶部。他们还在《纽约客》杂志的Tad Friend于2016年的Altman专访中亮相,以及在很多友好的公开谈话中都有他们的身影。

@jaltma:当我看到文章称Sam是科技哥时,我感到很沮丧。他是technology brother。

@maxaltman:他就是technology,brother。

@sama:爱你,(tech)bros。

安妮在Sam的公共生活中不存在。她永远不会加入俱乐部。她永远不会成为超人。她一直是一个感受世界痛苦的人。5岁时,她开始在半夜醒来,需要洗个澡来平复她的焦虑。6岁时,她考虑过自杀,尽管她不知道这个词。

她经常在电梯和杂货店向人们介绍自己:“我是安妮·弗朗西丝·Altman。你叫什么名字?”(她告诉我,关于Sam,她说:“他可能也是自闭症者,但更多的是计算机数学的方式。我更关心人类、人道主义和正义。”)像她的大哥一样,她非常聪明,而且像她的大哥一样,她提前离开了大学,尽管不是因为她的创业公司得到了Sequoia的资助。她完成了所有塔夫茨大学的学分,而且她非常沮丧。她想住在一个对她来说感觉更好的地方。她想创作艺术。她觉得她的生存取决于此。她在七个学期后毕业。

当我今年夏天在毛伊岛拜访安妮时,她告诉了我一些对于那些在商业家庭中是emo-artsy(很emo但又很有艺术气质的样子或风格)人物的人,或者那些因家庭成员似乎不理解而深感受伤的人来说会引起共鸣的故事。

安妮的长发编成辫子,声音低沉、沉着而紧张,她向我讲述了她在2018年访问Sam在旧金山的故事。他邀请了一些朋友,其中一个人请安妮唱一首她写的歌。她找到了她的尤克里里,并开始唱歌。“演唱进行到一半的时候,Sam无言地站起身走上楼去了他的房间,”她在毛伊岛北岸的帕伊亚的一家冰沙店告诉我。“我想,我是否继续弹奏?他还好吗?刚刚发生了什么?”第二天,她告诉他她很难过,并问他为什么离开。“他说了一些类似于,‘我胃疼’或者‘我喝醉了’或者‘我太high了,需要冷静一下’的话,而我只会想,‘真的吗?就在那一刹那?你不能再等90秒吗?’”

在同一年,Jerry·Altman去世。他一直有心脏问题,还有很大的压力,部分原因是安妮告诉我,他开车去堪萨斯城照顾他的房地产生意。Altman的父母已经分居。Jerry一直在工作,因为他需要钱。在他去世后,安妮崩溃了。她的身体崩溃了。她的心理健康崩溃了。她一直是家庭的痛苦之海。她吸收了比她能承受的更多。

Sam曾提议帮助她一段时间,然后停止了。在他们的电子邮件和短信往来中,他的爱意和影响力是显而易见的。他想鼓励安妮站起来。他想鼓励她重新开始使用她曾因不喜欢其带来的感觉而在精神科医生的治疗下停止使用的Zoloft。

在她的各种艺术项目中,安妮制作了一个名为“All Humans Are Human”的播客。在他们父亲去世后的第一个感恩节,所有的兄弟都同意与她一起录制一集。安妮希望在节目中谈论投射的心理现象:我们将自己投射到别人身上。兄弟们把谈话引导到反馈的概念上——具体来说,如何在工作中提供反馈。在她将节目发布到网上后,安妮希望她的兄弟,特别是Sam,会分享它。他曾为他们的兄弟事业做出过贡献。杰克的公司Lattice曾经参与过Y Combinator。

“我觉得,‘你可以发个推文链接。那会有所帮助的。你不想分享你妹妹的播客吗,你还亲自参与了?’”但他没有。“Sam说这与他们的业务不符。”

在Jerry·Altman去世的第一个周年纪念日上,安妮在她的颈部纹了希伯来文的“sch’ma” —— 意为“倾听”。她辞去了在一家配药店的工作,因为她的跟腱受伤不愈合,她已经第三次戴着行走靴度过了七年。她向Sam和他们的母亲请求财务帮助。他们拒绝了。“那正是我第一次决定登陆约会网站,”安妮告诉我。“我只是感到非常的失落,非常绝望,非常混乱和悲伤。”Sam曾是她最喜欢的兄弟。他在她入睡时给她读书。他在高中项目中为她拍摄了照片。她感到如此被理解、爱戴和骄傲。“我就在想,为什么?为什么这些人在不会对他们自己造成真正损失的情况下不帮助我呢?”

在2020年5月,她搬到了夏威夷的大岛。在她搬到一个农场进行生活与工作交换的不久之后的一天,她收到了一封来自Sam的电子邮件,要求她的地址。他想给她寄一颗由他们父亲的一些骨灰制成的纪念钻石。“想象他把一颗由我爸爸的骨灰制成的钻石寄到邮箱,而那里是那种有很多为所有这些农场准备的开放箱子的乡村地方…… 这是如此沉重、悲伤和愤怒,但同时也是如此滑稽和荒谬。感觉如此脱节。完全没有关心。” 她的父亲从未要求成为一颗钻石。安妮的心理健康很脆弱。她担心购物的钱。与一个认为金钱既是一切又是那么微不足道的人交往很困难。“就像,要么你没有意识到,要么你不在乎这里整个情况,”她说。 她所说的“整个情况”指的是她的生活。“你愿意花5000美元 — 每个 — 来制作这个是你的主意,而不是爸爸的,你想把它寄给我,而不是给我寄300美元,这样我就能有食品保障了。是什么?”

现在这两个人已经疏远了。Sam提出要给安妮买一栋房子。她不想被控制。在过去的三年里,她通过“线下和虚拟”性工作来维持自己,她告诉我。她在OnlyFans上发布色情内容。她在Instagram Stories上发布有关相互援助的信息,试图将有钱的人与需要财务帮助的人联系起来。

她和Altman是黑镜中的反面。有人告诉我,Altman开玩笑说他要成为世界上第一个万亿富翁。(Altman对此提出异议,并要求我包括这样一种说法:“我不想成为世界上第一个万亿富翁。”)他致力于通过窃取的数据和一串串的GPU来构建软件,以复制 —— 并超越 —— 人类智能。

安妮在过去的一年中搬了20多次家。在九月中旬打电话给我时,她的住房情况再次不稳定。她的银行账户里只有1000美元。

自2020年以来,她一直在经历闪回。她知道每个人都会把他们生活的点滴整理成故事,以理解他们的世界。

在安妮讲述她的人生故事时,她的兄弟、母亲和Sam从她父亲留给她的钱中拿走了。

当安妮讲述她的人生故事时,她小时候,Sam给她读睡前故事时,她感到特别和受到爱。现在这些记忆感觉像是虐待。

Altman家庭希望世界知道:“我们爱安妮,将继续尽最大努力支持和保护她,就像任何一个家庭一样。”

安妮正在制作一部名为《HumAnnie》的独角戏,讲述没有人真正知道如何成为人类。我们都是在靠感觉走。

伪装成好人的帝国主义者

2023年6月22日,Altman穿上燕尾服,与他的伴侣奥利弗·穆赫林一起参加了白宫的一次晚宴。

他看起来像是被困在90年代时光旅行电影中的一个角色,身体太小、太年轻,无法承载所有被赋予的权力。但他大多数时候都做得不错。他的燕尾服看起来很时尚,与硅谷另一位著名的Sam,Sam Bankman-Fried形成了鲜明的对比,后者的邋遢风格现在似乎是道义上的懒惰证据。自从Altman接任OpenAI首席执行官以来,该公司不仅稀释了其非营利性质。它不再很开放,不再发布其训练数据和源代码,也不再使其技术成为其他人分析和构建的基础。不再为了“对人类的最大利益而努力工作”。但任何人能做什么呢?在他的世界巡回演讲中,Altman在慕尼黑向满座的观众询问是否希望OpenAI在发布其下一代LLM(大型语言模型)GPT-5时开源。

人群一致回应为是。

Altman说:“哇,我们肯定不会这样做,但这很有趣。”

在八月的时候,在他的办公室里,Altman仍然在强调他的谈话要点。我问他在过去的24小时里做了什么。“昨天我正在做的事情之一是:我们试图弄清楚是否能够使人工智能与一组人类价值观保持一致。从技术上讲,我们在这方面取得了良好的进展。现在有一个更困难的问题:好的,是哪些价值观呢?”

他还与旧金山市长共进午餐,试图精简他的98页待办事项清单,并进行了力量训练(尽管他有些不情愿地说:“我已经放弃试图变得非常结实了”)。他欢迎新员工。他和他的兄弟以及奥利一起吃晚饭。他在晚上8:45上床睡觉。

这真是令人困扰,一个伪装成好人的帝国主义者让人失衡。Altman告诉我,他最珍贵的财产之一是他祖父一生都携带的门楣。他和奥利计划很快要孩子;他喜欢大家庭。有时他笑得很厉害,不得不躺在地板上呼吸。他“将努力找到将人们的意愿融入到我们建立的东西中的方法”。他知道“AI并不是一个只有好处的干净故事”,“在这里会失去一些东西”,而且“丧失厌恶是非常能够理解和自然的。人们不想听一个他们是牺牲品的故事”。

他说他的公共形象“只是与我有一些相关”。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1