OpenAI的回形针徽标
2023年秋天，组成OpenAI徽标形状的数千个回形针，运抵OpenAI旧金山办公室。人人都知道这个东西的深意。回形针已成为AI界厄运的象征。
瑞典哲学家尼克·博斯特罗姆的《超级智能》一书将回形针推广为AI危险的象征——一个被告知要制造尽可能多的回形针的AI系统，可能会不顾一切地收集最多资源去把目标最大化，在此过程中毁灭人类。这个恶作剧是从OpenAI竞争对手Anthropic的一名员工干的。2020年年底，OpenAI研发副总裁达里奥·阿莫迪、安全政策副总裁丹妮拉·阿莫迪兄妹俩因为AI安全问题的分歧离开了OpenAI，并在2021年初创办了Anthropic，要打造一家优先考虑AI安全与监管的AI公司。有效利他主义运动可以追溯到大约20年前。支持者相信他们应该用自己的时间做最多的好事。他们可以赚尽可能多的钱，然后把其中的大部分捐给政府和传统非营利组织所忽视或尚未解决的问题。他们专注于那些能产生最大影响的想法，或者每花一美元能帮助最多的人。