危险！立即暂停！马斯克等上千名大佬紧急发声！
来源：正商参阅（ID：zhengshangcanyue）
作者：明哲
近日，火遍全球的人工智能系统GPT-4突然被降温，一封重磅公开信呼吁：
所有AI实验室应立即暂停训练比GPT-4更强的AI，至少暂停半年。
截至目前，世界首富马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、AI教父杰弗里·辛顿等1000多名科技大佬都签署了这封公开信，可见事态之严重。
横扫世界的人工智能，此前被质疑会取代大量人类工作，但因为太过强大，现在已经被质疑“AI可能杀死所有人，成为人类最终的灾难”。
一日千里的智能科技，终于露出獠牙！
壹
这份震动全球的《暂停大型人工智能研究》公开信，由美国生命未来研究所发布。
生命未来研究所2014年在美国波士顿成立，是个非营利组织，使命是引导变革性技术远离极端、大规模的风险，转向造福生活。
人工智能技术本来就高度危险，这次GPT-4展现出略微失控的超强能力后，使命在身的生命未来研究所坐不住了，立即联合马斯克等1000多名科技大佬呼吁暂停训练强大AI。
理由是：强大的AI系统可能对社会和人类造成深刻的风险，这点得到广泛研究和顶级AI实验室的认可。
高级AI代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理，不幸的是，现在根本没有规划管理。
最近几个月全球AI实验室陷入失控的竞赛，他们只想开发更强大的数字思维，但没人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能！
简单理解就是，高级AI本来就极具威胁，需要监管，现在群雄并起疯狂发展AI，连模型开发者都不能完全掌控系统，局面正走向失控。
“无法完全掌控”并非危言耸听，此次AI狂潮主角OpenAI的CEO 奥特曼最近在采访中就提到：
GPT系列已经出现无法解释的推理能力，它为啥会出现推理能力，OpenAI的研究者自己都搞不明白。
他们只知道，在不断测试中，GPT系列开始出现了推理能力.....
奥特曼还说了更惊人的观点：承认AI可能杀死所有人，必须开发新技术来解决。
其实AI发展太快走向失控是意料之中的，近年来已有无数科技大佬警告过AI的风险。
比如常年吐槽AI的马斯克曾喊话AI是人类面临的最大威胁之一，远比核弹危险。
“飞机、汽车、医疗，任何先进技术都可能威胁人类安全，AI对人类而言，是更大的安全隐患，更需要立法保护。
如果没有适当监管和控制，AI可能危及人类生存。”
伟大的霍金生前也郑重警告，人工智能可能是人类最伟大的成就，也可能是最终灾难。如果失控，可能导致人类毁灭。
人工智能教父杰弗里·辛顿也表示，人工智能可能发展到对人类构成威胁的地步，“AI消灭人类”的可能性并非不可想象。
AI顶级专家马库斯则更注重当下风险，他认为恐怖主义利用大模型后可能导致核战争，或者导致比新冠更糟糕的病毒传播，文明可能会被彻底破坏。也许人类不会消失，但事情会变得非常糟糕。
所以相比辛顿和马斯克担忧的AI统治世界，现在应该更多思考眼前风险，比如如何阻止犯罪分子利用AI系统。
我们一手创造了AI，却在今天试图阻止AI发展，看似非常可笑，其实还是因为这次GPT-4已过于强大。
贰
GPT-4作为顶尖的大语言模型，常规的对话就不说了，关键它很多性能已媲美人类。
比如通过律师资格模拟考试，分数超过90%的人类考生，还会用几乎所有编程语言....
如此强大的GPT-4，被微软用到办公软件后，直接杀疯了。
微软基于GPT-4发布的办公助手Copilot，是2023年最受瞩目的杀手级应用。
在Word中，你写段准确提示，Copilot就能整出个初稿，还能帮你把握语气，给点建议之类的。
在PPT中，你说出想法、场合、风格之类的要求，Copilot就自动生成一套美观的PPT。
在Excel中，你说出具体的分析需求，Copilot可以几秒就搞定复杂的数据处理，帮你生成清晰的表格。
很明显，微软的Copilot就像每个人的私人秘书，极大解放了生产力。你的话变成地球上最强大的生产力工具，从根本上改变我们的工作方式！
不过每次生产力提升，都有大量岗位被取代。GPT-4发布后，大量白领的工作岌岌可危。
尤其是依赖收集数据、简单加工为生的岗位，比如文员、新闻编辑、律师助理、券商实习生，甚至普通设计师、平面模特也很快会被替代。
最近网上盛传，有了AI画图软件后，电商公司可以彻底告别摄影师和模特了，成本将大幅下降。
OpenAI研究显示，美国80%的工作职业将被GPT-4取代。除会计师外，数学专家、口译员、作家以及近20%的美国劳动人口，也深受AI影响。
最受影响的是白领，最不受影响的反而是快餐厨师、摩托车技师、石油和天然气杂工等蓝领。
高盛3月27日发布的报告指出，全球预计将有3亿个工作岗位最终被 AI 取代。
如此迅速、猛烈的AI浪潮，让人又惊喜又担忧。
当AI在一般工作中表现如同人类，我们必须扪心自问：
是否应该自动化所有工作，包括那些富有成就感的工作？
是否应该开发非人类的思维，最终超过、智胜并取代我们？
是否应该冒险失去对我们文明的控制？
毕竟如此AI是可以自己迭代的，现在就能取代白领了，照这速度下去，没几年就能发展出自己的思维，走向失控。
2023年短短3个月以来，GPT系列已让全球癫狂，无数人高呼“面对这种堪比内燃机、计算机、互联网诞生的科技革命，再去纠结，真是自绝于大时代了。”
随着千人联名信呼吁暂停，加上众多“AI威胁人类”的悲观警告，AI或许需要来一次技术急刹车，先搞定安全性、可控性了。
叁
值得注意的是，暂停开发更强大AI，只是暂时刹车考虑下危险，避免事态失控。
别说全球AI实验室会不会暂停，即便停下来，已有的GPT-4也非常强大，足以颠覆世界经济，重塑新格局。
就像生命未来研究所提出的：人类已经成功创建强大的AI系统，我们收获了回报，为所有人明确的利益设计这些系统，并给社会一个适应的机会。
让我们享受一个漫长的AI夏季，而不是匆忙而不准备地迎接秋天的到来。
全球能冷静下来，处理好AI安全、可控的问题，享受科技造福固然完美，如果继续狂奔，那就要考虑终局了。
用终局思维来看，AI发展初级阶段，人类可以享受科技红利，不用工作，每天被机器人供养，宛如上帝。
但最终，AI或许会觉醒，抛弃脑力、体力都远不如自己的人类，进化出独立思维。
马斯克说的更透彻，他认为人类存在的价值，或许真的只是硅基生命的开启程序。
所以，解决AI威胁唯一的方法就是不断迭代，不断学习，以尽快适应全新科技。
巨变已临，每个人都需收拾精神、跟上大时代！