危险！立即暂停！马斯克等上千名大佬紧急发声！
来源：正商参阅（ID：zhengshangcanyue）
作者：明哲
近日，火遍全球的人工智能系统GPT-4 突然被降温，一封重磅公开信呼吁：
所有AI 实验室应立即暂停训练比GPT-4 更强的AI ，至少暂停半年。
截至目前，世界首富马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、AI 教父杰弗里·辛顿等1000 多名科技大佬都签署了这封公开信，可见事态之严重。
横扫世界的人工智能，此前被质疑会取代大量人类工作，但因为太过强大，现在已经被质疑“AI 可能杀死所有人，成为人类最终的灾难”。
一日千里的智能科技，终于露出獠牙！
壹
这份震动全球的《暂停大型人工智能研究》公开信，由美国生命未来研究所发布。
生命未来研究所2014 年在美国波士顿成立，是个非营利组织，使命是引导变革性技术远离极端、大规模的风险，转向造福生活。
人工智能技术本来就高度危险，这次GPT-4 展现出略微失控的超强能力后，使命在身的生命未来研究所坐不住了，立即联合马斯克等1000 多名科技大佬呼吁暂停训练强大AI 。
理由是：强大的AI 系统可能对社会和人类造成深刻的风险，这点得到广泛研究和顶级AI 实验室的认可。
高级AI 代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理，不幸的是，现在根本没有规划管理。
最近几个月全球AI 实验室陷入失控的竞赛，他们只想开发更强大的数字思维，但没人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能！
简单理解就是，高级AI 本来就极具威胁，需要监管，现在群雄并起疯狂发展AI ，连模型开发者都不能完全掌控系统，局面正走向失控。
“无法完全掌控”并非危言耸听，此次AI 狂潮主角OpenAI 的CEO 奥特曼最近在采访中就提到：
GPT 系列已经出现无法解释的推理能力，它为啥会出现推理能力，OpenAI 的研究者自己都搞不明白。
他们只知道，在不断测试中，GPT 系列开始出现了推理能力.....
奥特曼还说了更惊人的观点：承认AI 可能杀死所有人，必须开发新技术来解决。
其实AI 发展太快走向失控是意料之中的，近年来已有无数科技大佬警告过AI 的风险。
比如常年吐槽AI 的马斯克曾喊话AI 是人类面临的最大威胁之一，远比核弹危险。
“飞机、汽车、医疗，任何先进技术都可能威胁人类安全，AI 对人类而言，是更大的安全隐患，更需要立法保护。
如果没有适当监管和控制，AI 可能危及人类生存。”
伟大的霍金生前也郑重警告，人工智能可能是人类最伟大的成就，也可能是最终灾难。如果失控，可能导致人类毁灭。
人工智能教父杰弗里· 辛顿也表示，人工智能可能发展到对人类构成威胁的地步，“AI 消灭人类”的可能性并非不可想象。
AI 顶级专家马库斯则更注重当下风险，他认为恐怖主义利用大模型后可能导致核战争，或者导致比新冠更糟糕的病毒传播，文明可能会被彻底破坏。也许人类不会消失，但事情会变得非常糟糕。
所以相比辛顿和马斯克担忧的AI 统治世界，现在应该更多思考眼前风险，比如如何阻止犯罪分子利用AI 系统。
我们一手创造了AI ，却在今天试图阻止AI 发展，看似非常可笑，其实还是因为这次GPT-4 已过于强大。
贰
GPT-4 作为顶尖的大语言模型，常规的对话就不说了，关键它很多性能已媲美人类。
比如通过律师资格模拟考试，分数超过90% 的人类考生，还会用几乎所有编程语言....
如此强大的GPT-4 ，被微软用到办公软件后，直接杀疯了。
微软基于GPT-4 发布的办公助手Copilot ，是2023 年最受瞩目的杀手级应用。
在Word 中，你写段准确提示，Copilot 就能整出个初稿，还能帮你把握语气，给点建议之类的。
在PPT 中，你说出想法、场合、风格之类的要求，Copilot 就自动生成一套美观的PPT 。
在Excel 中，你说出具体的分析需求，Copilot 可以几秒就搞定复杂的数据处理，帮你生成清晰的表格。
很明显，微软的Copilot 就像每个人的私人秘书，极大解放了生产力。你的话变成地球上最强大的生产力工具，从根本上改变我们的工作方式！
不过每次生产力提升，都有大量岗位被取代。GPT-4 发布后，大量白领的工作岌岌可危。
尤其是依赖收集数据、简单加工为生的岗位，比如文员、新闻编辑、律师助理、券商实习生，甚至普通设计师、平面模特也很快会被替代。
最近网上盛传，有了AI 画图软件后，电商公司可以彻底告别摄影师和模特了，成本将大幅下降。
OpenAI 研究显示，美国80% 的工作职业将被GPT-4 取代。除会计师外，数学专家、口译员、作家以及近20% 的美国劳动人口，也深受AI 影响。
最受影响的是白领，最不受影响的反而是快餐厨师、摩托车技师、石油和天然气杂工等蓝领。
高盛3 月27 日发布的报告指出，全球预计将有3 亿个工作岗位最终被AI 取代。
如此迅速、猛烈的AI 浪潮，让人又惊喜又担忧。
当AI 在一般工作中表现如同人类，我们必须扪心自问：
是否应该自动化所有工作，包括那些富有成就感的工作？
是否应该开发非人类的思维，最终超过、智胜并取代我们？
是否应该冒险失去对我们文明的控制？
毕竟如此AI 是可以自己迭代的，现在就能取代白领了，照这速度下去，没几年就能发展出自己的思维，走向失控。
2023 年短短3 个月以来，GPT 系列已让全球癫狂，无数人高呼“面对这种堪比内燃机、计算机、互联网诞生的科技革命，再去纠结，真是自绝于大时代了。”
随着千人联名信呼吁暂停，加上众多“AI 威胁人类”的悲观警告，AI 或许需要来一次技术急刹车，先搞定安全性、可控性了。
叁
值得注意的是，暂停开发更强大AI ，只是暂时刹车考虑下危险，避免事态失控。
别说全球AI 实验室会不会暂停，即便停下来，已有的GPT-4 也非常强大，足以颠覆世界经济，重塑新格局。
就像生命未来研究所提出的：人类已经成功创建强大的AI 系统，我们收获了回报，为所有人明确的利益设计这些系统，并给社会一个适应的机会。
让我们享受一个漫长的AI 夏季，而不是匆忙而不准备地迎接秋天的到来。
全球能冷静下来，处理好AI 安全、可控的问题，享受科技造福固然完美，如果继续狂奔，那就要考虑终局了。
用终局思维来看，AI 发展初级阶段，人类可以享受科技红利，不用工作，每天被机器人供养，宛如上帝。
但最终，AI 或许会觉醒，抛弃脑力、体力都远不如自己的人类，进化出独立思维。
马斯克说的更透彻，他认为人类存在的价值，或许真的只是硅基生命的开启程序。
所以，解决AI 威胁唯一的方法就是不断迭代，不断学习，以尽快适应全新科技。
巨变已临，每个人都需收拾精神、跟上大时代！
新瑞鹏 | 多点Dmall | 比亚迪 | 药师帮 | 绿联科技
乐视网 | 古瑞瓦特 | 特斯拉 | 友宝在线 | 奥拉股份
星宸科技 | 蔚来汽车 | 瑞浦兰钧 | 融通高科 | 花房集团
国美 | 纵目科技 | 核酸检测 | 丰趣海淘 | 蜂巢能源
软银 | 美团 | 360数科 | SHEIN | 日联科技
远程汽车 | 赛力斯 | 喜茶 | 三只松鼠 | 图森未来
极氪 | 巨子生物 | 蕉下 | 神州系 | 广汽埃安
自游家汽车 | 宁德时代 | 大成精密 | 猪八戒网 | 安达科技
爱驰汽车 | 海天味业 | 天地壹号 | 中创新航 | 法拉第未来
蜜雪冰城 | 睿联技术 | 敷尔佳 | 复星集团 | 理想汽车
京东 | 途虎 | 零跑汽车 | 蓝城兄弟 | 碧桂园
岚图 | 晶正电子 | 阿维塔 | 智己汽车 | 天齐锂业
每日优鲜 | 苏宁 | 思必驰 | 华大智造 | 联川生物
奇点汽车 | 达梦数据 | 巨湾技研 | 创米科技 | 哪吒汽车
民生健康 | RENOGY | 米哈游 | 亿咖通 | 中芯系
寻求报道：yangqin6060（微信）
投递BP：bp@wefinances.com