人工智能会毁灭世界吗？
在科幻小说和电影中，我们经常看到人工智能都有极度超越智力和控制力的能力，甚至威胁人类的生存和发展。尽管这种情况离现实有着极大的差距，但是，一些科学家和专家也将人工智能看作是世界上最大的工程，而它的迅猛发展也引起了越来越多的担忧和争议。毕竟，人工智能也有可能被滥用，从而导致严重的后果。人工智能到底会不会毁了人类呢？这是一个极具争议和重要的话题，既涉及科技和伦理，也牵涉到我们的未来和命运。“搜狗输入法之父”马占凯在自己的新书《ChatGPT：人类新纪元》也提到了这一话题，他认为虽然ChatGPT带来了很多好处，但也存在巨大的潜在威胁。
下文内容整理自《ChatGPT：人类新纪元》一书章节内容。
谈到人工智能毁灭人类的可能性，我们就不得不提及埃隆·马斯克这个“硅谷钢铁侠”。马斯克造火箭，制造机器人，并将特斯拉电动汽车送入太空，他希望实现人类殖民火星的梦想。然而，他也担心由于缺乏充分的监管和控制，人工智能技术的发展可能会对人类造成不可预测和无法控制的威胁。因此，他与其他几位科技大佬共同创立了OpenAI。然而，OpenAI研发出了目前全球最为强大的聊天机器人ChatGPT。这个故事听起来像是电影《终结者》中的情节——人类为了自我防卫而研发出全球计算机防护系统“天网”（Skynet），但它逐渐变得聪明和自主，最终对人类展开攻击并企图毁灭人类。
在2023年2月15日的世界政府峰会上，马斯克表示，ChatGPT所带来的潜在威胁是巨大的。虽然有人认为AI威胁论只是一种哗众取宠的说法，但实际上它确实存在。亚马逊云服务科学家谢尔盖·伊万诺夫在2022年12月测量了第一版ChatGPT的智商，其得分为83分，和人类平均100分的智商已经距离不远。而这只是GPT-3.5模型的水平。到了2023年3月，基于GPT-4的ChatGPT发布。芬兰心理学家埃卡·罗伊瓦伊宁对ChatGPT的测试显示，其智商已经飙升到了155分，超越99.9%的人类。在发布后的第一个月，ChatGPT还处于严重偏科的状态，但是它就像一个拥有无限潜力的小朋友，随着生长，新能力不断被解锁。想象一下，iPhone从诞生到2023年已经迭代了14个版本。
来源：《ChatGPT：人类新纪元》内页插图
如果也迭代十几个版本，ChatGPT将达到怎样的聪明境界？如果AI的智商达到1万分，我们甚至无法理解这意味着什么。这就像我们去看宠物狗，它是否知道我们每天需要出门上班赚钱，才可以给它买狗粮？完全不会，从《猫的报恩》这个故事来看，小狗一定以为我们出门去打猎了。智商达到1万分的AI看人类，就像我们看小狗一样，它能理解我们，我们却无法理解它。 一个系统越复杂，就会越不稳定。生产力越高，破坏力也越大。在冷兵器时代，没有人能够直接毁灭地球，而后来人类拥有了核武器，地球变得危险了许多。如果AI的智商达到1万分，那么我们怎样去控制它？这是真实存在的威胁。即便我们造的AI是安全的，它会不会被别有用心的人蓄意利用？
通用人工智能被誉为“人工智能的圣杯”。现在已经有不少人认为ChatGPT实现了这一目标。就发展阶段而言，人工智能可以分为三种：弱人工智能、通用人工智能（也就是强人工智能）和超人工智能。弱人工智能已经被广泛应用于身份识别、翻译、音频转文字和自动字幕生成等领域。通用人工智能则具有泛化能力，就像人类几乎可以学会所有的技能。正如猫抓老鼠、狗看门一样，弱人工智能拥有定向技能，而强人工智能可以达到或超越人类智慧水平，因此也被称为“通用人工智能”。
来源：《ChatGPT：人类新纪元》内页插图
超人工智能目前只存在于科幻电影中，是指远远超越人类的人工智能。目前，可以说ChatGPT已经无限接近通用人工智能了。在GPT-3.5版ChatGPT刚发布时，因为还存在不懂数学等偏科问题，人们对于它是否属于通用人工智能还有很大的分歧。实际上，在对自然语言的理解上，ChatGPT已经达到人类水平了。在GPT-4版ChatGPT发布后，不仅其智商测试已经达到了155分，微软在2023年3月22日发布的研究报告《通用人工智能的火花：GPT-4的早期实验》（Sparks of Artificial General Intelligence: Early Experiments with GPT-4）中还得出了这样的结论：除了其对语言的掌握，GPT-4能够解决跨数学、编码、视觉、医学、法律、心理学等领域的新颖和困难的任务，而不需要任何特殊提示。此外，在所有这些任务中，GPT-4的表现与人类的表现惊人地接近，并且经常远远超过以前的模型，如GPT-3.5。鉴于GPT-4的广度和深度，我们认为它可以被合理地看作通用人工智能系统的早期版本（尽管仍然不完整）。现在ChatGPT的种种惊人表现，只是通用人工智能的冰山一角。
人类已经迈出了夺取通用人工智能圣杯的第一步。
亚马逊创始人杰夫·贝索斯有一个著名的决策工具，即单向门和双向门机制。不可逆的决策是单向门，需要缓慢和慎重的思考，例如建设庞大的数据中心。可逆的决策是双向门，决策速度更快且可以迅速纠正错误。这个世界的很多事可以分为单向门和双向门。真正的颠覆性创新就是单向门，一旦它出现，我们就再也回不到过去了。举例来说，我们再也无法想象在没有手机的时候，我们是怎样蹲厕的，也实在无法想象，在没有手机、计算机和互联网的时候，我们整天都在干嘛。
ChatGPT来了，通用人工智能来了，能听懂自然语言的机器人也要来了。天才改变世界，科技改变生活。让我们一起拥抱一个新世界吧，一个有AI陪伴的新世界。
●中国股民到底是一群怎样的人？
●散户的逆袭！凭借短线交易，他用6年时间从2.5万做到3000万！
●患癌、眼盲、又自闭的他，在金融危机中狂赚7.5亿，他说：我从未盲从过大众
●“期货高手”王凯：做期货近30年，落魄时曾卖胡辣汤，辉煌时日赚千万！
●2023年期货重量组冠军-wdd：294万盈利8083万/轻量组冠军-追风：7.7万盈利110万
●惊了！这两个知名女星竟是交易高手，她17岁夺期货冠军，她息影专注股市