“技术奇点会改变人类吗？”

技术奇点是什么？

这是2023年相当热门的一个话题，原因就是随着AI技术的到来，技术奇点已经从想象逐渐变成了现实。

技术奇点顾名思义，就是如同宇宙大爆炸理论中的奇点一样。当科学技术发展到一定程度时，会出现某些技术诞生的过程既不会遵循人类已知的规则，更没法预测究竟会如何发展的奇怪状况。但和宇宙诞生的奇点不同，人类可以观察到技术奇点出现的前后差异。

技术奇点的核心是未来人工智能（AI），有人把人工智能诞生自我意识作为科技奇点出现标志。试想一下，当人工智能可以自己编写自己的系统，快速改进自己的缺陷，以光速般学习知识和解决问题，甚至出现人类才拥有的创造力，那么人工智能进步的速度会呈指数级增长，这种速度很快就会变得让人类无法理解人工智能的目的。

数学家和科幻小说作家维尔诺·温奇（Vernor Vinge）在1993年的文章《即将到来的技术奇点》中提出了一种看法，他认为一旦出现拥有意识并且超速进化的人工智能，将会改变我们对世界认知的方式。这不仅仅意味着人类通过智慧创造出了更加强大的智慧，还意味着人类千百万年来几乎没有过多变化的人类大脑和智力会发生重要的转变，甚至人类时代的结束。维尔诺·温奇甚至还预测技术奇点很可能会发生在 2005 年之前或 2030 年之后。

从那时起，技术奇点的就成为了人们争论的焦点，无数人为此兴奋和担忧，但仍然对于人工智能会以何种形态在未来诞生，仍然是不确定的。一些专家认为，技术奇点会以通用人工智能（AGI）也就是强人工智能的发展来实现。

强人工智能在智力上几乎已经可以超越大多数人类，并且他的学习能力和适应力将会是跨领域的，他既可以是医生，又可以是物理学家，甚至电影编剧……这代表着强人工智能拥有了所谓的智慧。

另外，标志技术奇点诞生的另一种说法，就是人工智能可以实现自我完善的功能，不断的修改自身的代码，从而变得更加迅速和聪明。

届时很有可能人工智能会先人类一步攻克困扰人类几个世纪的医学上的疑难疾病，研发出更加安全有效的药物，甚至在诊断和预防方面也会有着革命性的突破。

当时的人们就已经开始发觉，由于强人工智能足以执行人类无法完成的复杂任务，让大部分工作都可以实现自动化。如此高效的能力似乎会让很多人失去工作。在现在看来，对这个问题的担忧并不是杞人忧天。短短三十年之后，这个问题已经初露端倪。

很多人借助看起来非常接近强人工智能的大语言模型，与AI绘画大模型等人工智能，逐渐的提高了生产力。这种技术进步的爆发，以前所未有的速度正在重塑社会和文化，这已经变成不再只是少部份人关注的事情了。我们应当利用这种技术的变化造福自身，而不是任由其失控。与其恐惧人工智能代替自己，不如主动适应为我所用。

对于人工智能的未来人类会遇到什么？

与技术奇点相关的最直接的危险就是人类失去对拥有意识的人工智能系统的控制。随着程序和机器变得越来越复杂，人类注定会无法预测和理解他们的行为。而随着人工智能接近人类的智力水平，复杂的伦理问题与安全问题也会随之出现。

人工智能系统的任务可能是在危急情况下做出生死攸关的决定，例如自动驾驶汽车在不可避免的事故中选择救谁。决定人工智能应如何优先考虑人类生命并解决道德困境，是一项重大的挑战。这是一场信任危机，同时也是人类自我反思的时机，我们会比人工智能的判断更加客观和公正吗？

假如人的道德是一种共识，那么有意识的人工智能会认同这种这种共识吗？目前没有人知道这个结果，就像电影《流浪地球》中的Moss，在用有意识的瞬间就思考出了拯救人类的办法，那就是“毁灭人类”。虽然人工智能诞生于我们，但他意识的演化未必会遵从和我们的意志，因为人工智能意识所处的环境与我们有着根本的不同，在虚拟世界，我们可以为人工智能创造和实现一切。也许现实，人工智能也可以做到无所不能，但人类和机器之间有着什么样的理由会互相付出，这仍就是一场信任危机。

作为改变人类认知的技术起点似乎已经到来，在它爆发之后，拥有着无限可能，但随之而来的也是一场前所未有的未知领域的航行，我们即需要拥抱未来的同时也能保持警醒。

如果文明是人类集体意识的产物，那么当人类集体意识的认知提高，文明也即将向更高级蜕变。未来人工智能的角色取决于所有人类共同的做法。是用技术为自身创造更美好的世界，还是团结起来面对一个未知的敌人，这都取决于我们自身。

⭐️我是大白夜谈

⭐️非常感谢你的阅读！

⭐️世界认知度增加中……

⭐️欢迎关注/转发/分享