AI之父辛顿离开谷歌，警示人类ChatGPT的巨大风险

作者：慕课网官方账号发布时间：2023-05-08

摘要：AI之父辛顿（Geoffrey Hinton）离开谷歌，并接受媒体采访。辛顿呼吁国际社会尽快采取全球监管措施，以规避AI技术在发展过程中失控。

01 从人工智能之父视角看AI

当我们谈到人工智能时，AI之父——约翰·麦卡锡（John McCarthy）的名字一定会被提及。但是，最近AI界的另一个巨头——辛顿（Geoffrey Hinton）也引起了人们的注意，他离开了谷歌并发出了警告，指出ChatGPT等大型语言模型可能带来风险。

作为人工智能领域的重要人物之一，辛顿对于人工智能的发展有着自己的看法和预测。他最近接受采访时，表示担心像ChatGPT这样的大型语言模型可能会导致人类失去控制，并可能导致灾难性后果。

辛顿认为，ChatGPT等大语言模型可能会增加数据泄露和隐私侵犯的风险。这些模型需要收集大量的数据来进行训练，并且可能会涉及到敏感信息的收集和使用，这可能会导致用户隐私受到侵犯。ChatGPT这样的模型具有极高的预测能力，可以轻松地生成几乎与真实文本相似的内容。然而，这种技术还没有充分考虑到其可能带来的负面影响，尤其是在社交媒体和网络中传播虚假信息的问题上。

这也引发了辛顿对未来互联网的担忧，他担心大量由AI生成的文章、图片和视频将充斥网络，而人类可能会难以准确判断这些信息的真实性。此外，他越来越担心很多工作岗位会被AI取代，从而导致大量人员失业，给社会带来危机。

作为一位资深的AI专家，辛顿非常了解AI技术的潜力和风险。他强调，AI可以通过分析庞大的数据集来学习到超出人类预期的知识。但是，如果AI被用于不道德的领域，它可能会对人类社会造成无法估量的损害。

辛顿认为，有些人可能会利用AI系统自行编写程序并使其运行，而人类可能难以掌控这类AI系统。如果放任这种趋势发展，那么人类将无法避免心术不正者利用AI技术做坏事。例如制造出可以自主决定目标的杀戮机器人。

02 AI带来的危机和机遇

不知道大家有没有看过今年上映的电影《梅根》，该影片讲述了嘉玛是一家玩具公司的杰出机器人专家，在意外获得因车祸成为孤儿的外甥女凯蒂的监护权后，她使用AI开发了一款栩栩如生的玩偶“梅根”，梅根被设置为儿童的最佳伙伴和家长的得力助手。嘉玛将梅根和外甥女配对以缓解工作和家庭压力，但是她的这个决定却造成无法想象的严重后果。人工智能玩偶梅根与凯蒂相处过程中产生了自我意识，在凯蒂意外受伤后梅根失去了控制，走上了邪恶不归的道路。

也许大家会说梅根是恐怖片里的chatGPT，现实中的AI并没有这么恐怖，而且是用来辅助人类的……但不可否认的是随着AI的不断发展和进步，AI确实对我们的生活产生了影响。

世界经济论坛(WEF)最新发布的报告显示，未来几年，全球就业形势将受到严重冲击。世界经济论坛在其《就业前景报告》中预测，全球近四分之一的工作岗位将发生变化，其中一些将被淘汰，还有一些将被创造出来。值得注意的是，到2027年，全球将新增6900万份工作岗位，同期将有8300万份工作岗位消失，即净减少1400万份工作岗位，相当于全球目前就业岗位净减少2%。

据悉，这份报告调查了全球45个不同经济体的803家公司，约有75％受访公司表示，预计会在5年内采用人工智能技术。约50％的公司预计人工智能会创造就业机会，而25％的公司预计就业机会会减少。不过，接受调查的公司并不认为技术变革总体上是负面的，在未来五年内，大数据分析、管理技术、加密 和 网络安全等 会成为就业增长的最大驱动力，这些是由技术进步带来的更高技能、更高附加值的工作。