英媒文章：人工智能五种可能的未来
参考消息网12月31日报道英国《新科学家》周刊网站12月13日发表题为《人工智能的未来：五种可能——从乌托邦到毁灭》的文章，作者是迈克尔·布鲁克斯。文章编译如下：
如果你想弄清楚人工智能(AI)将对未来产生什么影响，最好问问斯科特·阿伦森和博阿兹·巴拉克。作为得克萨斯大学和哈佛大学的计算机科学家，他们已把有关这个话题的冗长讨论归结为几种可能的结果，并给它们分别起了名字。
两人讨论的结论是，五种可能出现的未来就能涵盖AI发展的所有可能结果。他们希望这样的讨论能帮助业界人士就AI的最终目标和监管进行有意义的探讨。
这五种未来的起点都是同一个简单的问题：AI是否会灰飞烟灭？目前看来并非如此，但AI发展对资源的疯狂渴求很可能导致它的终结。可能出现的情况是，AI服务器对电力和冷却水的巨大需求导致它的进一步发展被禁止。又或者，用来训练AI模型的数据出现枯竭，这意味着AI永远无法像承诺的那样拥有改变游戏规则的能力。
这种情况被阿伦森和巴拉克称为“AI破灭”。但巴拉克说：“这种情况不大可能发生。我仍相信AI将极大地改变世界。”
假设没有出现“AI破灭”的情况，我们可能不得不面对的另一个问题：人类文明会否继续以一种可预测的方式发展？如果答案是肯定的，阿伦森和巴拉克认为，我们最终可能会陷入两种情况中的一种。一个是好的，被他们以动画片《飞出未来》命名，因为这部动画片描述了一个非常理想化的未来文明。另一个情况不那么好，被他们称为“AI的反乌托邦”。
无数科幻小说对反乌托邦进行过描述，最著名的是乔治·奥威尔的《1984》。在小说里，政府利用全方位监视手段使公民无条件地服从政府；不平等和偏见根深蒂固；职场环境令人痛苦；除极少数精英，普通雇员的收入都很低。阿伦森说：“人们曾认为，《1984》那样的情形根本不可能出现，因为根本无法找到足够的人手监视所有人。但有了AI，就有这个可能。”
巴拉克希望，AI的发展会带来更好的、《飞出未来》式的结果。
在他看来，这是所有可能的结果中最好的。他说：“这基本与现在的情况差不多，但会更好。”在这个世界里，AI会被用来减少贫困，确保更多的人能获得食物、医疗、教育以及致富的机会。人类的恶意或忽视可能偶尔会造成伤害，但总体而言，这个世界的居民对生活状况相当满意。
但还有比这更好的。阿伦森希望自己有朝一日生活在一个由AI主导的乌托邦世界中。
在这个世界里，人们将与AI生活在一起，AI实际上变成一个新的超级智能物种，接管了文明世界的运行。幸运的是，它们是仁慈的上帝，对可怜和微不足道的地球人充满宽容。它们将解决我们的物质问题，提供无限丰富的供给，承担许多乏味的工作，为我们进化不足的大脑提供娱乐。阿伦森说：“这实际上是一个AI创造的天堂。”
这个世界很美丽。但是，如果全能的AI没那么慷慨怎么办？那就欢迎来到“回形针毁灭”世界。给这个世界冠以如此奇特的名字是有充分理由的。
2003年，美国机器智能研究所联合创始人、数学家和伦理学家埃利泽·尤德科夫斯基描述了一个思维实验。在这个实验中，人类想利用AI改进某些小东西的生产，比如，回形针。如果人类在给AI下达指令时没有仔细思考，就有被AI消灭的风险。因为AI致力于把全球所有资源都用来生产更好和更多的回形针，此时，人类就会成为它前进道路上的绊脚石。
AI系统会按人的要求做事，但它的行动不一定完全符合人的设想。挑战在于，要确保AI的行动与人类复杂且细致入微的价值观保持一致。
尤德科夫斯基的论述比这更复杂，但中心意思很简单：AI干掉人类的各种情况不难想象。不过，阿伦森并不太担心出现“回形针毁灭”的情况，认为这种可能性不大。（编译/潘晓燕）
