AI如何影响人类，人类如何应对AI？｜荐读·赠书

导读： 人工智能目前在我们的生活中扮演并将持续多年的角色将会加速发展。但是人工智能是什么？它真的会使我们陷入困境吗？

本期的 「荐读·赠书」活 动，一读君与您分享《循环：AI如何影响人类，人类如何应对AI》。本书的 作者雅各布·沃德认为，人工智能对人类最大的威胁不在于机器人的反扑，我们的大脑才是最需要堤防的因子。在决策时，大脑会受到偏见、情绪等因素影响。而当我们在选择要喂养哪些信息给智能产品时，往往也会把这些盲点和谬误一并复制进去。我们该如何清醒地审视自我？审视AI？希望本书能为您带来启发。

为了回馈读者，一读将抽取幸运读者赠送本书。（赠书规则详见文末）

《循环：AI如何影响人类，人类如何应对AI》

雅各布˙沃德（Jacob Ward）

中译出版社

如果我们要对循环采取适当的预防措施，我们就必须考虑到人类的终极弱点，那就是我们无法评估未来风险和回报，尤其是发生在遥远未来的事情。

恩里科·费米（Enrico Fermi）是原子时代的开创者之一，1945年他在洛斯阿拉莫斯国家实验室完成了战时工作，但此后每年他都会在那里呆上几周参与各种项目。比如曾有一段时间，他致力于研究两种液体之间的边界会发生什么。但到1950 年，他又了氢弹。

那年夏天，他加入了一个四人午餐小团体，四位科学家坐在餐盘前热烈讨论避世话题。有一次，他们讨论了整个宇宙中的行星数量，其中几个人还记得费米问了一个根本性问题：“外星人在哪里？”

由此，他开创了梦幻般的天体物理学领域。众所周知，费米悖论是这样一种观点，即天空中有那么多恒星，代表着那么多潜在的孕育生命的能量，那么宇宙中一定还有生命存在。据估计，宇宙中有2000亿个星系，那么保守估计，行星的数量可能超过7万亿甚至更多。1961年，天体物理学家弗兰克·德雷克（Frank Drake）估计，仅银河系就有1000到1亿颗行星可能拥有某种文明。德雷克接着创立了 SETI（寻找外星智能）项目，这是地球上第一个寻找外星生命的非政府项目。正如 2019年罗彻斯特大学的一篇论文所描述的：“如果技术先进的外星文明很普遍，那么我们应该已经直接或间接地获得了它们存在的证据。”那么外星人在哪里？

1973年，麻省理工学院天文学家约翰·艾伦·鲍尔（John Allen Ball）提出，也许外星文明在故意拖延，因为它们觉得人类还很幼稚。卡尔·萨根猜测，外星人的思维是否太慢或是太快，让我们无法察觉。一些论文认为，每一种文明都必然会经历一次“大过滤”，比如在气候变化或一场瘟疫中毁灭或幸存，而我们是周边唯一得以幸存的。但我最喜欢的解释是 1961 年德国天文学家塞巴斯蒂安·冯·霍纳（Sebastian von Hoerner）首次提出的观念。

他做了一些简单的数学计算，然后得出了结论：文明一般不会持续6500 年以上，而这样的文明可能相隔1000 光年。这是冯·霍纳在“冷战”最激烈的时候写下的，当时人人都在担心核毁灭的威胁，他的理论更多的是关于他所认为的任何文明可能具有的自我毁灭性，而不是一个文明与下一个文明之间的时间和距离。但他的想法有助于开启一种看待悖论的新方式。

也许问题不是“外星人在哪里”，而是“外星人什么时候出现”。因为在浩瀚的空间和漫长的时间里，我们就像划着的火柴，是黑暗中最短暂的闪光。在地球45亿年的生命中，人类物种的各种形式只存在了短暂的一瞬。谁能说在我们之前已经划亮了多少火柴，等我们走了以后，还会有多少火柴被划亮呢？也许在人类出现之前，其他世界的物种就已经像人类一样爬上岸并发展出文明，数十亿年后消失在了尘埃中，而人类在地球上消失几十亿年之后，同样的轨迹可能会在其他地方重演。如果在浩瀚的宇宙中，两支火柴同时划亮，那将是一个令人难以置信的巧合。正如天体生物学家凯莱布·沙夫（Caleb Scharf）2014年在《科学美国人》（Scientific American）杂志上所写的那样：“从真正宏大的层面来看，一个有自我意识的科技物种的存在总是转瞬即逝的，是分子进化的混沌中探出来的一缕烟尘，最终都会不可避免地消失在尘土中或是面临文明的消逝。”

我们生来就认为，发生在自己眼前和身上的事情是最重要、对我们影响最大的，而事实上，塑造人类物种的可能是很久以前发生的事件，也可能是很久以后发生的事件。这就是为什么瘟疫和气候变化等对人类来说如此危险。如果我们没有亲身经历过涨潮，也没有因为感染病毒躺在床上呼吸困难，我们就无法利用我们最高效的思维系统来避开危险。但是等到海浪冲击我们的房子或者我们已经用上呼吸机的时候，一切都来不及了。我们不擅长理解时间跨度太长的抽象概念，也无法超越自己的生命周期，正是这一点使得循环成为可能。如果有一天，没有人工智能的建议，我们无法与同事对话；如果音乐只是根据我们以前选择的模式创作的；如果整个行业都在无休止地对不断减少的人类选择进行采样，那就太晚了。这是整个人类物种面临的问题。这将影响我们所有人。我们现在必须落实一些指导方针。

如果我们对于循环能做什么和不能做什么有集中监管和清晰认识，我们可能会一直使用循环，而不是任其从有利可图的群体中获利。我们也许可以使用决策技术来弥补自己的缺点，让循环旋转起来，增加我们的选择，而不是放大我们不爱动脑筋的缺点，从而减少我们的选择。

我们已经看到循环在家庭保险等产品的应用上取得了很好的效果，同时也有其他案例让我们对此感到乐观。也许它所采用的系统形式，迫使我们了解选举问题，并让想要获得我们选票的人也不得不关心这些问题。Pol.is 是一个分析网民意见模式的简单平台，它可以更好地告知当选官员选民真正想要什么。Pol.is 给出了一个提议清单，并要求受访者对每个提议的感受进行排名。然后它分析了一系列情绪，并将一份类似白皮书的文件提交给政府官员。科林·梅吉尔（Colin Megill）告诉我他创造了Pol.is，因为他不想看到人们出现在市政厅，花几个小时了解一个问题，然后就此离开。正如他告诉我的那样：“如果人们使用了这样的东西，就永远不会发生英国脱欧这样的事情，因为选民真正想要的东西一目了然。议会没有机会歪曲民意。”

也许人工智能最初只应该应用于公共问题。Green River AI 是极少数仅限公共卫生和社会正义领域使用其机器学习技术的公司之一。但迈克尔·纳普（Michael Knapp）告诉我，自从他在2000年创立这家公司以来，他发现，如果没有人性贪婪的内在推动力，人工智能就不会被部署到需要的地方。“令我感到沮丧的是，我可以从孩子的出生证明中分辨出孩子可能铅中毒；我也可以开发一个社会服务系统，提前三年告知家长，然后解决问题。但只有等到孩子余生都被毁掉了的时候，社会服务系统才会允许我这么做。”我问纳普是否担心决策技术和人工智能会毁掉人类的选择时，他笑了，并告诉我他希望自己有这个问题。在他的世界里，人工智能为积极的变革提供了一个尚未开发的巨大机会，但非营利组织、城市政府和社会服务机构没有资源利用这些机会，而与此同时，像Facebook这样的公司已经运营着学术风格的人工智能实验室。纳普说：“这就是为什么我们对这项技术如此热衷。它在黑暗面上得到了有效的利用。在另一面却没有。”

但目前更大的问题是，我们是否会让那些能从中最快获利的机构减少对我们使用人工智能，或者决策机构中是否存在一些我们想要维护甚至改进的棘手但重要的问题。我们的个人和社会模式会尽可能地将我们的主观能动性让渡给我们意识之外的机制，让我们依赖自己的假设、周围的环境和同侪的做法做出判断。我们将精神能量蓄积起来，就算我们并不需要这么做，甚至不应该这么做。正如许多研究系统1 和系统2、偏见和情绪导向决策的研究人员所发现的那样，我们天生就不爱思考。这就是循环得以启动的原因，我们正濒临将整个生活交给一种看不见的、无法察觉的、不可抗拒的本能，将艰难但至关重要的选择交给自动化系统。从几十年的科学研究中，我们知道，我们能够对生活做出有意识的选择，认清自身的脆弱性，从而让自己变得更好。从几百年的努力中，我们知道，我们可以建立制度，帮助我们改变原始的缺点。现在，我们必须学会如何抵制便利和利益的诱惑，延续人类本性中最美好的一面。

作者简介

雅各布・沃德，斯坦福大学行为科学高级研究员，NBC新闻的科技记者，此前曾担任CNN、半岛电视台和PBS的科技记者。沃德是《大众科学》杂志的前任主编，他还主持了PBS电视台长达4小时的系列纪录片《侵入你的大脑》，向电视观众介绍了人类决策和非理性方面的基本科学发现。

目录

引言世代飞船

第一部分第一个循环：世代沿袭的人类本能

第二部分第二个循环：现代力量的操纵

第三部分第三个循环：人工智能的影响

赠书规则

对于人工智能您有哪些看法？在使用AI方面您有哪些想和大家分享的故事或者感悟？欢迎在文末留言并转发本文至朋友圈，我们将从中留言中抽取幸运粉丝，送上本书。

以上是《陪你解锁社会网络分析：理论、实操与范例（新时代学术进阶丛书）》中奖的粉丝朋友，请及时在后台私信小编，留下您的联系方式和地址，我们将书邮寄给您！

来源：中译出版社

声明：推文基于更好更多传递信息之目的，不代表一读EDU观点和立场，如有疏漏及不足之处，请随时指正。若有来源标注错误或侵犯了您的合法权益，请后台留言，我们将及时更正、删除！

好消息

如果您希望获取更多教育报告，请使用电脑复制以下链接至浏览器，注册登录 "教育研究与院校治理工作台"，免费下载近 300份教育报告、专家ppt（需使用电脑）

https://ai.squarestrategics.com/assistant-cn/prophet-library?_page=knowledge&source=0927C ‍

如果您愿意分享或反馈试用体验，请添加一读君微信（edu_yidu），您将有机会获取价值298元高级会员账号。

更多阅读

·教育报告、学术论坛精选Ppt、访谈原文等资料等分享

合集｜近百份教育前沿报告（附下载）

全球报告！一文读懂AI人才培养与教育政策新走向（附下载）｜一读·有料

最新！人工智能影响力报告来了！（附下载）｜一读·有料

一文读懂斯坦福《2024年人工智能指数报告》（可下载）｜一读·有料

一文读懂四种不同类型的审核评估自评报告（附下载合集）｜新一轮审核评估

中美元首会晤，或将扭转报告中的这一数据（内附门户开放报告中英版） | 一读·有料

（内附报告完整版）深度解析这个国际组织发布的“四大教育报告”｜一读·有料

（内附报告原文）国际教育政策新动向｜一读·有料

预聘制不背锅！这才是预聘制的真相｜高校规划决策参考

深度报告（内附报告中文版）丨《2023地平线报告》：AI袭来，教育该如何应对？

（内附报告中文版）最新！美国教育部教育技术办公室发布《人工智能与教学的未来》报告｜一读·有料

不搞“非升即走”？如何设计科学的高校教师聘任与评价制度（附《全球高校人事制度专题研究报告》）