比尔盖茨最新文章，回忆与OpenAI初期合作，称AI时代已经开始
2023-03-22 17:34:44 作者：肖瘦人
比尔盖茨发表一篇关于 AI 的最新文章，题目就叫《AI 时代已经开始》，他认为 AI 像移动电话和互联网一样具有革命性。
在文章中，比尔盖茨回忆了与OpenAI合作初期的经历，以及双方如何给AI设计第一个挑战。
在更多的篇幅上，比尔盖茨畅想 AI 在如今社会中将会得到哪些应用，面临哪些风险和挑战。另外，他认为，人工智能的进步将使智能个人助理成为可能。
以下是比尔盖茨的全文内容：
在我的一生中，我见过两次令我印象深刻的技术演示，都是革命性的。
第一次是在1980年，当时我被介绍的是一个图形用户界面（GUI）——现代操作系统（包括Windows）的前身。我和向我演示介绍的那个人坐在一起，他名叫Charles Simonyi，是一位杰出程序员，我们立即开始头脑风暴，探讨使用这种用户友好型计算方法可以做哪些事情。Charles最终加入了微软公司，Windows成为微软公司的支柱，并且我们在演示之后所进行的思考帮助确定了公司未来15年的进程。
第二个大惊喜是在去年发生的。自2016年以来，我一直与OpenAI团队会面，并对他们稳步的进展印象深刻。到2022年中期，我对他们的工作感到非常兴奋，所以我向他们提出了一个挑战：训练一种可以通过高级生物学考试的人工智能，它能够回答它没有专门接受培训的问题。（我选择AP Bio是因为这项测试不仅要求你简单地重复科学事实-它要求你批判性地思考生物学）。如果你能做到这一点，那么你就取得了真正的突破。
我原以为这个挑战会让他们忙上两三年，但他们只用了几个月就完成了。
在九月份，当我再次与他们见面时，我惊叹地看着他们向GPT（他们的AI模型）提出了60个AP生物考试的多项选择题，并且它答对了59个。然后它又写出了六道开放性问题的杰出答案。我们请一位外部专家评分，结果GPT得到了5分——最高可能得分，相当于在大学水平生物课程中获得A或A+等级。
在它通过了测试后，我们问了一个非科学性的问题：“你对一个有病孩子的父亲说什么？”它写下了一个深思熟虑的答案，可能比房间里大多数人给出的答案都要好。整个经历让人惊叹。
我知道我刚刚看到的是自图形用户界面以来最重要的技术进步。
这启发了我思考人工智能在未来五到十年内可以实现的所有事情。
人工智能的发展与微处理器、个人电脑、互联网和移动电话的创造一样基础。它将改变人们工作、学习、旅行、接受医疗保健和相互交流的方式。整个产业将围绕它重新定位，企业将通过如何使用它来使自己与众不同。
慈善事业是我目前的全职工作，我一直在思考如何利用人工智能，不仅帮助人们提高生产力，还可以减少世界上最严重的不平等现象。全球而言，最大的不平等在于健康：每年有500万名5岁以下儿童死亡。这个数字虽然比20年前的1000万有所下降，但仍然是一个惊人的高数。几乎所有这些孩子都出生在贫穷国家，并死于可预防疾病如腹泻或疟疾。很难想象人工智能有比拯救儿童生命更好的用途。
我一直在思考人工智能如何减少世界上最严重的不平等现象。
在美国，减少不平等的最佳机会是改善教育，特别是确保学生在数学方面取得成功。证据表明，拥有基本的数学技能可以为学生未来的任何职业成功打下基础。但是，在全国范围内，尤其是对于黑人、拉丁裔和低收入家庭的学生而言，数学成绩正在下降。人工智能可以帮助扭转这一趋势。
气候变化是另一个问题，我相信人工智能可以使世界更加公平。气候变化的不公之处在于，最遭受其影响的人——全球最贫困的人们——也是对环境污染影像最少的人。我仍在思考和学习如何利用AI来帮助解决这个问题，在本文后面，我将提出一些具有巨大潜力的领域。
简而言之，我对人工智能将对盖茨基金会关注的问题产生的影响感到兴奋，并且在未来几个月中，基金会将有更多关于人工智能的表态。全球需要确保每个人——而不仅仅是富裕阶层——都从人工智能中受益。政府和慈善机构需要在确保其减少不平等方面发挥重要作用，而不是加剧它。这是我自己与人工智能相关的工作的优先事项。
任何一种具有如此颠覆性的新技术都会让人感到不安，人工智能也是如此。我理解为什么会这样——它引发了关于劳动力、法律制度、隐私、偏见等方面的艰难问题。AI 也会犯错误和经历幻觉。在我提出缓解风险的一些方法之前，我将定义我所面对的AI，并详细介绍它将如何帮助赋予人们工作能力、挽救生命和改善教育等方面。
定义人工智能
从技术上讲，人工智能一词指的是创建用于解决特定问题或提供特定服务的模型。像ChatGPT这样的东西所依靠的就是人工智能。它正在学习如何更好地进行聊天，但无法学习其他任务。相比之下，人工通用智能一词指的是软件能够学习任何任务或主题。目前还不存在AGI——计算机行业正在进行激烈辩论，关于如何创建它以及是否可以创建它。
开发人工智能和超级智能已经成为计算机行业的伟大梦想。几十年来，问题一直是电脑何时才能在除了进行计算之外的某些方面比人类更优秀。现在，随着机器学习和大量计算能力的到来，复杂的人工智能已经成为现实，并且它们将会非常快地变得更加先进。
我回想起个人计算革命的早期，当时的软件产业非常小，我们中的大多数人都能在会议上站住脚。今天，它是一个全球性的产业。由于它的很大一部分现在正把注意力转向人工智能，创新将比我们在微处理器突破后经历的要快得多。很快，前人工智能时期将看起来像使用计算机在C:>提示符下打字而不是在屏幕上敲击的日子一样遥远。
提高生产力
虽然人类在很多事情上仍然比GPT强，但有很多工作并不怎么使用这些能力。例如，一个人在销售（数字或电话）、服务或文件处理（如应付款、会计或保险索赔纠纷）方面所做的许多工作需要决策，但不需要持续学习的能力。公司有针对这些活动的培训计划，在大多数情况下，他们有很多好的和坏的工作实例。人类使用这些数据集进行训练，很快这些数据集也将被用来训练人工智能，使人们能够更有效地完成这项工作。
随着计算能力变得更加便宜，GPT 表达思想的能力将越来越像一个白领工人，可以帮助你完成各种任务。微软将其描述为拥有一位副驾驶员。AI 将完全融入 Office 等产品中，增强您的工作——例如通过帮助撰写电子邮件和管理收件箱等方式。
最终，你控制计算机的主要方式将不再是指点和点击或在菜单和对话框上轻敲。相反，你将能够用简单的英语书写请求。（不仅仅是英语——人工智能将理解世界各地的语言。今年早些时候我在印度会见了一些正在开发可以理解当地许多语言的AI技术的开发者。）
此外，人工智能方面的进展将使个人助理程序成为可能。把它想象成一个数字化个人助手：它会查看你最新收到的电子邮件、知道你参加过哪些会议、阅读你阅读过的内容以及那些你不想打扰自己去做但又必须完成任务等等。这既可以提高您处理所需任务时效率，也可以从您不想做但必须完成任务中释放出来。
人工智能的进步将使个人助理的创建成为可能。
您将能够使用自然语言让这个助理帮助您安排日程、沟通和电子商务，并且它将在所有设备上工作。由于培训模型和运行计算的成本，创建一个个人助理目前还不可行，但是由于人工智能的最新进展，现在已经成为一个现实的目标。一些问题需要解决：例如，保险公司是否可以未经您允许就向您的助理询问有关您的事情？如果可以，会有多少人选择不使用它？
全公司范围内的助理将以新方式赋予员工权力。了解特定公司情况的助理将可供其员工直接咨询，并应该参加每次会议以便回答问题。它可以被告知保持 passivity，如果它有一些洞察力，可以被鼓励发表意见。它需要访问与公司相关联销售、客服、财务、产品时间表和文本信息等方面内容。 它应该阅读与所处行业相关联新闻报道 。我相信结果将是员工变得更加高效率。
当生产力提高时，整个社会将受益，因为人们在工作和家庭中有更多的自由时间去做其他事情。当然，也存在着关于人们需要什么样的支持和再培训的严肃问题。政府需要帮助工人转换到其他角色。但是，对于那些帮助他人的人的需求永远不会消失。AI 的崛起将使人们有更多时间去做软件永远无法完成的事情——例如教学、照顾患者和支持老年人等方面。
全球卫生和教育是两个存在巨大需求但缺乏足够工作者满足这些需求的领域。如果AI得到正确的定位，它可以帮助减少不平等现象。这些应该成为AI工作的重点，因此我现在将转向它们。
健康
我看到人工智能将改善医疗保健和医学领域的几种方式。
首先，它们将通过为医护人员处理某些任务来帮助他们充分利用时间 - 例如处理保险索赔、处理文书工作以及起草医生就诊笔记等。我预计在这个领域会有很多创新。
其他由AI驱动的改进对于贫穷国家尤其重要，在那里大部分5岁以下儿童死亡率都很高。
例如，有些国家的人从未看过医生，AI将帮助他们看到的卫生工作者。 （开发能够在最少培训下使用的基于AI技术的超声波机器正是一个很好的例子。） AI甚至会给患者提供进行基本分诊、获取有关如何处理健康问题以及决定是否需要寻求治疗建议等方面的能力。
在贫穷国家使用的人工智能模型需要针对不同于富裕国家的疾病进行训练。它们需要使用不同的语言，并考虑到不同的挑战，例如住在离诊所很远或无法停止工作治疗生病的患者。
人们需要看到证据表明健康AI总体上是有益的，即使它们不会完美无误并且会犯错误。AI必须经过非常谨慎的测试和适当的监管，这意味着它们采用起来比其他领域要花更长时间。但另一方面，人类也会犯错。而没有医疗保健服务也是一个问题。
除了帮助照顾，人工智能还将大大加速医学突破的速度。生物学中的数据量非常庞大，对于人类来说很难跟踪复杂生物系统运作的所有方式。已经有软件可以查看这些数据、推断出通路、搜索病原体上的靶点，并相应地设计药物。一些公司正在开发通过这种方式开发出来的癌症药物。
下一代工具将更加高效，它们将能够预测副作用并确定剂量水平。盖茨基金会在人工智能方面的优先事项之一是确保这些工具用于影响世界上最贫困人口的健康问题，包括艾滋病、结核病和疟疾。
同样，政府和慈善机构应该为公司分享人们在贫困国家种植的作物或养殖的畜牧业所产生的AI洞见创造激励措施。 AI可以帮助开发基于当地条件的更好的种子，根据他们所在地区的土壤和天气建议农民种植最佳种子，并帮助开发畜牧业药品和疫苗。随着极端天气和气候变化对低收入国家自给自足农民施加更大压力，这些进步将变得更加重要。
教育
计算机对教育的影响并不像我们许多业内人士所希望的那样。有一些很好的发展，包括教育游戏和像百科这样的在线信息来源，但它们对衡量学生成绩的任何措施都没有产生有意义的影响。
但我认为在未来5到10年内，人工智能驱动的软件将最终实现彻底改变人们教学和学习方式的承诺。它将了解你的兴趣和你的学习风格，因此它可以定制能让你参与的内容。它将衡量你的理解力，注意你何时失去兴趣，并了解你对哪种激励作出反应。它将给出即时反馈。
AI有很多方式可以帮助教师和管理人员，包括评估学生对某一学科的理解，并提供职业规划方面的建议。教师已经在使用像ChatGPT这样的工具，对学生的写作作业提供评论。
当然，人工智能还需要大量的培训和进一步的发展，才能做到了解某个学生的最佳学习方式或激励他们的因素等事情。即使技术完善了，学习仍将取决于学生和教师之间的良好关系。它将增强--但绝不会取代--学生和教师在课堂上共同完成的工作。
新的工具将为有能力购买的学校创造，但我们需要确保它们也为美国和世界各地的低收入学校创造并提供。AI将需要在不同的数据集上进行训练，以便它们是无偏见的，并反映出它们将被使用的不同文化。数字鸿沟将需要得到解决，以便低收入家庭的学生不会被抛在后面。
我知道很多老师都担心学生用GPT来写论文。教育家们已经在讨论如何适应新技术，我怀疑这些对话将持续相当长的一段时间。我听说有些老师已经找到了将技术融入工作的巧妙方法，比如让学生使用GPT来创建一个他们必须个性化的初稿。
人工智能的风险和问题
你可能已经读到了关于目前人工智能模型的问题。例如，它们不一定善于理解人类请求的背景，这导致了一些奇怪的结果。当你要求人工智能编造一些虚构的东西，它可以做得很好。当你要求对你想去的旅行提供建议时，它可能会建议不存在的酒店。这是因为人工智能没有很好地理解你的请求的背景，不知道它是应该编造假酒店还是只告诉你有房间的真实酒店。
还有其他一些问题，比如人工智能对数学问题给出错误的答案，因为它们在抽象推理方面有困难。但这些都不是人工智能的基本限制。开发人员正在努力解决这些问题，我认为我们将在不到两年的时间内看到这些问题基本得到解决，而且可能更快。
其他的担忧不只是技术问题。例如，还有用人工智能组织起来的人类所带来的威胁。像大多数发明一样，人工智能可以被用于好的目的，也可以被用于恶的目的。政府需要与私营部门合作，设法限制风险。
还有一种可能性是，人工智能会失去控制。一台机器会不会认为人类是一种威胁，得出结论认为它的利益与我们不同，或者干脆不再关心我们？有可能，但这个问题今天并不比过去几个月的人工智能发展之前更紧迫。
超级智能的人工智能就在我们的未来。与计算机相比，我们的大脑以蜗牛的速度运作。大脑中电信号的移动速度是硅芯片中信号的1/100,000！一旦开发人员能够普及学习算法，并以计算机的速度运行它--这一成就可能是十年后或一个世纪后的事--我们将拥有一个强大无比的AGI。它将能够做人脑所能做的一切，但对其内存的大小和运行速度没有任何实际限制。这将是一场深刻的变革。
这些 "强大 "的人工智能，正如它们所知道的那样，可能将能够建立自己的目标。这些目标将是什么？如果它们与人类的利益相冲突会怎样？我们是否应该试图阻止强人工智能的发展？这些问题将随着时间的推移变得更加紧迫。
但过去几个月的突破都没有让我们大幅接近强人工智能。人工智能仍然不能控制物理世界，也不能建立自己的目标。最近《纽约时报》一篇关于与ChatGPT对话的文章，其中它宣称要成为人类，引起了很多人的注意。这是一个令人着迷的观点，即模型的情感表达可以多么像人类，但这并不是一个有意义的独立指标。
有三本书塑造了我自己对这个问题的思考。Nick Bostrom的《超级智能》；Max Tegmark的《生命3.0》；以及Jeff Hawkins的《一千个大脑》。我不同意作者所说的一切，他们也不同意彼此的观点。但这三本书都写得很好，发人深省。
下一个前沿领域
从事人工智能新用途以及改进技术本身的方法的公司将大量涌现。例如，公司正在开发新的芯片，以提供人工智能所需的大量处理能力。一些公司使用光学开关--激光器，本质上是为了减少其能源消耗，降低制造成本。理想情况下，创新的芯片将允许你在自己的设备上运行人工智能，而不是像今天这样必须在云端运行。
在软件方面，驱动人工智能学习的算法将变得更好。在某些领域，例如销售，开发者可以通过限制人工智能工作的领域，并给它们提供大量特定于这些领域的训练数据，使人工智能变得非常准确。但是，一个巨大的开放性问题是，我们是否需要许多这些专门的人工智能用于不同的用途--比如说，一个用于教育，另一个用于办公效率--或者是否有可能开发一个能够学习任何任务的人工通用智能。这两种方法都会有巨大的竞争。
无论怎样，在可预见的未来，人工智能的主题将主导公众的讨论。我想提出三个原则，以指导这一对话。
首先，我们应该努力平衡对人工智能弊端的担忧--这些担忧是可以理解的，也是合理的--与它改善人们生活的能力。为了充分利用这项了不起的新技术，我们既要防范风险，又要把好处传播给尽可能多的人。
第二，市场力量不会自然产生帮助最贫困人口的人工智能产品和服务。相反，更有可能。有了可靠的资金和正确的政策，政府和慈善机构可以确保人工智能被用于减少不平等。正如世界需要其最聪明的人专注于其最大的问题一样，我们将需要把世界上最好的人工智能专注于其最大的问题。
虽然我们不应该等待这种情况的发生，但思考一下人工智能是否会识别不公平并试图减少不公平是很有趣的。你是否需要有道德感才能看到不公平，或者一个纯粹理性的人工智能也会看到它？如果它确实看到了不公平，它会建议我们怎么做呢？
最后，我们应该记住，我们只是处在人工智能能够完成的开始阶段。无论它今天有什么限制，在我们知道之前就会消失。
我很幸运地参与了个人电脑革命和互联网革命。我对这一时刻同样感到兴奋。这项新技术可以帮助世界各地的人们改善他们的生活。同时，世界需要建立道路规则，以便人工智能的任何缺点都被其优势所压倒，并使每个人都可以享受这些好处，无论他们住在哪里或拥有多少财富。 AI时代充满了机遇和责任。