陶哲轩宣布主持白宫生成式AI工作组，李飞飞、Hassabis发表演讲

  新智元报道  

编辑：编辑部

【新智元导读】最近，「数学天才」陶哲轩表示，自己将领导白宫生成式人工智能工作组，就当前AI评估并收集意见。在陶哲轩看来，加入工作流的ChatGPT在数学专业领域中，并没有太多增值。

近来，美国总统科技顾问委员会（PCAST）成立了一个生成式人工智能工作组。

值得一提的是，数学天才陶哲轩在这个工作组中担任了co-leader的角色。

陶哲轩在自己的博客发文称，我和Laura Greene共同主持这个生成式人工智能工作组。

他博客中表示，这一小组主要研究生成式人工智能技术在科学和社会产生更广泛的影响，包括流行的基于文本的大语言模型（如ChatGPT），图像生成的扩散模型（如DALL-E2、Midjourney），以及科学应用模型（如蛋白质设计或天气预报)。

陶哲轩主持生成式AI小组

白宫在13日发布的文章中提到，

PCAST成立的生成式AI小组帮助评估人工智能关键机遇和风险，并就如何最好地确保这些技术的开发和部署尽可能公平、负责和安全提供意见。

文末，可以看到工作组的成员中，陶哲轩位列其中。

此外，AMD的首席执行官苏姿丰（Lisa Su）也是这个生成式AI小组中的一员。

根据陶哲轩的博客，生成式AI小组将在5月19日（星期五）举行的PCAST会议期间行公开会议。

直播链接：https://www.whitehouse.gov/pcast/meetings/2023-meetings/

两个专家小组将介绍当下生成式人工智能的情况，最后进行广泛的问答环节。这些发言者包括：

人工智能促进科学:

Anima Anandkumar （加州理工学院 & 英伟达）

Demis Hassabis （Google DeepMind）

李飞飞（斯坦福）

人工智能与社会:

Sendhil Mullainathan （芝加哥）

Daron Acemoglu （麻省理工学院）

Sarah Kreps （康奈尔大学）

此外，陶还提到，工作小组正就如何推进生成式人工智能应用的积极部署，以及如何最好地降低风险，征求公众的意见。

最初关注的是，如何在不牺牲言论自由，发现、抵制、减轻人工智能产生的虚假信息和DeepFake，这是一个富有挑战性的话题。

ChatGPT加入工作流之后

ChatGPT横空出世后，也得到了像陶哲轩这样数学大家的青睐。

在Mathstodon上最新帖子中，分享了自己关于生成式AI工具的看法。

我开始看到自己和当前生成式AI工具之间的比较优势在哪里。对于每天执行的任务，我已经开发了足够的技术来优化我的工作流程，人工智能工具对我来说并没有太多的增值。最明显的是在研究数学方面，但也包括撰写电子邮件。我安装了一个插件，让GPT-4在我点击按钮时写电子邮件回复，但我几乎从未使用它，因为经过几十年的实践，我已经可以快速写出合适的电子邮件回复。

对于那些我有一些专业知识，但很少实践的任务，人工智能工具是有帮助的：通常我可以用它们来创建输出的初稿，然后我可以验证和修改，或至少作为灵感来源使用。在某些情况下，灵感是由于AI的不足，这符合坎宁安法则的精神，但它仍然比我自己尝试解决问题更有成效。这一类的例子包括数据处理，翻译成外语，或以我很少使用的格式写文本（比如公开演讲，规则文件等）。 

对于那些我没有什么专业知识，也不需要极高的质量和可靠的输出的任务，可以简单地询问人工智能工具，并或多或少地听从其建议。 在这里，人工智能的功能是作为传统搜索引擎的一个稍微方便的版本。 

最后，对于那些我不具备专业知识，但又需要质量和可靠性的任务，人工智能和我自己都无法解决，我必须咨询人类专家。比如修理一个复杂、昂贵、精致的设备。

总之，陶哲轩对于生成式AI工具的看法分为四类，值得注意是的是，在他的数学专业领域中并没有太多增值。

对于第三种情况，陶举例让ChatGPT将前一篇文章总结为一个流程图。

ChatGPT提供了文本的描述。陶表示，据推测，未来的多模态GPT将能够直接提供流程图，而不是给出一个文本描述。

对于第二类任务的一个例子：在意识到我可以要求GPT以LaTeX格式输出流程图后，得到了下面的第一张图片，这显然是不完美的。但由于我熟悉LaTeX，手动将其修正为第二张图片并不困难。

很明显，前段时间爆火的ChatPDF，陶也用在工作流中了。

3月，陶表示，自己决定尝试以不同的方式将AI工具纳入我的工作流程。其中就包括ChatGPT、DeepL等工具。

在接下来一段时间中，他经常分享了一些自己使用ChatGPT等工具的体验。

许多ChatGPT隐藏功能都被他挖掘了出来，比如寻找公式、解析代码格式的文档、改写论文语句等等。

比如，ChatGPT有时可以在数学中做一个半成品的语义检索，也就是用它来生成一些提示。

比如，陶哲轩让ChatGPT从描述中识别库默尔定理，它没能给出正确答案，但根据它给出的近似答案（Legendre公式）。

对此，陶哲轩称，人工智能在数学中的作用是提供一个初步的近似答案，然后可以结合传统搜索引擎轻松找到正确答案。

陶哲轩还发现了ChatGPT在处理数学问题时的亮点，能够识别不同语言的数学概念音译版。

另外，可以要求ChatGPT转换从MathSciNet获得的一堆参考文献，并在LaTeX书目环境下将其格式化为\bibitems。

然而ChatGPT 就没有犯错的时候吗？

在一个关于「素数是否无穷多」的证明问题中，陶哲轩发现ChatGPT给出的答案并不是完全正确的。

从另一面看，他发现ChatGPT给出的论证思路是可以被固定下来的，并且这个思路他之前都从未见过。

ChatGPT等AI工具是否加入你的工作流？

参考资料：

https://terrytao.wordpress.com/2023/05/13/pcast-working-group-on-generative-ai-invites-public-input/

https://www.whitehouse.gov/pcast/briefing-room/2023/05/13/pcast-working-group-on-generative-ai-invites-public-input/