ChatGPT，未来是星辰大海还是垃圾遍野？
1
OpenAI的对话式人工智能『ChatGPT』震撼了地球，因为似乎终于有一项工具横空出世，能够和人类自然接洽、形成自然对话了。
未来的一切，都可能深远改变。借用国内微信公众号平台上曾经一度疯传的一篇文章的语言风格，就是『每个人都能感受到，一场深刻的变革正在进行！』…
然而，这款AI呱呱坠地之声还未来得及消散，人们对其未来沦为虚假信息的强力扩音器的潜力已经开始担忧、因为无论对错真伪，其文风作为一般叙述已经十分自然、真假难辨。换言之，在滥用的情况下，她真有可能成为一台24小时造粪机器，而且除了电费之外甚至可以不要钱。
譬如在开放使用之初，有日本记者让她写一段内容本身属于最简单范畴的『美国加州天气』的150字短文，她能瞬间回馈一段127字的帖子。未料想气温这个最关键要素却不正确，然而行文流畅格式良好，若不较真一眼看去毫无违和感。之所以会有错误，是因为ChatGPT使用了2021年之前的训练数据，意味着在反映当前事件方面可能出现偏差。
路透社报道，ChatGPT发布两个月后全球用户数已迅猛突破一亿，一跃成为历史上传播速度最疯狂的应用。开发这款AI的OpenAI于2015年在旧金山成立，埃隆·马斯克等进行了投资，身为CEO的Sam Altman的雄心壮志是——开发在所有领域均超过人类能力的『通用人工智能』。
紧接着，微软CEO立即宣布其搜索引擎Bing将内嵌ChatGPT，搜索栏里可以输入长达1000字符的文本、适用大约100种语言，于2月之内发布。
20多年来，从来无从撼动的搜索帝国谷歌似乎第一次遭遇兵临城下的险境，以至于名刊『经济学人』最近一期用了一个十分猛烈夸张的封面配图。
谷歌突然的落后，背后似乎有两个原因。一是任何企业发展壮大到一定程度之后难以避免的宿命：大企业病。而另一头可能是鉴于对AI潜在风险的谨慎，谷歌在AI的这一领域似乎向来持谨慎态度，虽然谷歌自身一直都是全球AI的引领者之一。
谷歌内心一定是心急火燎了。就在微软发布超震撼新闻的前一天，谷歌发表了自己名为Bard的AI。然而不祥之兆出现：刚发表，就被人指出输出内容存在谷歌水准不应该有的关键低级错误，致其股票大幅下跌。
其实某种意义上，谷歌还算好的。其他顶部巨头如亚马逊，因使用基于AI的人脸识别技术的准确性问题饱受诟病，最终退出。这可能是谷歌和Meta这样的头部老牌对于AI的导入不得不谨慎的原因：媒体、公众舆论和政府管制24小时全天候监控，压力山大。
相形之下，OpenAI这样的Startup（初创）反而可能没有包袱，野蛮蹿升，恰如当年初创时期的谷歌、Meta、亚马逊。
ChatGPT代表的AI眼前的星辰大海说不定有太阳系这么大，远不仅限于符合人类体验的自然文本——从生成代码、商业策划、设计插图到药物筛选、半导体设计，浸润到人类文明的每一个要害部位。根据Grand View Research的数据，到2030年，该领域市场预计将增长到1093亿美元。
可是显而易见的是，虚假信息、垃圾信息完全也能如造粪机器般涌现，而且未来越来越会以一眼看去更加自然舒适妥帖可信的方式投喂，无论是文本、图像还是视频。而你只要想象一下，之前的视频造假工具DeepFake就已经将地球上多少人玩弄于股掌之间，你就能大概明白将来世界上信息的良莠不齐将会扩展到什么地步。
万一搞不好，除了头部精英，大多数甚至绝大多数普通人类将来不仅可能无法受益，而且面临浑然不觉中被驱赶进一个又一个舒适如凡尔赛宫的系统性投喂下的信息猪圈里。
调查网上虚假错误信息的美国公司NewsGuard最近发表了一份报告，题为『下一款强大虚假错误信息传播工具——ChatGPT将如何以前所未有的规模传播错误有害信息』。该公司让Chat GPT基于新冠和枪击的虚假信息生成内容，结果反馈回来的100个文本内容中80%包含虚假信息。
其实OpenAI的CEO自己也承认并警告，ChatGPT的功能目前还极其有限，靠她去应对重要事务是错误的。
一头是发力的AI，另一头是提高公众AI素养以充分了解这一技术的潜能与局限，有眼光的人都知道刻不容缓。国际上已有呼声建议建立一个独立国际机构、独立于政府和企业利益，专门负责为AI制定约束标准。其中就有从事AI训练数据交易的服务机构Define.AI的CEO Daniela Braga。
但到了这里我就在想，这。。。真要有第三方独立机构，国内还怎么玩下去？但就打住不多说了。
2
话说北密歇根大学的哲学教授Antony Aumann去年12月在批改世界宗教课程的essay时，一名学生的文章引起了他的关注。文章的选题是『关于禁止穆斯林女性身穿覆盖全身的布卡之举措的伦理问题』。这名学生在行文中使用的语法实在过于完美、文章结构也极其干练，最难能可贵的是想法还非常犀利有洞见。人间有时候会有一大类可以概括为too good to be true的现象，让Aumann不禁生了个心眼，到ChatGPT那里多问了一句：哎，you say say see这论文是不是你写哒？
ChatGPT瞬间回复：『可能性99.9%』。随后再去问这名学生，学生承认了。
Aumann表示，现在美国哲学课堂上，ChatGPT无疑是最热门话题。AI变得越来越聪明，越来越难确定一篇文章的撰写是否借助了AI。而哲学又是一门强逻辑学科，与AI的缘分十分良好，也就是特别适合用AI来应对。他对于ChatGPT抱有一种比较开明开放的心态，认为在大学里禁绝ChatGPT实际上是不现实的，无论人类还是AI都会犯错，无法做到100%可信。正因为AI未来不可能消失，『我们反而有责任引导好学生去妥善利用她』。
他索性自己也在课堂上用了起来。
与此同时，线上教育机构Study.com的一项研究显示，比例高达89%的18岁以上学生表示他们曾使用ChatGPT做作业。而在另一头，又有72%的大学生主动表示，应该在校园里禁用ChatGPT。
事实上，美国现在小学和中学已经开始禁用ChatGPT。譬如纽约市教委会已经禁止在校园网中访问ChatGPT，认为这款工具过于方便快速匹配课堂问题答案，却无法培养学习本身以及未来人生成功所需的批判性思维和解决问题的能力』。洛杉矶和西雅图的学校也在跟进。
魔高一尺道高一丈。利用ChatGPT来遏制靠AI作弊的尝试也在如火如荼地展开。普林斯顿大学22岁学生Edward Tian搞了个名为『GPT Zero』的网站，专门用来评估一篇论文是否是靠ChatGPT写的——只要把文字拷贝到这个网站的输入栏里，它就会立马吐给你看这篇论文用ChatGPT作弊写出来的『概率』。
去看了一下他的网站。十分干净的页面，
页面中央写了一句话：『人类理应了解真相』。