ChatGPT-4：天使与魔鬼的两副面孔

集微网消息，对于刚刚推出的ChatGPT-4，其新模型更精确、更强大，推理能力更强，但也很容易被滥用，对此，“金融时报”专门做了分析。

人们说，科技就是把魔法变成现实。十年前，Siri、Alexa和Cortana等AI数字助理似乎是惊人的发明。如今，微软首席执行官萨蒂亚•纳德拉（Satya Nadella）斥责它们“笨得像块石头”，当今被大肆宣扬的生成型人工智能模型多快会变得同样单调乏味呢？

周二，OpenAI发布了其最新的内容生成模型GPT-4，展示了一些有趣的新功能，比如计算退税。去年11月OpenAI推出了不可思议的ChatGPT聊天机器人，虽然存在令人不安的缺陷，但却引起了轰动。在几个重要的方面，GPT-4给人印象更加深刻。

新的模型更准确、更强大，推理能力更强。ChatGPT很难回答这个问题：劳拉母亲的女儿叫什么名字？但是，正如哲学家Luciano Floridi在实验中发现的那样，当被告知这个问题是一个逻辑谜题时，新的GPT-4模型给出了正确答案：是劳拉，如果你想知道的话。

此外，GPT-4是一个结合了文本和图像的多模态模型。在发布会上，OpenAI的联合创始人格雷格·布罗克曼（Greg Brockman）迅速将一张手写便条的照片变成了一个正常运行的网站，上面有一些糟糕的冷笑话。“为什么科学家不相信原子？”GPT-4问。“因为一切都是他（它）们编造的。”

这些生成性人工智能模型的应用似乎是无限的，这就是为什么风险资本投资者正在向该领域投入大量资金。这些模式也渗透到现有的数字服务中。作为OpenAI的一大投资者，微软已经在其必应搜索引擎中嵌入了 GPT-4。支付公司Stripe使用它来检测网络诈骗。冰岛甚至使用GPT-4来改进当地的语言聊天机器人。为了保护 tölva（意思是数字预言家，表示“计算机”）这个可爱的冰岛单词，这当然是值得的。

文章认为，微软和谷歌这样的大公司将率先大规模部署这些系统，而一些初创企业则看到了为小公司部署这些系统的机会。机器人律师公司DoNotPay是一家反对停车罚单的公司，它的负责人乔希•布劳德（Josh Browder）表示，GPT-4将是一个强大的新工具，帮助用户对抗自动化系统。该公司已经开始着手将其嵌入到一个应用程序中，可以一键对机器人电话发起诉讼。该技术还可以用于质疑医疗账单或取消订阅。“我的目标是把权力还给人们”，布劳德告诉我。

然而，生成性人工智能除了这些积极用途，还存在着不明显的被滥用的现象。人类容易受到伊莱扎效应（Eliza effect）的影响，错误地将人类的思想和情感归于计算机系统。Hugging Face人工智能公司的研究员玛格丽特·米切尔（Margaret Mitchell）警告说，这可能是一种有效的操纵人的方法。

机器学习系统可以合成声音、生成虚假的个性化电子邮件，这已经导致美国冒名顶替诈骗案的激增。去年，美国联邦贸易委员会（Federal Trade Commission）记录了3.6万份关于犯罪分子冒充受害者朋友或家人实施欺诈的报告。机器学习系统也可以用来制造虚假信息。中国监管机构已指示本国科技公司不要提供ChatGPT服务，似乎是担心失去对信息流的控制。

文章指出，关于OpenAI的模型还有很多神秘之处。该公司承认，GPT-4会表现出社会偏见和虚假事实。但该公司表示，它花了6个月时间对GPT-4进行了安全性压力测试，并引入一种被称为“人为反馈强化学习”的过程作为保护。“GPT-4并不完美，”布罗克曼在发布会上说，“但人类也同样不完美。”

围绕生成模型训练的激烈争吵似乎不可避免。一位研究人员一直在定期测试ChatGPT的“偏见”，提示它回答有政治倾向的问题。最初，ChatGPT属于“左翼自由主义者”，但随着模型的调整，它一直在向中立中心靠拢。不过，人工智能研究员大卫•罗扎多（David Rozado）在一篇网络帖子中辩称，互联网上反映出来的偏见和盲点在社会中普遍存在，这很难消除。他总结道: “在最先进的人工智能系统中，政治偏见也不会消失。”。

据科技新闻媒体The Information报道，埃隆•马斯克（Elon Musk）曾是OpenAI的创始人之一，后来退出了该公司。他曾多次批评“唤醒了人工智能”，并正在探索是否推出一个限制性较小的模型。“我们需要的是TruthGPT，”他在推特上写道。这种关于偏见的争吵预示着更大规模的争论。