当前位置:首页|资讯|ChatGPT|金融

ChatGPT-4:天使与魔鬼的两副面孔

作者:集微网发布时间:2023-03-17

集微网消息,对于刚刚推出的ChatGPT-4,其新模型更精确、更强大,推理能力更强,但也很容易被滥用,对此,“金融时报”专门做了分析。

人们说,科技就是把魔法变成现实。十年前,Siri、Alexa和Cortana等AI数字助理似乎是惊人的发明。如今,微软首席执行官萨蒂亚•纳德拉(Satya Nadella)斥责它们“笨得像块石头”,当今被大肆宣扬的生成型人工智能模型多快会变得同样单调乏味呢?

周二,OpenAI发布了其最新的内容生成模型GPT-4,展示了一些有趣的新功能,比如计算退税。去年11月OpenAI推出了不可思议的ChatGPT聊天机器人,虽然存在令人不安的缺陷,但却引起了轰动。在几个重要的方面,GPT-4给人印象更加深刻。

新的模型更准确、更强大,推理能力更强。ChatGPT很难回答这个问题:劳拉母亲的女儿叫什么名字?但是,正如哲学家Luciano Floridi在实验中发现的那样,当被告知这个问题是一个逻辑谜题时,新的GPT-4模型给出了正确答案:是劳拉,如果你想知道的话。

此外,GPT-4是一个结合了文本和图像的多模态模型。在发布会上,OpenAI的联合创始人格雷格·布罗克曼(Greg Brockman)迅速将一张手写便条的照片变成了一个正常运行的网站,上面有一些糟糕的冷笑话。“为什么科学家不相信原子?”GPT-4问。“因为一切都是他(它)们编造的。”

这些生成性人工智能模型的应用似乎是无限的,这就是为什么风险资本投资者正在向该领域投入大量资金。这些模式也渗透到现有的数字服务中。作为OpenAI的一大投资者,微软已经在其必应搜索引擎中嵌入了 GPT-4。支付公司Stripe使用它来检测网络诈骗。冰岛甚至使用GPT-4来改进当地的语言聊天机器人。为了保护 tölva(意思是数字预言家,表示“计算机”)这个可爱的冰岛单词,这当然是值得的。

文章认为,微软和谷歌这样的大公司将率先大规模部署这些系统,而一些初创企业则看到了为小公司部署这些系统的机会。机器人律师公司DoNotPay是一家反对停车罚单的公司,它的负责人乔希•布劳德(Josh Browder)表示,GPT-4将是一个强大的新工具,帮助用户对抗自动化系统。该公司已经开始着手将其嵌入到一个应用程序中,可以一键对机器人电话发起诉讼。该技术还可以用于质疑医疗账单或取消订阅。“我的目标是把权力还给人们”,布劳德告诉我。

然而,生成性人工智能除了这些积极用途,还存在着不明显的被滥用的现象。人类容易受到伊莱扎效应(Eliza effect)的影响,错误地将人类的思想和情感归于计算机系统。Hugging Face人工智能公司的研究员玛格丽特·米切尔(Margaret Mitchell)警告说,这可能是一种有效的操纵人的方法。

机器学习系统可以合成声音、生成虚假的个性化电子邮件,这已经导致美国冒名顶替诈骗案的激增。去年,美国联邦贸易委员会(Federal Trade Commission)记录了3.6万份关于犯罪分子冒充受害者朋友或家人实施欺诈的报告。机器学习系统也可以用来制造虚假信息。中国监管机构已指示本国科技公司不要提供ChatGPT服务,似乎是担心失去对信息流的控制。

文章指出,关于OpenAI的模型还有很多神秘之处。该公司承认,GPT-4会表现出社会偏见和虚假事实。但该公司表示,它花了6个月时间对GPT-4进行了安全性压力测试,并引入一种被称为“人为反馈强化学习”的过程作为保护。“GPT-4并不完美,”布罗克曼在发布会上说,“但人类也同样不完美。”

围绕生成模型训练的激烈争吵似乎不可避免。一位研究人员一直在定期测试ChatGPT的“偏见”,提示它回答有政治倾向的问题。最初,ChatGPT属于“左翼自由主义者”,但随着模型的调整,它一直在向中立中心靠拢。不过,人工智能研究员大卫•罗扎多(David Rozado)在一篇网络帖子中辩称,互联网上反映出来的偏见和盲点在社会中普遍存在,这很难消除。他总结道: “在最先进的人工智能系统中,政治偏见也不会消失。”。

据科技新闻媒体The Information报道,埃隆•马斯克(Elon Musk)曾是OpenAI的创始人之一,后来退出了该公司。他曾多次批评“唤醒了人工智能”,并正在探索是否推出一个限制性较小的模型。“我们需要的是TruthGPT,”他在推特上写道。这种关于偏见的争吵预示着更大规模的争论。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1