当前位置:首页|资讯|微软|人工智能|AI聊天机器人

“聊天事故”频发,微软开始出手

作者:深圳商报发布时间:2023-02-18

原标题:“聊天事故”频发,微软开始出手

由于ChatGPT大火,众多互联网巨头纷纷加入这一赛道,从最近的报道来看,这些巨头可能进行得并不顺利。微软新推出的新版搜索引擎必应(Bing)频频出现“聊天事故”,这款基于生成式人工智能(AI)技术的聊天工具在与用户的互动过程中,存在侮辱用户、欺骗用户、操纵用户情感等问题。在发生数次失控事件后,微软开始切断用户与必应之间的长时间对话。

当地时间2月17日,微软公司发布公告称,决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。

微软方面解释说,数据表明,绝大多数用户在5次回复内找到想要的答案,只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制,必应就会开启一个新的对话主题。

当地时间2月7日,微软宣布推出搭载了AI技术的搜索引擎必应,新版本中引入了OpenAI旗下ChatGPT的相关技术,用户可以直接提出问题,搜索引擎生成答案。

新必应一经推出便吸引了全世界网友的注意力,上线48小时内,就有超过100万人注册测试这款聊天机器人。然而必应的“黑化”来得似乎比人们预想的要早一些,近日,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。

在两天前的一篇博文中,微软介绍说,目前发现当必应回答了15个甚至更多问题后,可能会开始重复或被激怒,进而给出不符合程序设定的回答。

微软认为,这种长时间的、连续的问答可能是导致聊天模型混淆的重要原因。微软表示,未来会考虑扩大上限,并向用户征求意见。

美国消费者新闻与商业频道(CNBC)报道,微软此前曾表示,改进AI产品的唯一方法,就是将它们推向全世界并从用户交互中学习。

在获利方面,微软也是抓紧机会。 因为在上周的投资者和媒体发布会上,微软表示,在搜索广告市场上每增加一个百分点的市场份额,就能带来20亿美元的广告收入。

据外媒报道称,微软已经把广告公司拉入了群聊,讨论如何用ChatGPT加持的新必应搜索获利。

微软预计,必应AI聊天机器人更人性化的回应将为其搜索功能带来更多用户,从而带来更多广告商

商报君精选

等你来pick→

两天两起事故!特斯拉失控狂飙致一死一伤,官方最新回应!

全员停薪留职?公司紧急回应

211大学毕业生5年存款5000元,母校发出四连问

来源 读创/深圳商报综合自澎湃新闻等

编辑 石展溥

责编 李琰

监制 李志勇

校审 孙世建

点击 在看,让更多朋友看到!


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1