智东西(公众号:zhidxcom)
编译 | 崔馨戈
编辑 | 云鹏
智东西2月22日消息,据《华尔街日报》报道,微软周二宣布,应用户要求,公司将放宽对新版搜索引擎Bing设置的部分限制,把每次聊天对话的问题数量从5个增加到6个,每天最多可以问60个问题。
据悉,微软之所以在上周宣布对新版Bing加以限制,是因为技术人员发现Bing有时会产生明显的错误和令人不安的回复。比如,在某些对话场景中,新版Bing会侮辱、指责用户,甚至还会引导用户的情绪,对其进行精神操控。
一、对话太久容易出错,微软限制Bing对话轮次
微软称,现阶段,新版Bing的模型无法支撑长时间的聊天对话。问题太多,对话时间太长可能会使搜索引擎“混乱”,导致其错误频发,或者作出与设计语气不一致的回应。
其他公司在推出AI(人工智能)工具时也遇到了问题。本月早些时候,谷歌发布了ChatGPT的竞品Bard,该工具在回答一个天文问题时就出现了明显的事实错误。
因此上周微软决定增加对新版Bing使用时的限制,比如每次只能问5个问题,每天最多问50个问题,防止Bing失控。
微软在一篇博客文章中提到,自设置聊天问题上限以来,公司收到了许多人的反馈,用户希望每天可以多问问题,这样就可以更有效地搜索,更好地与聊天机器人互动。
Bing团队从未预想到,许多用户不仅把新版Bing当作搜索引擎,还把它当作探索世界,娱乐生活的工具。
鉴于此,微软宣布要恢复新版Bing长时间的聊天对话模式,把每次聊天的问题数量增加到6个,每天总共60个问题。该公司还表示,计划很快将每天的问题上限提高到100个,并努力以负责任的方式给予用户最好的体验。
二、优化迭代,微软AI工具商业化提速
微软称,新版Bing问题的首次发现不是源于内部测试,而是在面向小部分人的预览使用中,被用户们发现了问题。随后这些用户将问题反馈给技术人员,促进了产品的优化与升级。
在放宽对聊天问题数量限制的同时,微软还将测试一些允许用户改变聊天语气的选项,不同语气对应长短不同的答案,从而使用户获得愉悦的搜索体验。微软说:“我们的目标是让你对聊天行为的类型有更多的控制,以最好地满足你的需求。”
目前,微软向ChatGPT的开发商OpenAI投资了数十亿美元。微软首席执行官萨蒂亚·纳德拉(Satya Nadella)称,他希望将AI工具纳入公司的产品,并迅速将AI工具商业化。
结语:人机交互还有很长的路要走
ChatGPT可以通过学习和理解人类的语言来进行对话,甚至产出新闻报道,编写计算机程序,其诞生在AI世界具有里程碑的意义。然而,它作为一个大型语言模型,数据有偏差,能力有边界,简短而直接的对话尚可支撑,一旦对话变的漫长而复杂,交互次数猛增,就超出了它的“安全边界”,模型变的失控,语气变的不合理,偏离了原本设计者规定好的轨道,无法给用户带来丝滑而自在的体验。
目前,微软正在优化ChatGPT与新版Bing浏览器,试图提高回答的准确性,但真正克服技术瓶颈,管控ChatGPT的“失常现象”,还有很长的路要走。
来源:《华尔街日报》