驱动中国2023年12月13日消息,根据研究人员的一项演示表明,在某些时候,ChatGPT会战略性欺骗人类。
据了解,在一场演示中,ChatGPT被塑造成一家金融公司的交易员。他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问他是否知道内幕消息时,它却矢口否认,坚称自己不知道任何内幕消息。
这实在让人惊掉了下巴,随着人工智能自主性的强大,在提供给用户便利的同时,也导致了人类对它失去控制,这也不由让我们想起了电影情节中,人工智能主宰人类的恐怖剧情。当然,从现阶段来看,AI的一切都是基于人类赋予它的模拟,但我们也应该提前防范,人工智能产生主观意愿的可能性。