参考消息网4月1日报道据法新社旧金山3月30日报道,美国米德朱尼实验室(Midjourney)已经暂停了其图像生成软件的免费试用服务,此前有用户利用该软件制作了包括美国前总统唐纳德·特朗普遭逮捕以及教皇方济各身穿羽绒服的以假乱真的深度伪造图片。
Midjourney在30日以一则提示对试用请求作出回复,称目前无法提供此项服务,并请用户择日再试。
利用这一人工智能平台制作的图片——尤其是在网上不胫而走的特朗普和罗马教皇的图片——已经让这家总部在旧金山的实验室处于众目睽睽之下。
Midjourney创始人戴维·霍尔兹本周通过公司在Discord社交平台上的频道发帖说:“由于同时出现的异乎寻常的需求和对试用权限的‘滥用’,我们将暂时取消免费试用服务,直到我们对系统的下一步改进得到实施。”
这项服务可根据用户作出的书面提示生成看起来惟妙惟肖的图像。
自该服务于2022年年中以测试模式推出以来,这家独立实验室不断对这一软件进行升级。用户们对于最新版本Midjourney软件提升了所生成图像的逼真度交口称赞。
在对新的免费试用服务踩下刹车的同时,Midjourney还禁止了某些字眼——例如“被捕”——被用于图像创作提示。
Midjourney软件30日拒绝了法新社记者提交的生成一幅前总统特朗普在纽约特朗普大厦前被捕图片的请求。该软件弹出的一则提示称:“‘被捕’一词是禁用的。绕开本过滤程序从而违反本公司的规定,可能导致你的权限被取消。”
亿万富翁企业家、推特公司老板埃隆·马斯克和各界专家3月29日呼吁暂停开发功能强大的人工智能系统,以便有时间确保它们是安全的。到目前为止已有超过1000人——其中包括苹果公司联合创始人史蒂夫·沃兹尼亚克——签署了这封公开信。引发此举的是GPT-4人工智能平台的发布。该平台由得到微软公司支持的开放人工智能研究中心所开发。
在该公开信上签名的加拿大人工智能先驱约舒亚·本希奥在蒙特利尔举行的视频记者会上警告说,“社会还没有准备好”接受这种性能强大的工具及其可能的滥用。他说:“让我们慢慢来。让我们确保建立更好的护栏。”