骗子通过人工智能换脸技术,佯装成好友视频聊天,10分钟内竟从受害者处骗走430万元。近日,内蒙古包头市公安局电信网络犯罪侦查局发布一起使用人工智能技术进行电信诈骗的案件,再次表明人工智能换脸存在巨大隐患,亟待纳入监管。
面对不断增加的人工智能诈骗风险,该怎么办?人工智能作为一种技术手段,由人所创造,为人所使用,也就需要有人来约束。撕掉人工智能画皮,还得靠人的“慧眼”。新兴技术出现,一开始总有人利用普通人对新兴技术的陌生感做不当甚至违法的行为。随着技术越来越普及,普通人对其熟悉度越来越高,监管越来越到位,诈骗手段自然就开始广为人知。目前人工智能的应用正处于从新兴到普及的过程,人的力量自然应该适时介入。
要遏制“人工智能换脸”等人工智能领域的深度合成技术应用乱象,还得多方主体共同发力多管齐下。4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,对生成式人工智能产业给出较为详尽的规定,对用户安全保护已经迈出第一步。此外,监管部门要看到这一问题的严峻性,将监管责任放在前面;也需要做好善后工作,挖出相关产业链,给诈骗行为以震慑。平台和个人也应避免信息泄露,不给骗子留下把柄。
技术是一把双刃剑,拥抱新技术带来的发展与变革,也必须规避可能存在的风险和危险。既然有人在用它图谋不轨,就必须为这把剑装上剑鞘,这是为了保护剑,也是为了保护人。 据北京晚报