当前位置:首页|资讯|人工智能

AI换脸骗局频现 人工智能出圈后如何监管?

作者:通信信息报发布时间:2023-06-16

原标题:AI换脸骗局频现 人工智能出圈后如何监管?

(图片来源:摄图网)

(记者 卢臻)“10分钟被骗430万”,日前,包头警方发布的一起利用AI实施通信诈骗的案例冲上热搜。随着ChatGPT的火爆,关于AI技术的争论就不曾停止过,如何应对人工智能可能带来的安全问题成为各界关注点,也成为网络安全工作的下一个着力点。

人工智能产业发展迅速,潜藏安全风险引担忧

随着信息技术的不断进步,人工智能产业成为各大行业的“兵家必争之地”,许多企业涌入人工智能领域想“分一杯羹”。虽然资本的持续注入让人工智能产业迅速发展,但在快速发展的光环下,安全隐患也引起了许多人的担忧。

自2019年“ZAO”软件应用AI换脸技术成为网络舆论焦点后,该技术也进入大众视野中。随着AI的迅速发展,AI 换脸技术门槛逐渐降低,应用场景越来越多,在满足人们猎奇、美颜、社交等需求的同时,因AI换脸引发的争议乃至违法犯罪行为屡见不鲜。

实际上,除了AI换脸,骗子还可以利用人工智能的其他功能来进行犯罪。例如,利用相关人员声音素材进行合成,实施语音诈骗,或者通过AI算法,对人群进行筛选,从而实施精准诈骗。

未雨绸缪筑牢安全防护墙

在人工智能发展过程中,要坚持安全可靠和创新发展并重,筑牢安全防护墙,应对人工智能带来的安全风险亟须未雨绸缪。

随着技术的不断演进,我国相关法律和政策也在不断发展和完善。去年,国家互联网信息办公室正式公布《互联网信息服务深度合成管理规定》,对于深度合成技术在互联网中的应用作出具体说明与严格规定,对人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像的开发与应用作出了规定, 为AI 换脸等深度合成技术的应用厘清底线。

除了法律方面,用高新技术来防范网络安全的风险也十分重要。例如,中国电信拥有运营商级的底层数据能力及强大的数据模型团队,其已形成9000+个欺诈模型,可实现反诈预警数据的全流程数智化管理。

“黑科技”防诈

AI技术的发展过程中,虽然会被许多“别有用心”之人利用AI漏洞进行诈骗,然而AI技术的革新也让防诈和反诈更加容易。

依托AI智能、大数据等能力技术,中国电信打造了96110“翼安反诈”云平台,包括智能预警、智能拦截、智能分析、智能外呼功能,为用户提供多形态全方位反诈治理服务。在广东,中国电信广东公司为用户提供“来电名片”和“闪信提醒”服务,在用户收到不明信息或来电时,通过闪信、电话等方式及时提醒,仅2022年,累计发送闪信提醒5642万次,挽回经济损失超过11亿元,切切实实保障广大人民群众利益。

正如硬币的正反两面,每一次技术变革在带来福祉的同时,也经常伴随风险。风险促使我们深入思考,但不能因噎废食。要因势利导,使其趋利避害,应是全行业未来努力的方向。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1