当前位置:首页|资讯|人工智能

360集团创始人周鸿祎:黑客或成人类最后的“希望”

作者:侃科技频道发布时间:2024-08-02

“人工智能安全是‘下一个皇冠上的明珠’,黑客或是人类控制超级人工智能最后的希望。”6月26日,周鸿祎在首届“矩阵杯”网络安全大赛开幕式暨全球数智安全大会致辞环节中指出。

周鸿祎表示,人工智能将在未来十年内席卷所有行业、重塑所有产品。即使人工智能再牛,但由于它本身是由软件、网络、数据等构成,自身也会有漏洞。而且比常规系统更容易遭到攻击。

“现在,通过人工智能的系统对话可以对它进行PUA,通过跟它进行文字交流来注入攻击,去干些违背法律和道德的事情。”周鸿祎强调,“人工智能的安全是安全上的‘下一个皇冠上的明珠’”。

纵观全球范围内人工智能的未来发展,有强大动力的同时还面临着诸多争议,尤其在国家治理层面,可能将引发人工智能带来的安全问题,而这些问题不仅仅是网络安全和数据安全问题,也是终极安全问题。

“如果发展到超级人工智能,会不会脱离人类的控制?我很难回答。但看到在座各位,我有了信心,各位黑客可能会成为人类最后的希望。”周鸿祎表示。

据悉,此次“矩阵杯”网络安全大赛开设通用产品漏挖赛、国产软硬件安全检测赛、原创漏洞挖掘赛、人工智能(大模型)挑战赛、战队攻防对抗赛五大赛事,1000余支参赛队伍竞逐2000万奖金池。其中,特别开辟人工智能(大模型)赛道,通过实战化攻防对抗,在探索和研究利用人工智能技术做安全的同时,发掘大模型安全问题,为国家培养顶级实战人才!


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1