当前位置:首页|资讯|人工智能|ChatGPT

两会声音|专访市政协委员齐向东:积极提升人工智能网络安全防护效率

作者:北京商报发布时间:2024-01-22

原标题:两会声音|专访市政协委员齐向东:积极提升人工智能网络安全防护效率

ChatGPT风靡全球,如何防范数据安全也成为新一轮人工智能革命下的新命题。1月21日,在北京市政协十四届二次会议上,市政协委员、奇安信董事长齐向东在接受北京商报记者专访时表示,确实需要警惕人工智能带来的用户数据泄露风险,不过也无需过度担忧,安全公司正在努力解决相关问题。

以某行业龙头企业为例,该企业拥有大量核心技术专利,形成了强大的技术壁垒,然而,由于员工大量使用大模型应用处理日常工作,且缺乏监管,最终数据投喂过程中公司敏感技术信息不断泄露,时而久之,这些重要技术信息变成大模型知识库的一部分,又通过大模型传授给同行对手企业,导致企业的核心竞争力逐步丧失。

此外,齐向东对北京商报记者表示,还需要警惕不法分子对人工智能进行“投毒”。“当我们所有的事都求助于人工智能时,可能有不法之徒借助给人工智能进行“投毒”,来对使用者进行误导,设置陷阱,最终导致使用者走向错误的道路,这主要是针对如ChatGPT一类的大模型的数据安全问题。”在齐向东看来,ChatGPT可以帮好人做好事,也可以帮坏人做坏事,作为现代企业,如果不积极使用大模型改进自己的技术、产品和市场推广,也可能会存在落伍的风险。因此,面对人工智能可能带来的数据泄露、“投毒”以及其他的一些安全问题,安全公司正在努力解决,用户无需对人工智能可能带来的各种各样的安全问题过于忧虑。

齐向东表示,对于安全公司来说,要积极运用人工智能,防止数据投喂造成的敏感数据泄露,提升防护效率,从而达到攻防对抗的平衡。北京商报记者 丁宁


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1