当前位置:首页|资讯|人工智能

生成式人工智能有哪些安全问题?vivo 首席安全官谈AI挑战

作者:新京报发布时间:2023-09-06

原标题:生成式人工智能有哪些安全问题?vivo 首席安全官谈AI挑战

“生成式人工智能要解决四个方面的安全问题,分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。”vivo 首席安全官鲁京辉在日前举办的亚马逊云科技 re:Inforce 2023 中国站上如是说。

对于生成式 AI 在安全层面给企业带来的挑战与机遇。鲁京辉表示,生成式人工智能对交互和体验上带来的变革毋庸置疑。但是作为一个终端厂商,如何利用手机算力平台去做好这件事其实也是一个很大的挑战。“我们聚焦于作为一个智能手机厂商必须做好的工作。其它工作则是通过合作伙伴的赋能。”

vivo 首席安全官鲁京辉。受访者供图

生成式人工智能要解决四个方面安全问题

亚马逊云科技认为,安全是构建生成式AI不可回避的重要议题,企业只有在AI旅程中做好数据、模型和应用的安全防护,才能更好地借助AI加速业务创新。在鲁京辉看来,AI和安全的关系,一个是AI for Security,一个是Security for AI。

鲁京辉认为,生成式人工智能要解决四个方面的安全问题,分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。比如,对于内生安全的问题,其核心是要做好相应管理的基线、管理的流程/制度/规范/工具支撑,做好数据源头的可控。

“推动人工智能行业的健康、有序、可持续发展,必须重视数据安全和个人信息保护,二者是人工智能有序可持续发展的“基石”。”鲁京辉提到,vivo的安全战略是“PROTECT”,即:数据隐私保护、数据风险管理、产品对象安全、关键安全技术、安全工程和合规管理、安全攻防。在技术实践上面,vivo抽象出来千镜安全范式。“我们是以整个千镜安全架构为核心,通过安全技术、安全工程、安全攻防来形成整体的能力建设的技术主架。”

生成式人工智能落地到手机上面临诸多挑战

鲁京辉介绍称,vivo作为一个终端厂商,在AIGC时代对生成式人工智能的应用,第一是对内部提效,第二是要构建生成式人工智能的产品和服务提供给用户。

他还强调称,生成式人工智能对交互和体验上带来的变革毋庸置疑。但如何充分利用手机算力平台去做好这件事其实是一个很大的挑战。实验室的成果真正落地到手机上还要考虑很多工程性的问题,比如说功耗、内存的使用、用户体验等方面。

鲁京辉表示,vivo比较聚焦于作为一个智能手机厂商,在提供生成式人工智能服务的时候必须做好的工作。其它工作则是通过合作伙伴的赋能。”“单纯一个厂商是无法构建一个健康、有序的生成式人工智能生态的。我们借助亚马逊云科技的多种安全服务,例如威胁检测与事件响应(Amazon GuardDuty)、身份认证与访问控制(Amazon IAM)、网络与基础设施安全(Amazon WAF)、数据保护与隐私(Amazon CloudTrail)和风险管控及合规(Amazon Trusted Advisor)等相关服务,去构建相应的云上数据安全。”鲁京辉说。

新京报贝壳财经记者 孙文轩

编辑 岳彩周

校对 柳宝庆


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1