生成式人工智能有哪些安全问题？vivo 首席安全官谈AI挑战
“生成式人工智能要解决四个方面的安全问题，分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。”vivo 首席安全官鲁京辉在日前举办的亚马逊云科技 re:Inforce 2023 中国站上如是说。
对于生成式 AI 在安全层面给企业带来的挑战与机遇。鲁京辉表示，生成式人工智能对交互和体验上带来的变革毋庸置疑。但是作为一个终端厂商，如何利用手机算力平台去做好这件事其实也是一个很大的挑战。“我们聚焦于作为一个智能手机厂商必须做好的工作。其它工作则是通过合作伙伴的赋能。”
vivo 首席安全官鲁京辉。受访者供图
生成式人工智能要解决四个方面安全问题
亚马逊云科技认为，安全是构建生成式AI不可回避的重要议题，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新。在鲁京辉看来，AI和安全的关系，一个是AI for Security，一个是Security for AI。
鲁京辉认为，生成式人工智能要解决四个方面的安全问题，分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。比如，对于内生安全的问题，其核心是要做好相应管理的基线、管理的流程/制度/规范/工具支撑，做好数据源头的可控。
“推动人工智能行业的健康、有序、可持续发展，必须重视数据安全和个人信息保护，二者是人工智能有序可持续发展的“基石”。”鲁京辉提到，vivo的安全战略是“PROTECT”，即：数据隐私保护、数据风险管理、产品对象安全、关键安全技术、安全工程和合规管理、安全攻防。在技术实践上面，vivo抽象出来千镜安全范式。“我们是以整个千镜安全架构为核心，通过安全技术、安全工程、安全攻防来形成整体的能力建设的技术主架。”
生成式人工智能落地到手机上面临诸多挑战
鲁京辉介绍称，vivo作为一个终端厂商，在AIGC时代对生成式人工智能的应用，第一是对内部提效，第二是要构建生成式人工智能的产品和服务提供给用户。
他还强调称，生成式人工智能对交互和体验上带来的变革毋庸置疑。但如何充分利用手机算力平台去做好这件事其实是一个很大的挑战。实验室的成果真正落地到手机上还要考虑很多工程性的问题，比如说功耗、内存的使用、用户体验等方面。
鲁京辉表示，vivo比较聚焦于作为一个智能手机厂商，在提供生成式人工智能服务的时候必须做好的工作。其它工作则是通过合作伙伴的赋能。”“单纯一个厂商是无法构建一个健康、有序的生成式人工智能生态的。我们借助亚马逊云科技的多种安全服务，例如威胁检测与事件响应（Amazon GuardDuty）、身份认证与访问控制（Amazon IAM）、网络与基础设施安全（Amazon WAF）、数据保护与隐私（Amazon CloudTrail）和风险管控及合规（Amazon Trusted Advisor）等相关服务，去构建相应的云上数据安全。”鲁京辉说。
新京报贝壳财经记者 孙文轩
编辑 岳彩周
校对 柳宝庆