生成式AI安全指导性文件征求意见 明确五类安全风险
中新经纬10月12日电 据全国信息安全标准化技术委员会网站消息，日前，全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。
《基本要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平，或是提供者自行或委托第三方开展安全评估，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。
《基本要求》明确，生成式人工智能服务是基于数据、算法、模型、规则，能够根据使用者提示生成文本、图片、音频、视频等内容的人工智能服务。
来源：全国信息安全标准化技术委员会网站
在语料内容安全，《基本要求》提出了三大内容：
一是训练语料内容过滤方面：应采取关键词、分类模型、人工抽检等方式，充分过滤全部语料中违法不良信息；
二是知识产权方面，应设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略。语料用于训练前，知识产权相关负责人等应对语料中的知识产权侵权情况进行识别，提供者不应使用有侵权问题的语料进行训练等。
三是个人信息方面，应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件等。
安全措施要求上，《基本要求》特别提出，服务适用未成年人的，应允许监护人设定未成年人防沉迷措施，并通过密码保护；限制未成年人单日对话次数与时长，若超过使用次数或时长需输入管理密码；需经过监护人确认后未成年人方可进行消费；为未成年人过滤少儿不宜内容，展示有益身心健康的内容。同时，服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。