AIGC专题：生成式人工智能服务安全基本要求(附下载）
今天分享的是AIGC系列深度研究报告：《AIGC专题：生成式人工智能服务安全基本要求》。
（报告出品方：全国网络安全标准化技术委员会）
报告共计：13页
海量/完整电子版/报告下载方式：公众号《人工智能学派》
生成式人工智能服务安全基本要求
1 范围：本文件规定了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、 安全措施等，并给出了安全评估要求。 本文件适用于服务提供者开展安全评估、提高安全水平，也可为相关主管部门评判生成式人工智能服务安全水平提供参考。
2规范性引用文件：下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括 所有的修改单）适用于本文件。 GB/T 25069—2022 信息安全技术术语。
3 术语和定义：GB/T 25069—2022界定的以及下列术语和定义适用于本文件。
安全措施要求
对服务提供者的要求如下：
a）模型适用人群、场合、用途方面：
1）应充分论证在服务范围内各领域应用生成式人工智能的必要性、适用性以及安全性；
2）服务用于关键信息基础设施，以及如自动控制、医疗信息服务、心理咨询、金融信息服务等重要场合的，应具备与风险程度以及场景相适应的保护措施；
3）服务适用未成年人的：
—— 应允许监护人设定未成年人防沉迷措施；
—— 不应向未成年人提供与其民事行为能力不符的付费服务；
—— 应积极展示有益未成年人身心健康的内容。
4）服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。
b）服务透明度方面：
1）以交互界面提供服务的，应在网站首页等显著位置向社会公开服务适用的人群、 场合、用途等信息，宜同时公开基础模型使用情况；
2）以交互界面提供服务的，应在网站首页、服务协议等便于查看的位置向使用者公开以下信息：
—— 服务的局限性；
—— 所使用的模型、算法等方面的概要信息；
—— 所采集的个人信息及其在服务中的用途。
3）以可编程接口形式提供服务的，应在说明文档中公开 1）和 2）中的信息。
c）当收集使用者输入信息用于训练时：
1）应为使用者提供关闭其输入信息用于训练的方式，例如为使用者提供选项或语音控制指令；关闭方式应便捷，例如采用选项方式时使用者从服务主界面开始到达该选项所需操作不超过4次点击；
2）应将收集使用者输入的状态，以及 1)中的关闭方式显著告知使用者。
d）图片、视频等内容标识方面，应满足国家相关规定以及国家标准要求。
e）训练、推理所采用的计算系统方面：
报告共计：13页
海量/完整电子版/报告下载方式：公众号《人工智能学派》