中美或将AIGC纳入监管，连ChatGPT也觉得行

为了更加有序、平稳地发展

四个多月时间，并不算太长。但对AI技术领域而言，这期间发生的变化，无不谓是日新月异。

当人们对ChatGPT（GPT3.5）的惊讶还未消淡，OpenAI紧接着发布了更聪明、强大的GPT4。有人说这一前沿技术变革带来的影响，就像是从工业时代跨入信息时代，并朝着移动互联网时代迈进的变化。

在这波前沿AI技术变革刺激下，国内外掀起了生成式AI研发潮。放眼全球，海外微软、谷歌等科技巨头，国内百度、阿里等互联网头部企业，均加入了AI大模型竞赛中。

在2023阿里云峰会上，阿里巴巴集团董事会主席兼CEO张勇宣布，阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造。他认为，面向AI时代，所有产品都值得用大模型重新升级。

但与这场变革相伴而生的问题是，现阶段我们是否做好准备应对前沿AI技术可能造成的影响。而为了进一步促进AI行业健康发展，近期不少国家相继公开征求关于生成式AI服务规范意见。

4月11日，国家互联网信息办公室发布“关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知”。通知第二条提到，研发、利用生成式AI产品，面向中华人民共和国境内公众提供服务的，将适用本办法。

这意味着，国内AIGC行业正步入规范化发展阶段。而就全球趋势来看，相关监管也是异步同趋。

01生成式AI服务管理办法21条

在网信中国发布的“国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知”中，本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

提供生成式AI产品或服务在遵守法律和社会公序方面，应该符合以下五大要求：

1、利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

2、在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

3、尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

4、利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

5、尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

而在《征求意见稿》第六条中明确提到，厂商在利用AI产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

此外，《征求意见稿》其它条例提出，厂商在提供AI服务过程中，需要用户提供真实身份信息、加入防沉迷措施、建立用户投诉接收处理机制等。

某种程度上，这与国内游戏版号审批制度类似。综合来看，本办法若落地实施，意味着中国生成式AI产品将有着严格的审批、监管制度。

从网信中国发布的信息来看，《生成式人工智能服务管理办法》会在2023年内落地实施。这将进一步促进中国AIGC行业健康有序发展。

值得提出的是，除了中国外，一些海外国家也已加速规范化生成式AI的发展与监管。据《华尔街日报》报道，美国商务部4月11日就ChatGPT等相关AI产品服务问责措施正式公开征求意见，包括新AI模型在发布前是否应经过认证程序。征求意见期限为60天。

美国商务部下属国家电信和信息管理局局长艾伦·戴维森表示：“这些AI工具即使在相对初期阶段，也能做到很多令人惊讶的事情。但我们需要设置一些防护，以确保它们被负责任地使用。”

此外，海外其他国家以及一些社会机构也表达了，对新模型AI造成影响的担忧。

02 多国以安全为由严管ChatGPT

其实在OpenAI GPT4发布的第二周，一封名为“Pause Giant AI Experiments：An Open Latter”的公开信就引起了广泛关注。

这封公开信指出，最近几个月，AI大模型实验陷入一场失控的竞赛。

而“Pause Giant AI Experiments”之所以被很多人关注，在于公开信发起者们认为，现阶段的AI公司还没有办法理解、预测或可靠地控制自己创造的大模型。人类社会对其可能造成的影响也没有做好准备。

因此，公开信呼吁，所有的AI实验室应该暂停训练比GPT4更强大的AI模型，为期至少6个月。截至目前，特斯拉 CEO（OpenAI 联合创始人）伊隆・马斯克、图灵奖得主Yoshua Bengio等科技界大拿，已经在这封公开信上签名，总的支持者人数超过20000人。

此外，OpenAI CEO阿尔特曼在公开信发布的第二天表示，要实现通用人工智能繁荣的未来需要三个条件：技术上拥有对齐超级智能的能力；大多数领先的通用人工智能模型之间可以实现充分协调；存在有效的全球监管框架，包括民主治理在内。

值得提出的是，除了社会机构或个人表达对GPT4等新大模型AI发展的担忧，一些国家政府机关甚至开始禁用相关产品。

例如，当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

这是第一起政府禁止使用生成式AI的案例。而在此之后，欧洲和其他地区监管机构也开始关注这一问题，其中包括：

爱尔兰数据保护委员会表示，将与所有欧盟数据保护机构进行协调；法国数据隐私监管机构CNIL表示，正在针对ChatGPT投诉展开调查；加拿大隐私专员办公室，因接到“OpenAI未经同意收集、使用和披露个人信息”指控，也已对OpenAI展开调查。

国内一家游戏大厂技术高管曾在朋友圈如是评价ChatGPT等新AI的发展情况：“美国负责发明，中国负责落地，欧洲负责罚款，各司其职。”

但从已知消息来看，除了欧洲国家外，目前包括韩国、日本等亚洲国家，在相关方面正逐步采取严厉监管措施。例如4月3日，韩国《国民日报》报道称，包括三星、SK海力士、浦项制铁公司在内的多家韩企正在采取限制使用ChatGPT的措施，严防员工泄密。

此外，近日日本政府也宣布将制定ChatGPT在教育领域的使用指南，以防止使用者思维能力下降。日本内阁官房长官松野博一表示：“在使用新技术时，必须同时关注其优点与缺点。”

就全球趋势来看，各国针对GPT3.5后的生成式AI服务，或均将推出相匹配的监管措施。这也意味着生成式AI正步入规范化发展阶段。

结语

当然，不可否认的是，虽然ChatGPT等AI所具备的能力还不完美，但它们对推动社会发展的作用不可小觑。

正如我们文前提到，微软、谷歌、百度、阿里等海外内巨头企业，加速布局AI领域。此外，根据不完全统计，自2020年GPT3发布以来，海外已有超过100家AI创企获得投资。其中2022年后成立的公司约有40家。

当行业都在寻求AI领域的突破，这将推动科技产业加速变革。包括计算芯片、AIGC应用领域的企业，均将迎来更多机会。

但正如日本机器人专家森昌弘提出的“恐怖谷假设”，亦或是乔纳森·诺兰导演的热门科幻美剧《西部世界》所展现的智能NPC世界，均在揭露人类对AI的启示：在享受AI等前沿科技发展带来的便利时，我们应该为AI算法等赋予匹配人类社会价值观的指导。

斯坦福神经学家大卫·伊格尔曼曾说：“人工智能在理解道德和法律上存在先天缺陷。”而这或也是现阶段各国推出生成式AI服务管理、监管措施的意义所在。

而这一点也得到了ChatGPT的“肯定”。

本文来自微信公众号“竞核”（ID：Coreesports），作者：桂志伟，36氪经授权发布。