挥别“野蛮生长”，七部门发文为生成式AI“立规矩”
挥别“野蛮生长”，七部门发文为生成式AI“立规矩”
狂飙近半年的生成式人工智能系上了“安全带”。近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布
《生成式人工智能服务管理暂行办法》
（以下称《办法》），
自2023年8月15日起施行。
近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。
出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。
来源：Bing
统筹生成式人工智能发展和安全
以ChatGPT为代表的生成式人工智能的出现，意味着人工智能正式从1.0时代迈入2.0时代。
创新工场董事长兼CEO李开复
曾断言，AI 2.0是绝对不能错过的一次革命，它会是一个平台级别的趋势，超过移动互联网10倍。彭博行业研究曾在报告中预计，
ChatGPT将给生成式人工智能市场带来为期十年的繁荣，市场规模将以42%的速度扩张。
生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。《办法》提出，
国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
《办法》指出，提供和使用生成式人工智能服务，应遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
一是坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。
二是在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。
三是尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为。
四是尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
五是基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
鼓励生成式人工智能研发创新
《办法》立足于促进生成式人工智能健康发展和规范应用，提出了一系列鼓励措施。
一是鼓励创新应用。
生成式人工智能应用场景丰富，可以与各行业深度结合，助力实现各行业智能化变革。《办法》明确提出，鼓励生成式人工智能技术在各行业、各领域的创新应用，有助于生成式人工智能赋能千行百业。
二是鼓励多方协作。
生成式人工智能在技术创新、数据资源建设、转化应用、风险防范等方面涉及多方主体，为此，《办法》鼓励行业组织、企业以及各个相关机构之间开展协作。
三是鼓励自主创新与国际合作。
生成式人工智能尚处于发展阶段，而我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚。《办法》一方面鼓励生成式人工智能相关基础技术的自主创新，另一方面鼓励平等互利开展国际交流与合作，从而促进我国人工智能技术发展。
四是鼓励资源共享。
算力是支撑数字经济蓬勃发展的重要“底座”，数据是生成式人工智能的重要资源。为此，《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设的措施，促进算力资源协同共享，提升算力资源利用效能。
强调促进创新与规范引导并重
“在人工智能技术迎来重要发展的时期，我们不仅要让相关新技术新应用充分释放出创新活力，也要在安全监管与创新引导之间掌握好平衡。”
国家计算机网络与信息安全管理中心高级工程师张震
表示，《办法》的制定和出台，是我国推进生成式人工智能服务领域治理、促进产业规范健康发展、引导技术向善的重要举措。
《办法》明确，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。
首先，在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，要
采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。
其次，尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为。
再次，
尊重他人合法权益，
不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
最后，基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，
提高生成内容的准确性和可靠性。
“《办法》是在区块链、汽车数据、算法推荐、深度合成等立法之后，我国对新兴领域立法的又一次探索。”
中国信息通信研究院政策与经济研究所所长辛勇飞
表示，《办法》充分协调了发展与安全之间的关系，一方面提出了生成式人工智能发展的鼓励措施，另一方面明确了生成式人工智能的法律底线，构建了生成式人工智能精细化治理体系，有利于推动生成式人工智能健康有序发展，为世界贡献人工智能治理的中国智慧和中国方案。
审核：徐向阳
责编：霍悦
编辑：左宗鑫、崔轶舒