监管提速 为突进的生成式人工智能套上“缰绳”
国际在线报道（记者 吕倩媛）：为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称“征求意见稿”），于4月11日向社会公开征求意见。
生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。国际信息技术研究机构Gartner预测，到2025年，生成式人工智能产生的数据将占所有生成数据的10%。近来广受热议的ChatGPT就属于这类技术。
Gartner官网截图
2022年11月30日问世的ChatGPT短短数月之内就在全球范围内掀起热潮。爆火的ChatGPT大幅拉高了人们对人工智能能力上限的认知，也让生成式人工智能成为科技领域的一大风口。国内多家科技企业纷纷加紧布局，高速跟进生成式人工智能研发。就在4月11日，阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇在2023阿里云峰会上表示，阿里巴巴所有产品未来将接入阿里版GPT“通义千问”大模型，进行全面改造。
张勇认为，人工智能大模型的出现是一个划时代的里程碑，人类将进入到一个全新的智能化时代，就像工业革命一样，大模型将会带来生产力的巨大提升，并深刻改变人们的生活方式。
张勇在2023阿里云峰会现场发表主旨演讲。（摄影 吕倩媛）
生成式人工智能在使用中的表现确实惊艳了大众，然而囿于大规模语言模型的局限性等原因，仍存在算法偏见、信息泄露、内容造假等安全隐患。
具体而言，借助生成式人工智能技术可以实现换脸换声干预现实世界、实现无代码编程降低黑客门槛......诸如此类乱象，都需要监管的与时俱进。
对此，征求意见稿提出一系列相应要求：内容应当真实准确，采取措施防止生成虚假信息；向公众提供服务前，应当申报安全评估；应当对生成的图片、视频等内容进行标识；不利用生成内容损害他人形象、名誉以及其他合法权益等。
监管不是给这一新技术“踩刹车”，而是为了其更好地发展。征求意见稿中明确指出，“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”，制定本办法的目的是“为促进生成式人工智能健康发展和规范应用”。
防止生成式人工智能滥用，在充分发挥政府监管职能的同时，也需科技企业发挥技术能力，使人工智能的行为以保障人类安全为底线。张勇在11日的演讲中也多次强调新技术研发的“安全底线”。技术研发的核心是人。奇安信集团董事长齐向东日前在接受国际在线记者采访时就表示，再先进的科技，都需要人来使用、人来控制、人来确保安全。