生成式AI发展初期：专家热议既不应任其自流，也不可拘泥成规

原标题：生成式AI发展初期：专家热议既不应任其自流，也不可拘泥成规

以ChatGPT、百度文心一言等产品为代表的生成式人工智能生越来越被人所熟知，它们为人们提供了一种全新的思维方式，有效地提高了人们的工作效率，带来了新的商业机遇和文化体验。同时，如何在法律法规层面，有效引导、鼓励生成式人工智能创新发展，成为新的社会议题。近日，国家互联网信息办公室公布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），这将是我国首部针对生成式人工智能的专项法规。

在21项条例中，第四条、第五条及第七条的讨论热度当属最高，对此专家们也表达了不同的观点。例如《征求意见稿》第四条提到，“利用生成式人工智能生成的内容应当真实准确。”引起了众多专家学者的讨论。

北京师范大学基础教育质量监测协同创新中心副教授刘浩：在某些领域，例如艺术创作或日常对话等，对语言模型的智能化需求远高于对内容真实性的需求。过于强调生成内容的真实性和准确性可能会导致模型更倾向于生成传统、常规的内容，而忽略了模型的创造性和智能化特点，从而抑制人工智能的思维能力和情感能力的发展。

天津中德应用技术大学软件与通信学院院长杨清永：从技术实践角度出发，人工智能生成内容的真实性与准确性与生成式人工智能的运行原理有一定的冲突。生成式人工智能技术并不是简单的“拼凑”机器、“缝合怪”，而是通过生成式处理技术，通过复杂且有创造性的生产，产出基于要求及标准的创新产品。

广西科技大学计算机学院（软件学院）党委副书记黄剑华：语言大模型的推理生成过程存在一定周期，并且本身就具有一定的概率性，其生成的结果即使以目前最先进的技术条件也无法做到100%准确和稳定。如果对其要求过于严苛，势必会限制创新技术的发展。

专家学者们除了对于第四条的讨论热度居高不下，对于《征求意见稿》第五条提到的“生成式人工智能产品的提供者，’承担该产品生成内容生产者的责任’”也各抒己见。

复旦大学青年研究员，中国图象图形学学会多媒体专委会委员、副秘书长陈智能指出，“生成式人工智能内容可能存在多个层级的生产者。”他举例道，用户使用生成式人工智能产品的服务绘制生成一张图片，生成后的图片也可能会经过人为修改（如添加不法文字）后进行复制、传播及使用。随着内容的逐级传播、在不同的场合下使用，生产者可能越来越多。显然，生成式人工智能服务提供者无法控制用户对生成内容的使用用途，也无法对内容的流向进行完全追踪。

“（服务提供者）不应对使用者恶意使用服务，违规传播生成内容负责。”陈智能表示，“建议相关管理规则考虑对生成式内容生态整体权责进一步分主体、全链条管理，避免只着眼某一方，或者单纯责任‘连坐’情况的发生。”

天津大学新媒体与传播学院副院长李嘉毅认为，应该将事前的监管调整为事后加强审核，设置内容输出门槛，如对于图像、音视频的再生成内容，导出时需在作品上可标记用户信息，按照“谁使用谁负责”的要求确定责任主体，平台方则承担相应的内容管理责任。

辽宁工程技术大学电子与信息工程学院副院长孟祥福教授则认为，目前生成式人工智能所产出何种内容，更多是取决于使用者，“当前的深度学习模型和生成式人工智能平台主要依赖大数据训练，生成结果可以做到总体可控，但做不到完全可控。产出的内容在很大程度上还会受到使用者的影响，甚至一些具有专业技术背景的使用者可以通过设计一系列输入信息来诱导模型产生某种倾向的输出。”

如果说热度最高还当属专家学者们对于《征求意见稿》第七条的讨论，第七条中提到，用于生成式人工智能产品的预训练、优化训练数据，需保证数据的真实性、准确性、客观性、多样性。

对此，西交利物浦大学智能工程学院计算机副教授马洁明指出，生成式人工智能产品提供的服务大多都是生成多媒体内容，包括文字和图片，而输入的数据大多来自互联网开放的内容和中文或外文的数据集。“作为生成式人工智能服务提供方，如果需要确保训练数据的真实无误，将会消耗大量的经济成本和时间成本，直接导致训练数据体量缩减，这无疑会降低大模型学习能力，让我国失去发展生成式AI的先机。因此，是否保持所有训练数据的真实性和严谨性，在生成式人工智能技术发展初期仍需要进一步摸索。”

在业界、学界对《征求意见稿》进行积极讨论的时候，不约而同提到一个事实：尽管生成式人工智能技术一再突破人们的想象力，但它仍处在初期。在发展的初级阶段，监管的尺度松紧，将在很大程度上影响技术的发展。

华南师范大学计算机学院院长蒋运承认为，在生成式人工智能发展初期，过早过多的监管可能并不能真正解决实质性问题，还可能导致监管偏离原有的目的。“过早过多的监管可能会压制技术的创新和提供者的研发积极性，以文心一言为代表的国内人工智能技术已取得了很好的基础，当务之急需要给提供者更多的支持，以便让我国在生成式人工智能技术上取得更多更大的突破。”

全国人工智能职教集团秘书长，北京联合大学机器人学院综合研发创新中心主任盛鸿宇表示，“生成式人工智能目前存在模型体积大、训练难度高；算力需求大、性能要求高；数据规模大、质量参差不齐等问题，外界竞争压力大，内部提升空间大，更不应自缚手脚。建议在成长中发现问题、找到问题、解决问题，从而更好的技术创新。”

据了解，《征求意见稿》意见反馈截止时间为5月10日，目前针对各规定的讨论还在继续。当前人工智能面临全球竞争，全球各国在研发上加码加速，生成式人工智能俨然成了“兵家必争之地”。在这样的背景下，更需要客观看待其发展的客观规律，为新业态、新技术发展营造包容审慎的监管环境，将进一步激发市场活力和社会创造力，为社会和人类带来更多的价值和福祉。