AI产业方兴未艾 治理如何迈前一步？
21世纪经济报道 记者郑雪 北京报道
以生成式人工智能为代表的人工智能快速发展，带来新一轮全球发展变革。来自全球各地的互联网企业和科技公司纷纷加码人工智能，以期在未来发展变局中抢占先机。现在以及不远的未来，如何抢先布局产业落地，成为人工智能发展的关键。
与此同时，人工智能治理也提上日程。相较于其他产业，人工智能无法真正实现零风险，而需达到一个各方面综合治理平衡的状态；同时产业上下游联系愈发紧密，产业链一荣俱荣、一损俱损。针对如此特征，AI治理如何切入？近日，由北京理工大学法学院主办的第六届智能科技法治论坛在北京举行，与会专家就人工智能相关问题展开讨论。
AI产业链荣辱与共
以生成式人工智能为代表的人工智能引得国内多家公司“竞折腰”，百模大战甚至是千模大战竞争激烈，人工智能产业给予未来更多的想象空间。
人工智能未来或将成为基础设施从而赋能其他产业发展。“现在的人工智能产业，经过百模大战竞争，形成了一定的行业领先优势，或者是形成了一定的产业规模，市场份额确定了之后，这种深层次的AI它一定也是具有一个公共服务的基础设施。”中国政法大学数字法治研究院教授张凌寒在发言时说道。
不仅如此，北京师范大学法学院教授汪庆华提出，人工智能还具有数字基础设施的属性。需要注意的是，机器学习中模型是不支持字符串数据的，模型要顺利有效地学习，必须对字符串数据先数值化。
特定能力在达到一定规模时就会出现“涌现”，是这一轮人工智能发展过程中的一个显著特点，何以涌现出现、其中工作机制如何理解尚不可知，但这并不影响大模型的快速更新迭代及更加智能模型的出现。
汪庆华引用Open AI一位科学家的观点称，大模型现在还不具备的能力，不是它不行（it doesn't work），而是它还没有（perspective of yet）。可能有的能力在现有模型之下未达到，但在未来很快就能到达。随着模型的更迭，会不断有新的洞见涌现。
人工智能一日千里，人工智能治理也提上日常。相比较之前，人工智能治理的难点和痛点如何理解？
当前，更加紧密的上下游结构，一荣俱荣、一损俱损，主体责任如何配适提出现实挑战。人工智能产业链主要分为基础层、技术层、应用层，包含AI芯片、云计算、生物识别、机器学习、算法理论等多个产业链上下游高精尖的产业。
“生成式人工智能，使得我们整个人工智能从1.0时代过渡到2.0时代，从原来作坊式的生产、平台主体担任单一主体地位的生产方式，到今天上中下游要密切合作，一荣俱荣，一损俱损。”对外经贸大学法学院副教授张欣表示。
人工智能产业落地中，需要解决一个核心问题：如何保障内容安全。值得关注的是，生成式人工智能的工作原理是通过深度学习框架来学习大量自然语言和文本数据，可以理解为接龙游戏，给出的答案主要基于概率分布。也就是说，即便是使用非常重要的材料，保证训练数据百分百准确，由生成式人工智能最后回答的内容也8无法保证完全可控及幻觉消失。
生成式AI如何规制？
人工智能治理随着产业快速发展而提上日程，具体又该如何着手展开？
中国海洋大学法学院教授李晟表示需要关注三点，一是从产业发展角度，关注到的是国家间的人工智能产业竞争，不同国家、不同企业，谁能够发展出更具有优势的甚至是人工智能。二是作为一个数字基础设施，所希望实现的是要有独立自主可控的数据基础设施。三是具体到应用层面，也就是公众接触层面，如何避免公众使用过程中产生的各类风险成为关注重点，希望公众使用的模型能够提前避免一些应用当中的问题。
随着产业落地化加速，生成式人工智能需要回答一个关键问题：如何保障生成内容安全？以及相关法律责任该如何划定？又该如何科学有效通过法律手段规范和促进新技术发展？
工业和信息化部产业政策与法规司法规处处长杨艳秋表示，坚持在法治轨道上推进智能科技发展和监管工作，更好发挥法治固根本、稳预期、利长远的保障作用。短期内可以考虑通过推动在小范围法律法规依法对普及性高、风险很大的新技术、新应用进行规定，加强制度登记处理。长远来看可以探索研究数字领域综合性立法，如风险评估等等新型监管手段，优化对各项数字技术的管理，防范智能科技可能带来的风险。
积极推进人工智能立法。围绕新一代人工智能技术产业发展的主要问题，加强人工智能法重点问题立法研究工作，在法治轨道上促进人工智能产业健康有序发展。
如何治理、选择什么样的治理方式？李晟指出，从价值判断和利益的权衡来看，甘蔗没有两头甜，针对公众日常生活中暴露出来的问题需要加强规则治理，但如果因此导致产业发展受限、影响产业竞争和国家安全，又陷入相对被动的阶段。治理时是否能够提出一种两全其美的手段需要进一步考虑。另一个问题是，分层监管如何细化也需基于价值判断和利益考量做出。
具体到生成式人工智能来看，与会专家分别提出双边规制、基于产业链的双边规制、分层治理等治理思路。
汪庆华表示，从生成式人工智能产业发展的角度，法律规制应当是为生成式人工智能设定护栏，他提出了双边规制的思路。
具体来看，在输入端以数据法律体系规制数据，大模型上主要关注数据控制者/数据处理者的主体责任。在输入端适当宽松，对于数据抓取规制以民事行政调节为主、避免利用刑事手段带来的寒蝉效应，对于已公开的个人信息予以豁免等。在输出端继续原有的内容监管敏捷规制、多元规制、靠前规制的特点，防范AI带来的各种内容风险。
人工智能生成内容的监管上，基于AI产业链一荣俱荣、一损俱损的特点，张欣认为，迈向“模型泛在”的人工智能2.0时代，生成式人工智能的治理应遵循敏捷治理与韧性治理并重、精准治理和参与式治理协同的原则。同时提出要建立基于产业价值链的治理，未来的生成式人工智能内容治理应从基于API的模式、基于插件的模式和基于模型垂直部署的模式协同推进。
如何在现有网络法律体系中，给予生成式人工智能相关权益双方进行权责划分？张凌寒提出分层治理。在她看来，对于生成式人工智能的规制，应构建“基础模型—专业模型—服务应用”的分层治理体系，在不同的层次适配不同的规制思路与工具。在基座模型层以发展为导向，将其作为数字社会新型基础设施设置法律制度；在专业模型层以审慎包容为理念，进行分级分类并设置合理避风港规则；在服务应用层实施敏捷治理，建立合理容错制度。
更多内容请下载21财经APP
