互联网信息服务算法备案有多重要？青少年网络文化治理安全屏障

原标题：互联网信息服务算法备案有多重要？青少年网络文化治理安全屏障

互联网信息服务算法备案有多重要？是本文主要内容。近期，《中国网信》发布了一篇《网络文化治理为青少年守护美好精神家园》的文章。内容提及到青少年网络文化治理面临的新挑战。其中也对AI技术、社交机器人技术进行了介绍。我国已经在人工智能领域立法走在了前列，所以互联网信息服务算法备案的重要性不言而喻。相关企业有义务参与，保护好青少年的网络世界。

一、青少年网络文化治理面临新挑战

据中国互联网络信息中心有关数据显示，截至2022年12月，我国网民规模达10.67亿，其中19岁及以下的网民占比为18.7%，接近2亿规模。网络文化以其新鲜性、娱乐性、多元性、大众性等特点，吸引无数青少年网民参与其中。随着数字技术发展和网络文化演进，也不可避免出现一些新问题新挑战。

一是圈层极化、隐匿性强。多元的网络文化使身处其中的青少年形成了以兴趣为媒介的网络亚文化圈，如“饭圈”“绘圈”“电竞圈”“汉服圈”“二次元”等，青少年网民通过趣缘圈层寻找身份认同和情感寄托。在算法技术、兴趣群体共同编织的信息茧房面前，有人选择“破壁”“出圈”，有人选择“圈地自萌”。一些网络亚文化圈出现“黑话”话语体系、“圈规”、“族规”、拉踩骂战等不良行为，甚至出现圈层群体极化，引发重大舆情事件。由于其具有小众、封闭、排他等特点，“圈外人”短时间内难以理解和掌握其文化叙事，对及时发现和治理不良网络文化形成挑战。

二是体量庞大、复杂性强。网络文化体量急剧扩张，催生了一系列新兴垂直细分产业，吸引各类资本参与。在利益驱使下，一些网络文化乱象和黑灰产业悄然滋生。以儿童网络色情信息治理为例，从目前已查处的相关典型案例来看，儿童色情信息已形成地下黑色产业链。在传播交易环节，利用网络社交应用物色目标、诱导作案，使用国外服务器、暗网、网页链接代理跳转、频繁更换网址等多种技术手段，企图逃避法律制裁。在信息内容方面，利用儿童对世界的探索和好奇，以“软色情”“萌化”“游戏化”等包装，模糊边界使其难以辨别。

三是技术发展快、治理难度大。近年来，深度伪造、社交机器人、ChatGPT等新技术新应用纷纷涌现，在创造便利的同时也为网络文化治理和意识形态安全带来风险隐患。例如，今年4月，一名网红博主发现有人在境外社交平台冒充自己账号售卖以深度伪造技术合成的不雅视频牟利，甚至还有人兜售“AI去衣软件”。新技术的崛起必然带来相关立法的新变革，我国在人工智能技术领域的相关立法已走在世界前列，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》等相继发布。然而，技术发展的车轮滚滚向前，立法和治理还需进一步完善。

二、算法备案需要上线前完成

《算法推荐规定》以及《深度合成办法》中均对深度合成式算法的算法备案进行了明确规定：具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续;深度合成技术支持者应当履行备案和变更、注销备案手续，同时规定提供服务之日起十个工作日内通过互联网信息服务算法备案系统完成备案。