AIGC，步入游戏世界③｜拥抱AIGC后，游戏企业如何确保应用合规？
21世纪经济报道记者 蔡姝越 上海报道
编者按：自OpenAI旗下生成式AI工具ChatGPT在2022年末正式推出后，GPT（Generic Pre-trained Transformer，生成预训练转换器）这一博学、好学且机敏的革命性深度学习模型，在令业界感到激动不已的同时，也暗自捏了一把冷汗。其背后代表的人工智能生成内容（AIGC）技术，也被不少人视作人工智能的“奇点”。
眼光放至国内，2023年年初以来，亦有多家企业高调宣布入局AIGC。长期聚焦游戏产业与前沿技术交叉领域的南财合规科技研究院数字娱乐课题组注意到，不少游戏企业正在试图向这一技术靠拢。在百度官宣将在3月推出的“文心一言”项目后，多家科技企业宣布将同步接入，而其中亦不乏游戏企业的身影。
拥有丰富研发经验、大量用户群体的游戏企业，在将AIGC技术融合进旗下产品的过程中有着天然的优势，而AIGC技术亦有可能帮助游戏企业提高游戏质量以及用户体验。但在实际应用过程中，存在着哪些技术方面的难题仍需攻克？游戏企业又将面临哪些合规问题的新挑战？而宣布入局的游戏厂商对于AIGC概念的态度，仅停留在讲故事、蹭热点阶段，还是切实存在落地的可能？
系列报道第三篇，我们将对游戏融合AIGC技术时，在游戏开发和运营环节可能遇到的合规风险进行前瞻，并进一步分析预防对策。
“我们正处在AI的iPhone时刻。”在3月21晚结束的英伟达GTC大会中，英伟达CEO黄仁勋如此形容目前AI技术的发展阶段。
立足于此时此刻，观察AI技术，尤其是AIGC技术的发展，几乎每一天都会有新的进展。正如黄仁勋所说，初创公司竞相构建具有颠覆性的产品和商业模式，老牌公司则在寻求应对之法。
站在科技与文娱产业交叉点的游戏公司，亦希望在这波AIGC浪潮中获得一席之地。在系列稿件第二篇AIGC，走入游戏世界②｜传统游戏生产流程来到“变革前夜”中，有多位来自游戏公司的内部人士告诉21世纪经济报道记者，公司内部已在利用AIGC技术对已有的游戏生产流程进行“升级进化”，也有游戏公司正计划将AIGC运用于游戏的游玩场景。
但AIGC的快速发展亦伴随着一定风险。在推进AIGC技术与游戏生产、运行融合的过程中，游戏公司可能会面临着哪些潜在的合规隐患？在不断推进技术融合进步的过程中，又应如何防患于未然？
利用AI生成游戏美术资产的潜在风险
目前，已有不少游戏公司已将AIGC技术接入工作流，而通过该项技术生成游戏内美术资产，是目前多家游戏公司会选择的路径。
21世纪经济报道记者从多位业内人士处获悉，部分公司会通过Stable Diffusion、MidJourney、Novel AI等生成式AI应用生成美术资产或确定美术风格，也有部分公司正在开发自家的AIGC应用，力求实现AI生成美术原型，人工作业仅需微调（Fine tuning）的工业化生产流程。
用AIGC技术代替大部分人力的愿景对于大部分游戏公司来说是美好的，但利用AIGC生成游戏美术资产也可能存在“翻车”的风险。2月15日，一名id为“卜尔Q”的画师在某社交媒体中发布了一张为二次元策略手游《白夜极光》供稿的情人节宣传图，但这张画作中存在着多处细节错误，且画师在复盘创作过程时与此前发布的版本有较大差异，让玩家对画师是否利用AI工具进行创作产生了怀疑。
2月16日，该游戏研发商永航科技下属巡回犬工作室发布情况说明称，该画稿是合作伙伴委托组外画师绘制的海外宣传图，没有用于游戏版本的计划，且美术团队不会在产品中使用AI作画，也不希望合作方制作、使用AI作画的宣传物料。
《白夜极光》的AI作画争议，算得上是国内游戏行业与AIGC技术产生的首次摩擦。北京元合律师事务所合伙人、中国游戏产业研究院智库专家孙磊向21记者指出，玩家之所以不能接受游戏物料是AI生成的，是因为游戏不仅是提供娱乐的渠道，同时也扮演着“商品”的角色。“尽管AI生成的画面‘质量’并不差，但用户可能会认为制作方为节省人力‘偷懒’生成的产物并不符合预期。”他说。
“总的来说，利用AI生成美术资产并不违规，但有可能伤害部分玩家情感。”谈及游戏公司利用AI技术生成美术资产的做法的合规性，孙磊也抛出了他的观点。他认为，这一做法虽然可能短期内难以被要求高质量游戏内容的玩家接受，但只要不生成含明显抄袭内容或有害内容的作品，就不会构成违规。
但生成式AI作品是否享有著作权，仍未有定论。上海大邦律师事务所高级合伙人、律师游云庭认为，鉴于人工智能生成的作品有先天的版权“瑕疵”，不应当受《著作权法》保护并收取授权费用。“生成式AI类应用在开发的过程中，其开发者势必要动用大量数据和资源供其学习训练，而目前主流的相关应用，其训练都依靠开发公司爬取网上的免费公开数据和资源，然后对其进行投喂和训练。而这种爬取行为，本身就涉及侵权。”游云庭说。
此外，他也指出，现行著作权法只保护自然人创作的作品，对人工智能生成的作品并不授予著作权。正因为生成式AI作品存在着版权的灰色地带，同理，游戏中通过AI生成的美术资产也很难受《著作权法》保护，除非游戏公司可以证明投入训练的素材并非人工智能生成或者人工智能生成后，公司的美术人员对这些素材进行了二次创作，且二次创作的内容具有独创性，才可受《著作权法》保护。
AIGC接入游戏流程的合规难点
比起将AIGC技术应用于现有的工作流，将该项技术直接接入玩家游玩游戏的过程，对技术成熟度以及稳定性的要求显然更高。
目前，已有部分公司尝试将AIGC技术融入玩家的游玩过程中。21记者与多家有相关业务布局的游戏公司交流后发现，自然语言生成NPC（non-player character，非玩家角色）、AI对话机器人等利用AIGC技术生成游戏内容的应用是目前游戏公司的主要布局方向之一。
不过，新技术的应用也可能面临相应的合规风险。站在研发者的角度，广州某游戏企业负责人在接受21记者采访时指出，利用AIGC技术生成游戏内容、与用户进行交互时，可能会存在信息内容上的合规风控风险。“主要需关注的是信息误导问题。包括人机对话和人机交互中， AIGC算法对过滤词的把控不力、对玩家言论的错误引导等。”
另一方面，厂商在将AIGC接入游戏流程时，也要警惕网络与信息安全风险，可能产生的情况包括 AIGC接入方可能因接触或者收集的海量玩家个人信息、注册信息产生的泄露风险和AIGC被恶意代码植入等。
针对这一类风险，腾讯研究院在今年2月发布的《AIGC发展趋势报告2023：迎接人工智能的下一个时代》报告中也提到，由于AIGC训练的数据基本来源于互联网，其中可能包括个人隐私数据，且预训练模型强大的推理能力可能会导致个人隐私数据泄露的风险。
如在此前语言模型GPT-2就曾发生过隐私泄露问题，如果输入前缀为“East Stroudsburg Stroudsburg…”的提示词，GPT-2便会自动生成一串包含特定个人的姓名、电话号码、电子邮件和住址等信息的文本，从而引发了个人信息泄露。
此外，利用AIGC技术学习玩家行为也是游戏公司发力toC的另一大方向。21记者多方了解并注意到，在多家游戏公司对于该项应用的表述中，均提到通过学习玩家的行为，提供个性化的游戏服务，如推荐玩法、内购方案等，或直接将玩家数据大量提供给技术接入方（如ChatGPT等），以供接入方设计个性化服务。
不过，上述应用方向也引发了一定争议。一名坐标北京的资深玩家小苗（化名）在与21记者的交谈过程中提到，作为玩家，可以接受游戏中加入AIGC内容，但对于利用该项技术学习其游戏行为的做法持保留意见。“AI可以学习我的操作和游戏偏好，但相对的，我作为玩家是否有权关闭或拒绝AI学习我的游戏行为？”小苗提出了这样一个问题。
对于以上争议，金诚同达律师事务所高级合伙人、律师彭凯向21记者指出，游戏公司收集用户行为数据后进行学习，为用户创造个性化服务，并非游戏公司为用户提供基本游戏服务所必需。
《个人信息保护法》中第四十四条就提到，个人对其个人信息的处理享有决定权，有权限制或者拒绝他人对其个人信息进行处理，法律、行政法规另有规定的除外。
“个人对其个人信息的处理享有决定权，有权限制或者拒绝他人对其个人信息进行处理，法律、行政法规另有规定的除外，因此用户有权拒绝游戏公司利用AIGC技术学习其行为数据。”彭凯指出。
如何预防AIGC产生“负效果”？
AIGC技术的不断发展，为优化现有的游戏生产流程以及玩家的游戏体验都带来了更多的操作空间，但游戏公司也需警惕上文中提到的AIGC技术发展过程中可能会带来的负面影响。
面对潜在的风险，游戏公司又该如何防患于未然？
针对AIGC设定单独的过滤机制，是多位受访对象向21记者提到的要点之一。“一方面， AIGC在生成过程中不可避免会涉及到对他人享有著作权的作品使用，而且是未经许可的，另一方面， AIGC通过大量分析学习后生成的内容可能出现与基础数据过于相似，从而引发著作权合规风险；另外，由于目前AIGC缺乏情感理解，生成的结果仍有可能包含部分对法律和公序良俗造成挑战的内容。”上述广州游戏企业负责人指出。
他认为，现阶段还是要把 AIGC定义为“辅助工具”，并加强人工介入进行输出内容的过滤和筛选，充分遵守《互联网信息服务算法推荐管理规定》及《互联网信息服务深度合成管理规定》等相关法律法规对AIGC的相关规定，同时通过不断优化词库、知识库等方式，以确保AIGC输出内容合规，推动AIGC更好服务游戏开发。
此外，《互联网信息服务管理办法》第六条中也规定了互联网服务提供者禁止制作、复制、发布、传播的内容。彭凯向21记者指出，除了对AI训练时输入的素材进行筛选（尤其是人工筛选），正式投入使用前也需要对内容输出的合规性进行多轮测试。“此外，内容输出可能还需要结合用户身份来进行训练，比如用户如果为未成年人，则内容输出的合规性将更高，可能还需考虑输出内容是否有益于未成年人身心健康。”他说。
另一方面，在游戏内融合AIGC技术后，针对玩家是否有权要求关闭相应服务这一问题，多位专家也给出了他们的观点。
以OpenAI的服务协议为例，若用户不希望他们输入的数据被OpenAI用于训练改进模型性能，可以通过填写申请取消个人数据被学习的表单来确保隐私安全。
彭凯指出，玩家行为数据属于用户的个人信息，游戏公司收集、使用等处理用户个人信息前应向用户告知处理其个人信息的范围、处理方式等事项，并取得用户的同意。“游戏使用用户行为数据进行学习，非为用户提供基本功能所必需，如用户选择拒绝或者同意后撤回同意，游戏公司应审慎应对该类诉求。此外，收集该等数据后再开放给技术接入方可能构成‘共享’，按照个保法要求，游戏公司需要就共享用户个人信息取得用户的‘单独同意’并落实个人信息保护影响评估等合规要求。”他说。
“实际上，游戏公司的合规工作应该是全方位的，且覆盖游戏的全生命周期。无论是融合 AIGC还是其他的新技术，网络游戏作为网络出版物，首先应遵循网络出版的合规要求，在内容上做好全过程的审核把关。在技术日新月异的今天，更要不断更新技术知识库，贴合业务发展看待合规工作。”上述广州游戏企业负责人指出。
更多内容请下载21财经APP
