一、立法层面
近年,许多国家针对AI合规提出了更高的要求,并配合出台了相关法案,如我国与今年颁布了《生成式人工智能服务管理办法》,被誉为全球第一个关于AI的立法。近日欧洲议会就通过了欧盟的《人工智能法案》,此法案相当于国际AI立法里程碑,一旦正式生效,也许会产生布鲁塞尔效应,成为全球最具影响力的AI立法。加拿大、美国、新加坡以及新兴的出海地区中东也都有相关的AI立法。总体来看,当前及未来的监管趋势正在趋严。
二、监管层面
就目前,对于AIGC企业的监管,更加重视对用户的隐私和数据保护。由于用户在使用AIGC产品和相关服务时,会被服务提供商收集大量的用户个人信息和数据,尤其是在出海业务方面,可能存在数据跨境流动的风险。
同时,大模型的训练数据存在的算法偏见等问题也是监管机构严格把控的问题,所以,AIGC服务企业被要求更加透明地处理决策过程,提供更加详细的解释和可视化工具,使其决策过程被大众理解。
1.收集数据合法性方面,我国明确要求数据收集必须具备合法性基础。其中,用户同意是合法性的一个重要因素,另一个可适用的合法性基础可能是为了履行合同而收集数据。另如果用户不愿意,可以行使拒绝权。公司是否提供了拒绝权是合规性的一个体现。
2.数据使用过程中,如发现数据不准确或错误,数据主体可行使删除权或更正权。为保障这一权利的行使,公司需建立投诉处理机制,以便可以通过这一渠道向公司反馈用户诉求。
3.对于未成年人保护的问题,需要被给予更多重视。
在跨境的数据传输问题上,首先需要确认数据是否有跨境流动。
在整体数据传送过程中,主要包括两次传输:一次是从用户到境外服务器,另一次是从境外到第三方的服务器。如果这两个过程确实发生了,那么就面临数据跨境流动的问题。
就目前全国许多具有独立数据保护法案的国家要求,相关公司和企业需要解释为什么需要传输数据?数据将被传送到哪里?这种传输是否合法?
但需要注意的是,不同的国家可能有不同的跨境传输机制,此部分就需要专业人员进行解答。
AIGC合规监管越来越严格,还未进行备案的企业需要尽快备案!相关问题欢迎私信私聊。