当前位置:首页|资讯|生成式AI|人工智能|ChatGPT|元宇宙

要刹车?生成式AI迎新规、行业连发ChatGPT“警报”、多国考虑严监管

作者:零壹财经发布时间:2023-04-13

原标题:要刹车?生成式AI迎新规、行业连发ChatGPT“警报”、多国考虑严监管

4月13日消息,据中国移动通信联合会元宇宙产业工作委员会网站, 中国移动通信联合会元宇宙产业工作委员会、中国通信工业协会区块链专业委员会等,共同发布“关于元宇宙生成式人工智能(类 ChatGPT)应用的行业提示”。提示内容显示,去年年底,OpenAI 发布了 NLP(自然语言识别)大模型产品 ChatGPT,效果惊艳,一经面世就引起轩然大波。今年第一季度以来,ChatGPT 和类似的生成式人工智能应用热度依然不减,但我国政府与相关行业机构已意识到了其中存在的安全性问题,并开始采取应对措施。

近日,国家网信办发布 《生成式人工智能服务管理办法(征求意见稿)》,意见稿强调,在利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

而在此之前,意大利也已曾发布 ChatGPT 禁令,德国监管机构紧随其后,法国、爱尔兰、西班牙等欧洲国家也相继考虑对 AI 聊天机器人采取更严格的监管。

作为“元宇宙共识圈”的发起者和践行者,中国移动通信联合会元宇宙产业工作委员会(以下简称“元宇宙产业委”)先前注意到数字藏品平台二级寄售市场炒作在某些地方盛行,元宇宙地产市值缩水现象频出,这至少说明科技风口的成长并非一帆风顺,行业的试错成本巨大,因此,特联合中国通信工业协会区块链专业委员会、中关村大数据产业联盟元宇宙智库委员会等,共同呼吁行业自律并对本机构委员单位作出如下行业提示:

第一,要着眼科学发展深化思想认识,严格遵守国家及行业相关法律法规要求,增强合规谨慎经营的理念,全面提高风险管控水平;

第二,提供生成式人工智能服务应当真实准确客观多样,应采取相应措施防止生成虚假信息,不得上传或留存含有侵犯知识产权的内容,防止对类 ChatGPT等生成式人工智能应用进行滥用,避免扰乱健康市场秩序;

第三,承担保密责任,要对敏感信息加以严格保护,不上传涉及国家安全或行业涉密文件及数据,以及非公开的材料及数据,或系统的核心代码;

第四,要做到在为信息提供者在提供服务过程中,对用户输入的信息和使用记录承担保护义务,不得非法留存能够推断出用户身份的输入信息,不得向他人提供,不得损害其他使用者正当权利;

第五,应采取适当措施谨防用户过分依赖或沉迷生成内容,避免不正当的商业营销行为,杜绝违背商业道德、社会公德行为;

第六,支持自主创新,鼓励优先采用安全可信的软件和数据;

第七,提供者发现用户利用生成式人工智能产品过程中违反法律法规,应当暂停或者终止服务;

第八,应当继续对各类热点保持理性,加强宣传和引导,远离虚假炒作,谨慎投资。

此前,在4月10日, 中国支付清算协会也发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。倡议内容显示,近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定,中国支付清算协会向行业发出倡议。

一是提高思想认识,依法依规使用。支付行业从业人员要遵守所在地区的网络使用规定,正确认识ChatGPT等工具的机遇和风险,全面评估使用ChatGPT等工具处理工作内容的风险,依法合规使用ChatGPT等工具。

二是不上传关键敏感信息。支付行业从业人员在使用ChatGPT等工具时,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

三是会员单位加强内部管理和引导。会员单位要进一步健全信息安全内控管理制度,开展有针对性的数据风险防控工作,加强宣传和引导,提升员工的风险防范和数据保护意识,切实维护国家金融及支付清算行业安全。

(来源:界面、同花顺、每日经济新闻等公开资料)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1