“ChatGPT之父”等多位专家共话AI安全与“人机对齐” AI监管将成下一个增量赛道
据媒体报道，2023智源大会将于6月9日至10日召开，届时多位图灵奖得主、OpenAI创始人SamAltman、诺贝尔奖得主等多位专家共话AI安全与人机对齐问题。本周二，“ChatGPT之父”SamAltman再次呼吁，成立类似联合国系统下国际原子能机构的监管机构来监管AI技术。
OpenAI研发的ChatGPT的成功让人们得以一窥AI如何改变人类工作和学习的方式，这也引发了人们的担忧。进入大模型时代，如何确保越发强大和通用的人工智能系统安全可控，符合人类意图和价值观，是极为重要的一个问题。这一安全问题又被称为人机对齐。
4月11日，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》。
5月11日，欧洲议会内部市场委员会和公民自由委员会通过了欧盟委员会提出的“人工智能法案”提案的谈判授权草案，该草案将于6月中旬提交欧洲议会全会表决。
5月16日，美国国会召开主题为“AI监管：人工智能规则的听证会”，首次对OpenAI创始人Sam Altman质询，ChatGPT和其他生成式AI工具的不断出现引发了美国立法者对AI安全的担忧，参议院表示该场听证会开启了对人工智能先进算法和强大技术的监督和阐释工作。
东方证券认为，人工智能发展中可能出现怎样的风险已经成为全球关注的话题，最终目标指向数据安全、知识产权和以人为本。监管与发展也并不相悖，前者是行业健康生态的有力保障。
民生证券指出，未来国内大模型AI监管有望在政府带领下不断发展，建议关注三六零、美亚柏科、浩瀚深度、吉大正元、中新赛克、三未信安、信安世纪、奇安信、启明星辰、深信服，天融信等已经拥有或正在研发大模型AI监管技术的公司。
来源:金融界
