我们的艺术家们曾无数次地设想过,当机器人可以自己思考,自己生成代码,甚至统治地球时会是什么样。但让所有人始料未及的是,这一天的到来,竟然是猝不及防的。
身穿深蓝色西服,头发有点微乱,眼神里透出一股技术男特有的单纯和执着,昨天晚上(美国时间16日上午10点)ChatGPT之父、OpenAI创始人兼CEO山姆·奥特曼在美国国会参加了自去年年底OpenAI的聊天机器人ChatGPT席卷全球以来的首次听证会。
OpenAI创始人兼CEO山姆·奥特曼
而同一时间,银柿财经也邀请了浙江大学人工智能研究所所长、求是特聘教授吴飞跟我们一起聊了聊,究竟要对AI进行怎样的管控。
山姆·奥特曼:人工智能是一种工具,而不是“生物”
聊天机器人工具ChatGPT成功开发后,再次引发了一场全球关于人工智能的军备竞赛。而这也引发了立法者对该技术带来的风险的担忧。
为说明技术带来的潜在风险,参议院隐私和技术小组主席理查德•布卢门撒尔在周二的听证会开始时,播放了一段虚拟录音。这段录音来自ChatGPT撰写的评论,但声音却是Blumenthal的真实声音。布卢门撒尔表示:“这些非常逼真的虚假信息,将会任意传播,这将是非常恐怖的。”
OpenAI首席执行官山姆•奥特曼在周二的讲话中表示,人工智能可能会被用来操纵选民和可能产生虚假信息,这是“我最担心的领域”之一,尤其因为“明年美国将面临选举。”
奥特曼周二表示,美国政府应为开发人工智能系统的公司建立许可证制度,这种“许可和测试相结合的要求”可以应用于“人工智能模型的开发和发布”。
技术专家认为,尽管建立许可制度有助于集中监管AI,并防止其滥用,但如果AI发展得太快,这一制度可能会排挤较小的参与者或者失去相关性。
据悉,OpenAI的一名员工最近提议成立一个美国AI许可机构,名字叫人工智能安全和基础设施安全办公室(简称OASIS)。奥特曼并未在他的证词中对OASIS发表评论,不过他提议建立一个足够灵活的治理机制,以适应新的技术发展。
IBM副总裁兼首席隐私和信任官克里斯蒂娜•蒙哥马利警告不要创造一个“快速行动,打破现状”的新时代,因为这是脸书等硅谷巨头们长期以来的口头禅。蒙哥马利告诉立法者:“人工智能时代不可能是另一个‘快速行动、打破现状’的时代。”她说,“但我们也不必对创新踩刹车。”
奥特曼和蒙哥马利也表示,尽管人工智能可能会消除一些工作岗位,但会创造新的工作岗位。奥特曼告诉布卢门撒尔:“总体上,我对未来充满乐观。”
奥特曼发表上述言论的前一天,他与60多名众议院议员共进晚餐。据与会人士称,奥特曼展示了ChatGPT的各种用途,“非常有趣”,他形容议员们被这场活动“吸引住了”。该人士补充道,大多数与会者普遍承认,对人工智能的监管是必要的。奥特曼在晚宴上强调,人工智能是一种工具,而不是“生物”,人工智能“可以帮助完成任务,而不是工作”。
在今年的采访中,奥特曼表示,自己很注意人工智能带来的风险,甚至对这项技术“有点害怕”,他和他的公司承诺以负责任的态度向前迈进。
埃隆·马斯克与数十位技术领袖、教授和研究人员曾一起签署了一封信,呼吁像OpenAI这样的人工智能实验室停止训练最强大的人工智能系统至少六个月,理由是“对社会和人类的巨大风险”。奥特曼表示,他同意这封信的部分内容,但“我认为这封信不是解决问题的最佳方式。”
吴飞:对人工智能必须要监管,但又不能五花大绑
关于ChatGPT的未来,加强监管一定是趋势。吴飞教授在与银柿财经的对话中也表示,“我们一定是要监管的,要监管它不能说谎话。”
为了更好地理解ChatGPT等聊天机器人,所带来的挑战时,吴飞教授首先解释ChatGPT了究竟如何生成它的自然语言的。
“它是一个语言合成模型,通过大数据,能从一个词自然关联到另外一个词,有一点像单词接龙。它更多的是一个存在的互联网信息的合成。所以它的语言生成的逻辑就是,存在即合理。”
但现实社会中,大量的信息并不是存在即合理的。吴飞教授说,最怕的就是你今后可能生活在一个充斥错误信息的网络中。
“互联网上充斥大量错误的数据和信息,但如果ChatGPT读了错误的信息后,然后输出我们,我们信以为真,然后把错误的信息再次发布到网上,然后ChatGPT根据这些信息再次输出,这样就会形成一种信息错误链,让你一直生活在各种谣言当中。”
怎么监管呢?
近日,欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案,其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则,并提出了严格监管ChatGPT等AI工具的新思路。欧洲通过的这一法案草案,在吴飞教授看来,可能过于严格,会损害到新生物的产生,也有可能会让欧洲落后于新一轮的科技变革中。
吴飞教授说起另一个案例:1865年英国颁布了一个《道路机车法》,法律规定,机动车需配备一名“红旗手”,换句话说,就是在其步行于车辆前方60码(约55米)处的地方,手持一面醒目的红旗以提前警示前方行人和马车。这项法律的颁布的直接原因,是马车夫等对汽车的抗议,但这导致了汽车并不如马车便利,这也直接导致英国错失汽车大国的机会。
“AI监管比较像一把双刃剑,我们既要鼓励新科技产生,但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑,完全没有生长的空间。”
吴飞教授建议要从技术、立法和道德上,三个层面对人工智能进行监管。“我们从技术层面做一些制约,同时也要积极立法,要对违法的平台,开发团队或者开发者予以相应处罚。同时也是要在人伦道德上,对AI进行监管,比如我们不能把AI用于武器,更不能把准确度只有60%的AI用于武器系统等等。”
今年4月国家网信办已经就《生成式人工智能服务管理办法》下发公开征求意见的通知。吴飞教授看来,这一做法说明,中国政府已对此很重视,也在快速行动了,是高瞻远瞩的,有利于人工智能在国内健康发展和推进的。
科盛光伏 2024-11-15
智行合一矩阵营销工具 2024-11-15
天泽智联 2024-11-15
米尔MYIR 2024-11-15