当前位置:首页|资讯|生成式AI|人工智能|OpenAI|ChatGPT

为生成式AI这匹“黑马”套上“缰绳”

作者:草原古都生活宝典发布时间:2023-02-14

原标题:为生成式AI这匹“黑马”套上“缰绳”

谈到AI领域的未来发展,就不得不提到生成式AI。如今,一经推出就迅速在各大社交媒体上走红的、由美国人工智能公司OpenAI发布的聊天机器人ChatGPT便是一种生成式AI。

近日,OpenAI又以“区分人工编写还是AI生成的文本”为目的,趁热打铁地推出了一款AI检测器。

滥用生成式AI可能带来哪些危害?AI检测器对于消除此种危害有何助益?如何利用包括AI检测器在内的多种手段,在推进生成式AI产业化的同时,促进生成式AI的规范使用?针对上述问题,科技日报记者采访了相关专家。

生成式AI是把双刃剑

“通常来说,生成式AI是指使用机器学习等各种AI算法,让人工智能能够利用数据进行学习,进而创建或生成全新的原创内容的一种技术。”北京理工大学网络与安全研究所所长闫怀志表示,“目前,生成式AI能生成文本、图像、音频、视频或代码等多模态的原创内容。”

ChatGPT作为一款人工智能技术驱动的自然语言处理工具,通过学习和理解人类的自然语言来进行对话,并能根据对话的上下文与人类进行相应的互动。与此前同类型的模型不同,ChatGPT不仅在对话的真实感与流畅性上取得了很大的提升,更在互动性上几乎“无出其右”。

以ChatGPT的横空出世为代表,生成式AI在技术上的不断突破,正驱动着全球生成式AI产业的加速发展。优秀的生成式AI有望成为新一代智能助手与信息检索工具,其不仅可以带动科技研发、工业设计等领域的深刻变革,还能在艺术和内容创作等的过程中减少以往调色、勾画轮廓等繁琐的程序性工作,极大地推动各类数字化内容的生产与创造。随着产业集群效应的进一步扩大,生成式AI正迅速成为全球科技领域最具投资价值的热门赛道,极大地影响了全球的科技创新与产业发展格局。

然而,随着生成式AI的爆火,其安全性也遭到了质疑。近日,一份关于ChatGPT的报告显示,在500名IT行业决策者中近一半的人认为,2023年内,将会出现个人恶意使用ChatGPT发动的网络攻击。无独有偶,此前的AI绘画等其他生成式AI同样遭受过相应的质疑。

“生成式AI是一个‘可怕的好东西’。”闫怀志表示,“一方面,生成式AI固然便利了生产、生活,带动了社会的进步;另一方面,生成式AI可能会被人们无意滥用,甚至被目的不纯之人恶意利用,对社会造成危害。”

闫怀志进一步解释道,生成式AI能够产出逼真的文本、图像、音频、视频等内容,可能会被滥用于诈骗、欺诈、剽窃、造谣、伪造身份等不当甚至违法的场景。

“以AI检测AI”避免技术滥用

ChatGPT不仅能像人一样进行聊天对话,它还能根据用户的要求作诗、编代码,甚至写论文。

这种“以AI检测AI”的方式,充分发挥了AI学习的优势。

闫怀志表示,通常来说,目前的AI检测器并不会给出是或否的精确判断,而是根据置信度给出“很有可能”“可能”“不清楚”“不太可能”“非常不可能”等模糊判断,将最终评判权交由人类自身。

然而,目前AI检测器的检测水平并不理想。闫怀志说:“OpenAI研发的AI检测器的检测成功率仅为26%左右,还处于较低水平。”

目前AI检测器的检测水平,显然无法有效解决滥用生成式AI带来的危害。“如果AI检测器的检测成功率能够得到较大提升,必将有助于解决目前使用生成式AI所带来的部分问题。但很显然,目前离达到这个目标,还有很长的路要走。”闫怀志表示。

多管齐下促进生成式AI健康发展

在享受生成式AI所带来的巨大利好的同时,我们应该采取措施来规范其使用,而这些措施里,既包括AI检测器在内的各类技术手段,也包括制定相关规范性的政策法规。

相关专家曾提出,生成式AI是由人类设计的。因此,人类也需要在生成式AI的程序中嵌入相应的限制手段,使它的行为以保障人类安全为底线。换句话说,就是要用优先级更高的技术规则去限制其他技术。

“ChatGPT规避技术伦理风险的方案大概就是遵循了这个思路。”思必驰科技股份有限公司联合创始人兼首席科学家、上海交通大学教授俞凯解释道,“人类通过对一些特定的问题进行优先判断,并以此构建具有约束力的模型,再让这个模型在ChatGPT的整个模型训练过程中发挥作用,以保证其回复符合人类伦理。此外,应该还有一些‘兜底技术’,让ChatGPT对于一些敏感问题不予回复。”

闫怀志表示:“除了这些技术手段外,我们还需要明确界定生成式AI的应用场景和使用范围,并在必要的情况下向人们告知哪些内容是通过生成式AI生成的。”通过相关的技术规范,界定生成式AI的应用场景和使用范围,有利于保障生成式AI遵循相应的技术伦理要求。

除此之外,相关政策、法律法规的制定,也正在推动着生成式AI产业的健康有序发展。

据悉,国务院于2017年发布了《新一代人工智能发展规划》,明确“初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。国家新一代人工智能治理专业委员会也相继于2019年和2021年发布了《新一代人工智能治理原则——发展负责任的人工智能》和《新一代人工智能伦理规范》。上述文件为我国目前生成式AI的发展提供了坚实的法律法规和标准保障。

“我们应该完善生成式AI的法律监管机制,坚持正义的普适价值标准、安全的核心价值目标、创新的根本目的,构建相应的伦理规范体系。”首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊表示,“具体说来,法律监管可分为事前、事中、事后三个阶段。事前应注意预防,投资者在研发生成式AI之前,应向有关部门提交申请书,将其人工智能的主要内容进行阐述和备案;事中须加强管控,在发现生成式AI侵犯他人著作权或者内容涉及伦理道德不当时,应当及时进行管控;事后要注意监督,对相关侵权行为及时进行处罚,保障他人合法权益。”

“可以想见,未来生成式AI技术与监管的博弈必将展开。”闫怀志表示。

来源:科技日报

声明:公众号所转载文章都均标明来源,文章内容不代表本公众号观点,如发现转载文章有涉及侵权 问题 行为,请即刻与我们取得联系并告知相应文章链接及图片,我们会及时进行核实修改或删除


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1