当前位置:首页|资讯|ChatGPT|OpenAI|人工智能

中科三方云解析专家讲解Chatgpt技术背后的网络安全隐患

作者:中科三方发布时间:2023-02-21

原标题:中科三方云解析专家讲解Chatgpt技术背后的网络安全隐患

这段时间,网络最热的话题当属chatgpt无疑。

ChatGPT推出仅两个月,月活用户突破1亿,成为史上用户增长速度最快的消费级应用程序。

Chatgpt是一款由OpenAI开发的消费级人工智能应用,它通过与人对话的方式,完成编程、翻译、写作等一系列复杂任务,展示出AI惊人的能量,为各行业的生产方式带来了巨大变革。chatgpt爆红之后,谷歌、微软、百度、科大讯飞等国内外科技巨头,也纷纷入局聊天机器人项目,人工智能技术随着chatgpt的出现而按下了加速键。

在chatgpt狂飙突进之时,我们除了看到其对于提升学习工作效率,改变生产创作方式之外,更要关注到这把科技利刃的另一面。

不少人认为,chatgpt技术的发展降低了人们发动网络攻击从事网络犯罪的门槛,而目前针对chatgpt的法律法规尚不完善,因此chatgpt类强人工智能的兴起势必会带来比之前更为严重的网络安全风险,这不得不引起我们的重视。

1.编写恶意软件

目前安全人员已发现网络攻击者使用chatgpt来开发恶意软件的情况。虽然chatgpt设置阻止其直接作恶,但研究人员已经找到了多种方法可以绕开chatgpt规则从而发动攻击。

在chatgpt的帮助下,攻击者可以借助人工智能生成的代码发动更快速、更迅猛的攻击,甚至让经验不足的攻击者也能编写出此前只能由专家来完成的精准恶意编码,如果不加约束,恶意软件将出现指数级增长。

2.社会工程

社会工程攻击是指通过合法的交流,来实施对受害者的心理诈骗,从而获取敏感信息或执行其他攻击行为。安全人员发现,使用chatgpt能够完美模拟各种社会环境,并生成可用于多种用途的类人文本,使攻击者更容易诱骗受害者提供敏感信息或下载恶意软件,加速社会工程攻击。

3.知识产权问题

Chatgpt最大的技术优势在于海量的文本数据挖掘,然后进行深度学习训练,但当前互联网上的大多数网站都有防止第三方收集信息的网站隐私条款,因此从法律上来讲,文本数据挖掘需要取得相应的知识产权授权。而目前包括我国在内的大部分国家的知识产权法律下,仅自然人享有著作权,这就意味chatgpt加工再创作的作品可能存在侵权行为。因此,我国也已出台了对AI深度合成技术的一些规范要求。

4.数据泄露

作为大型语言模型,chatgpt的训练数据集包含了TB级别的海量互联网文本数据,不少文字工作者和软件工程师都尝试使用chatgpt来作为提升自己工作效率的得力助手,但此过程中不可避免地会产生敏感数据的泄露。今年年初,有安全人员发现chatgpt生成的文本中有疑似商业机密的情况,此后国内外不少科技巨头开始提醒自己的员工在使用chatgpt时不要输入敏感信息数据,但这样起到的作用是微乎其微的。

虽然chatgpt使用的技术本身存在很多的安全隐患,但我们不能因噎废食,一味地去批判和否定,技术的进步在多数情况下都是利大于弊。在网络安全方面,正确合理地使用chatgpt技术可以有效降低网络犯罪的发生,它可以快速识别经常出现在网络上的不良信息,如暴力、色情、欺诈,以及刻意的虚假信息等内容。此外,chatgpt技术还可以提高网络系统的安全性,帮助政府和企业快速识别网络上的可疑活动,帮助监管机构及时阻止网络攻击行为的发生。

由此可见,chatgpt等新兴技术都是无关对错客观中性的,至于利弊关键还在于能否形成对新工具的理性使用。因此当务之急是建立有效的治理和法律框架,对其所带来的网络犯罪行为进行有效的监管和约束。另一方面,则是在技术上的发展与革新,网络技术在提升工作效率,改变生产方式之时,更应该关注背后的安全问题,因此加大网络安全技术的研发和投入,以有效应对chatgpt或其他新兴技术所带来的安全风险,是需要全球各界共同努力的。

而DNS作为整个互联网体系中的“导航系统”,其重要性不言而喻,而其缺乏验证机制的先天缺陷,也成为网络攻击的重点目标,而chatgpt这一利器的出现,无疑使得对DNS攻击更容易展开,破坏性也更为明显。因此,在各种眼花缭乱的新技术频频亮相之时,关注DNS这一互联网底层服务的安全显得更加重要。

中科三方作为中国科学院控股有限公司旗下的域名服务商,深耕域名领域二十余年,始终致力于域名解析新技术和新思路的探索研发,并于近日推出全新二代云解析系统。与传统解析技术相比,中科三方云解析具备智能解析、负载均衡、健康监测、宕机切换、DNSSEC、高防DNS、全局流量管理等诸多优点,可为广大政府机关和企业提供更智能、安全、稳定的权威解析服务,不断夯实网络服务根基,有效应对各种形式的网络安全挑战。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1