当前位置:首页|资讯|人工智能|元宇宙|ChatGPT|大语言模型

小心!人工智能可以这样窃听——

作者:参考消息发布时间:2023-08-13

原标题:小心!人工智能可以这样窃听——

参考消息网8月13日报道1956年,在苏伊士运河危机最严重之时,英国间谍彼得·赖特在埃及驻伦敦大使馆的密码室里安装了一个窃听器。其目的是,记录埃及人的哈格林密码机发出的噪音,以帮助破译他们的密码。如今,英国研究人员已经创造出这段往事的现代版本:先记录苹果笔记本电脑键盘发出的声音,然后利用人工智能技术推断出使用键盘的人的打字内容。

据英国《泰晤士报》网站8月7日报道,这些学者们希望证明,人工智能技术的进步,以及麦克风在我们数字生活中的扩散,是如何让我们在面对网络攻击时变得不堪一击的。他们成功了。而这表明,在公共场所使用笔记本电脑的任何人都有可能被罪犯或间谍记录下他们敲击键盘的声音并破译。

来自英国杜伦大学、萨里大学和伦敦大学皇家霍洛韦学院的专家们按下一台苹果MacBook Pro笔记本电脑键盘上36个键中的每个键25次,并录下声音。然后,这些信息被输入人工智能程序中,这样后者就能够识别每个键的发声规律。

然后,他们把一部iPhone手机放在距离同一台苹果笔记本电脑17厘米的地方,以便录下某人打字的声音。他们成功推断出打字内容,准确率达到95%。当他们用Zoom会议软件录音时,准确率下降到93%。

该研究论文的作者之一、萨里大学网络安全中心的伊赫桑·托雷尼说:“每个键都会发出独特的声音,而这种声音可以被记录下来,用于推断哪个键正在被按动。”

托雷尼几年前曾在一台恩尼格玛密码机上进行过类似试验。他问道:“艾伦·图灵曾为了破解恩尼格玛密码机历尽千辛万苦——他们当年是否可以只偷装一个麦克风,而无需破解整个系统?是否可以只通过关注声音来推断德国人的打字内容?”

答案是肯定的,不过当时的准确率只有大约70%。而在准确率方面,如今已经有了很大的提升。托雷尼说:“我们用的是目前最先进的模型,它可以让你体会到过去5年里人工智能模型在准确率方面有了巨大的进步,这种进步使得准确率从70%左右提升至接近完美的地步。”

这意味着,用于实施“边信道”攻击的技术现在已经普及。这种技术过去一直是军方和情报界的专利。

“边信道”攻击是指那些尝试从通信装置中窃取信号、并且可能对电磁波、声学和电力消耗加以利用的攻击。托雷尼表示,苹果公司可能会考虑给键盘敲击声加入随机噪音以阻止此类攻击,而Zoom软件则应当更大程度地压缩其音频。

研究人员还说,攻击对象的智能手表可能被攻破,然后被用于记录键盘敲击声。他们指出,科学家之前已经证明,可以通过分析智能手表记录的手腕动作来辨认打字内容,准确率为93.75%。

托雷尼说,该团队开发的人工智能模型的基础是已经普及的“现成”开源代码。他说:“因此,差不多到处都能找到这种工具。随便谁都可以搞到它,然后用它训练自己的模型,随后便基本上可以实施同样的攻击。”

人工智能监管机构面临的最大挑战之一是开源人工智能模型的扩散。元宇宙平台公司最近发布了类似于ChatGPT的复杂大型语言模型Llama 2供开发者免费使用。该公司声称,这是实现安全、健全和透明的人工智能技术的最佳途径。但批评者认为,把这种技术交到坏人手中是不负责任的。

托雷尼声称,作为一名值得信赖的安全分析师,他所做的研究表明,解决办法可能不是完全阻止开源运动。但他表示:“我们需要制定一套严格的纲领来控制机器学习模型。”

曾在杜伦大学工作的乔舒亚·哈里森是上述论文的第一作者,伦敦大学皇家霍洛韦学院的玛丽亚姆·梅赫尔内扎德是论文的合著者。

剑桥大学安全工程学教授罗斯·安德森在谈及这项研究时说:“网络安全领域的一个更普遍的问题是,要弄清新的深度神经网络技术将在哪些领域协助攻击或协助防御,以及这种变化将是渐进性的还是破坏性的。我预计,在未来几年里,我们将看到大量新的饶有趣味的攻击和防御工具。”


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1