ChatGPT 的危险是什么？
自 2022 年 11 月 30 日发布以来，ChatGPT 一直被誉为人工智能 (AI) 领域最大的发展之一。名称中的“GPT”代表 Generative Pre-trained Transformer (GPT)，这是一种神经网络学习模型，可让机器执行自然语言处理 (NLP) 任务。许多人认为，ChatGPT 被誉为科技界的颠覆者，很快将取代谷歌长达数十年的搜索引擎第一名。但是，虽然 ChatGPT 拥有自己令人难以置信的一组功能，但聊天机器人也有阴暗面，这让很多人担心，这是可以理解的。
ChatGPT 由OpenAI创建和推出， OpenAI是一家由 Elon Musk 和 Sam Altman 与其他人共同创立的公司，ChatGPT 本质上是一个 AI 聊天机器人，能够执行分配给它的任何基于文本的任务。换句话说，ChatGPT 可以比人类更快、更准确地编写大量代码。它也可以执行纯粹的艺术任务，例如写诗或歌词。
据报道，聊天机器人的专业版也将很快发布。它将能够更快地响应查询，并允许用户即使在平台上的高流量期间也可以使用它。
ChatGPT 的兴起
宾夕法尼亚大学著名的沃顿商学院副教授 Ethan Mollick 告诉NPR ，人们现在正式进入了 AI 世界。
ChatGPT 自发布以来一直是头条新闻。它在短短两个多月的时间里获得了难以置信的人气。除了马斯克之外，比尔盖茨是人工智能的最大拥护者之一 - 并且推而广之，聊天机器人。
媒体上有消息称，他与他人共同创立并在董事会任职至 2021 年的微软公司可能会向 OpenAI 投资 100 亿美元。微软此前曾在 2019 年和 2021 年两次投资 OpenAI。2023 年 1 月 23 日，这家由 Satya Nadella 领导的公司证实，它将“通过多年、数十亿美元的投资来加速 AI 的突破” ，从而扩大与 OpenAI 的合作关系。但是，该公司没有透露其投资的数字。
ChatGPT 的另一位支持者是亿万富翁印度商人 Gautam Adani。Adani 承认他对聊天机器人“有些上瘾”，此前他在LinkedIn上的一篇帖子中表示，ChatGPT 标志着“人工智能民主化的转型时刻，因为它具有惊人的能力和滑稽的失败。”
ChatGPT 如何证明其“实力”
ChatGPT 除了越来越受欢迎并在建设性地响应用户查询方面发挥作用外，还在世界上一些最重要的考试中留下了自己的印记。
聊天机器人通过了美国医学执照考试 (USMLE)。医学资料库 medRxiv 表示，它在没有任何形式的特殊培训或协助的情况下“表现达到或接近通过门槛”。
“这些结果表明，大型语言模型可能有助于医学教育，并可能有助于临床决策，” medRxiv 评论道。
该聊天机器人还通过了宾夕法尼亚大学 MBA 考试——一门运营管理课程——由沃顿商学院教授 Christian Terwiesch 设计。他说，ChatGPT 进行了三项不同的考试。它在一次考试中得分为 A+，在另一次考试中得分为 B 至 B-。第三，它被要求生成试题。
“这些问题很好，但不是很好。他们在某种程度上是有创意的，但他们仍然需要打磨。我可以想象在未来将 ChatGPT 作为合作伙伴来帮助我开始一些考试问题，然后从那里继续，” Terwiesch 告诉沃顿全球青年计划。
然而，尽管对 ChatGPT 的热情很高，但并没有多少教育工作者对此印象深刻。由于担心它很容易助长作弊行为，世界各地的一些学校和学院已经禁止使用 AI 聊天机器人。
ChatGPT 会影响自动化等工作并产生其他问题吗？
人工智能是一种众所周知的东西，总有一天会取代人类的手。随着 ChatGPT 的到来，人们越来越担心人工智能工具会抢走工作。
例如，聊天机器人可以在几分钟内就其参数范围内的几乎任何主题写出一篇详细的文章。这显然威胁到那些从事书面内容制作的人的生计，至少是那些从事非专业、重复性写作任务的人。
其他一些聊天机器人仅凭基本指令就能创作出杰出的艺术作品，从而取代了人类艺术家的角色。
“在人工智能 (AI) 和机器人技术快速发展的推动下，新一代智能机器有可能取代大部分现有的人类工作。虽然会像过去一样创造一些新的工作岗位，但令人担忧的是，这些工作岗位可能不够多，特别是随着智能机器的成本随着时间的推移而下降，而它们的能力也在提高，”世界经济论坛 (WEF) 观察到在2018 年的一份报告中。
然而，在2020 年的一份报告中，世界经济论坛表示，“人工智能有望在美国和全球经济中创造更大的增长。”
人工智能如何影响工作将在未来几年变得更加清晰，但 ChatGPT 等聊天机器人肯定会开发恶意软件或网络钓鱼活动，研究人员正以紧急警报的方式注意到这些活动。
恶意软件
为福布斯撰稿，作者 Bernard Marr 表示，“理论上”ChatGPT 不能用于执行恶意任务，因为 OpenAI 已经包含在其中的安全措施。
Marr 通过要求它编写勒索软件来测试聊天机器人。但 ChatGPT 回应称，它不能这样做，因为它“不是为了促进有害活动”。但 Marr 强调，一些研究人员已经能够让 ChatGPT 创建勒索软件。
他还警告说，NLG/NLP 算法可以“被利用来让几乎任何人都能创建自己定制的恶意软件。”
“恶意软件甚至可以‘监听’受害者的反击尝试——例如，与求助热线工作人员的对话——并相应地调整自己的防御措施，”他写道。
安全供应商 CyberArk 等研究人员发现， ChatGPT可用于创建多态恶意软件，这是一种高度规避的恶意软件程序。
CyberArk 的 Eran Shimony 和 Omer Tsarfati 透露，他们能够绕过 AI 聊天机器人的过滤器，防止它创建恶意软件。他们通过改写和重复他们的查询来做到这一点。他们还发现 ChatGPT 可以复制和变异代码并创建它的多个版本。
研究人员写道：“通过连续查询聊天机器人并每次接收一段独特的代码，可以创建一个高度隐蔽且难以检测的多态程序。”
Recorded Future 的研究团队也揭示了类似的发现。他们发现 ChatGPT 可以创建恶意软件负载，例如那些可以窃取加密货币并通过木马获得远程访问权限的负载。
ChatGPT 可以被引导生成它认为“不道德”的程序，可以在下面的推文中看到：
网络钓鱼
由于 ChatGPT 和类似的替代聊天机器人能够详细编写，因此它们可以轻松创建措辞精美的网络钓鱼电子邮件，诱使目标目标共享其敏感数据或密码。
“它还可以自动创建许多这样的电子邮件，所有这些电子邮件都针对不同的群体甚至个人进行个性化设置，”Marr 写道。
Recorded Future 的研究人员在他们题为I, Chatbot的报告中写道，“ChatGPT 令人信服地模仿人类语言的能力使其有可能成为一种强大的网络钓鱼和社会工程工具。在 ChatGPT 发布后的几周内，暗网上的威胁行为者和特殊访问来源开始猜测它在网络钓鱼中的用途。”
研究人员测试了聊天机器人的鱼叉式网络钓鱼攻击，发现它没有犯同样的错误，例如与拼写和语法相关的错误，这些错误在此类邮件中很常见。语言错误有助于提醒人们识别网络钓鱼电子邮件。如果没有此类指标，用户更有可能成为聊天机器人起草的网络钓鱼电子邮件的牺牲品，并影响他们提交个人身份信息。
“我们相信 ChatGPT 可以被英语不流利的勒索软件分支机构和初始访问代理 (IAB) 用来更有效地分发信息窃取恶意软件、僵尸网络暂存工具、远程访问木马 (RAT)、加载程序和植入程序，或者一次性Recorded Future 研究人员写道，不涉及数据泄露的勒索软件可执行文件（“单次勒索”与“双重勒索”）。
虚假信息
Recorded Future 强调的来自 ChatGPT 的最重大威胁之一是聊天机器人如何通过低技能的威胁行为者轻松地和欺骗性地传播虚假信息。
研究人员警告说，聊天机器人可以被民族国家行为者、非国家行为者和网络犯罪分子用作武器。这是因为它能够准确地模仿人类语言并传达情感。
研究人员指出：“如果被滥用，ChatGPT 能够编写模仿人类编写的错误信息的误导性内容。” “虚构”或“创意写作”。
研究人员强调：“自然灾害、国家安全（如恐怖袭击、针对政客的暴力行为或战争）、与流行病相关的错误信息等话题也是如此，”研究人员强调。
威胁会在短时间内成倍增加，而画面可能真的像 Recorded Future 所描绘的那样具有毁灭性。
网络安全研究公司Check Point Research分析了主要的地下黑客社区，发现网络犯罪分子使用 OpenAI，其中许多人“根本没有开发技能”，这意味着技能较低的犯罪分子能够将 AI 用于恶意目的。
Check Point Research 警告说：“更复杂的威胁行为者会增强他们使用基于 AI 的工具来作恶的方式，这只是时间问题。”