为什么生成式人工智能比你想象的更危险
最近关于生成式AI的危险的文章很多，但我所看到的一切都归结为三个简单的论点，没有一个能反映我看到的最大风险。
1.工作风险：生成式人工智能现在可以生产从艺术品和论文到科学报告的人类水平的工作产品。这将极大地影响就业市场，但我认为这是一个可控的风险，因为工作定义适应了人工智能的力量。这将是一段时期的痛苦，但与前几代人如何适应其他节省工作的效率没有什么不同。
2.虚假内容的风险：生成式 AI 现在可以大规模创建具有人类品质的人工制品，包括虚假和误导性的文章、论文、论文和视频。错误信息并不是一个新问题，但生成式 AI 将允许它以前所未有的水平大量生产。这是一个重大风险，但可控。这是因为可以通过强制水印技术在创建时识别 AI 内容，或通过部署基于 AI 的反制措施来识别假内容，这些反制措施经过培训可在事后识别 AI 内容。
3.有感知力的机器的风险：许多研究人员担心，人工智能系统会扩展到发展出“自己的意志”的水平，并会采取与人类利益相冲突的行动，甚至威胁到人类的生存。我认为这是一个真正的长期风险。不过，我不认为如果不对技术进行重大结构改进，当前的人工智能系统将不会自发地变得有感知力。因此，虽然这是业界需要关注的真正危险，但这并不是我所看到的最紧迫的风险。
图片来源小程序：吸猫王者
那么，对于生成式人工智能的兴起，我最担心的是什么？
在我看来，大多数安全专家犯错的地方在于，他们主要将生成式人工智能视为大规模创建传统内容的工具。虽然该技术非常擅长制作文章、图像和视频，但更重要的问题是，生成式人工智能将释放出一种全新的媒体形式，这种媒体形式高度个性化、完全互动，并且可能比我们的任何形式的目标内容更具操纵性。
生成式人工智能最危险的特征不是它可以大规模制作假文章和视频，而是它可以生成针对个人用户定制的交互式和自适应内容，以最大限度地发挥说服力。在这种情况下，交互式生成媒体可以定义为实时创建或修改的有针对性的宣传材料，以根据有关接收用户的个人数据最大化影响目标。
这会将“针对性的影响活动”从针对广泛人口群体的子弹转变为可以对个人的热追踪导弹。这种新的媒体形式可能有两种强大的形式，“针对性的生成式广告”和“针对性的影响对话”。
图片来源小程序：吸猫王者
针对性的生成式广告是使用图像、视频和其他形式的信息内容，其外观和感觉类似于传统广告，但为个人用户实时个性化。这些广告将由生成式 AI 系统根据第三方赞助商提供的影响目标结合针对特定目标用户访问的个人数据即时创建。个人数据可能包括用户的年龄、性别和教育水平，以及他们的兴趣、价值观、审美敏感性、购买倾向、政治派别和文化偏见。
为响应影响目标和目标数据，生成式 AI 将自定义布局、特色图片和促销信息，以最大限度地提高对该用户的影响力。包括颜色、字体和标点符号在内的一切都可以根据图像中显示的任何人的年龄、种族和服装风格进行个性化设置。您会看到城市场景或乡村场景的视频片段吗？它会在秋季或春季设置吗？您会看到跑车或家用货车的图像吗？每个细节都可以通过生成式 AI 实时定制，以最大限度地提高对您个人的微妙影响。
由于技术平台可以跟踪用户参与度，随着时间的推移，系统将了解哪种策略最适合你，发现最能吸引你注意力的头发颜色和面部表情。
随着对话计算在我们的生活中变得司空见惯，对话影响的风险将大大增加，因为付费赞助商可能会在对话中注入我们甚至可能没有注意到的消息。与定向生成广告一样，赞助商要求的消息传递目标将与目标用户的个人数据结合使用，以优化影响。
图片来源小程序：吸猫王者
数据可能包括用户的年龄、性别和教育水平，结合个人兴趣、爱好、价值观等，从而实现旨在以最佳方式吸引特定人的实时生成对话。
如果您曾经担任过销售人员，您可能知道说服客户的最佳方式不是递给他们宣传册，而是与他们进行面对面的对话，这样您就可以向他们推销产品，听他们的保留意见并根据需要调整您的论点。这是一个推销和调整的循环过程，可以“说服他们”购买。
虽然这在过去是一项纯粹的人类技能，但生成式人工智能现在可以执行这些步骤，而且可以利用更高的技能和更深入的知识。
这些 AI 代理将是数字变色龙，可以采用任何说话风格，从书呆子或平易近人到温文尔雅或时髦，并且可以采用任何销售策略，从与客户交朋友到利用他们对错过的恐惧出去。而且由于这些 AI 代理将拥有个人数据，他们可以提及合适的音乐艺术家或运动队，让您轻松进行友好对话。
图片来源小程序：吸猫王者
此外，技术平台可以记录之前的对话如何说服你，了解哪些策略对你个人最有效。你会回应逻辑诉求还是情感争论？您是追求最大的便宜还是最高的品质？您是否被时间紧迫的折扣或免费附加服务所左右？平台将很快学会动用你的所有力量。
当然，对社会的最大威胁不是卖给你一条裤子的优化能力。真正的危险是，同样的技术将被用来推动宣传和错误信息，让你陷入错误的信仰或极端的意识形态，否则你可能会拒绝。例如，可以指导对话代理来说服您，绝对安全的药物是危害社会的危险阴谋。而且由于 AI 代理将可以访问充满信息的互联网，因此他们可以以甚至会压倒最有知识的人的方式挑选证据。
这造成了一种不对称的权力平衡，通常被称为AI 操纵问题，在这种情况下，我们人类处于极端劣势，与非常擅长吸引我们的AI代理交谈，而我们没有能力“阅读”实体的真实意图。