AI图像在社交媒体中不断传播，观众还能相信什么？
自从AI图像、文字在今年3月后不断被人们开始使用，虚假的信息对于传播造成了不少的影响，而这影响正在潜移默化地改变人们的认知，甚至影响到了各大公司的股票下跌。
回首过去的半年，一系列事件的引发了关于人工智能在社交媒体和新闻中的影响的热议。5月底，一个名叫“Bloomberg Feed”的推特账号发布了一条令人震惊的消息：五角大楼附近发生了大爆炸，现场烟雾滚滚，一片混乱。随着这条推文的传播，全世界都为美国的安全担忧，甚至有人担心第三次世界大战即将爆发，导致美国股市下跌。
多个经过验证的推特账户分享了一张声称显示五角大楼附近发生爆炸的假图片 图源：美媒
而没多久后，一篇关于中国人工智能研发公司科大讯飞的文章——“科大讯飞出现重大风险的警示文”在网络上流传，导致其股价大幅下跌，引起了业界的广泛关注。科大讯飞及时作出了回应，表示传闻为不实消息，系有人利用文心一言写了这篇文章。
在这篇生成式AI撰写的科大讯飞风险的警示文中，涉及到了科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究等，虚假信息和图片的传播速度之快对金融市场和社交媒体平台产生了直接影响。这一行为严重侵犯了用户的隐私权，引发了公众的强烈不满和抵制。”
科大讯飞紧急回应：“系某生成式AI撰写的科大讯飞风险警示，公司未发生相关事件，公司法务部已对相关信息取证。”科大讯飞（002230）股价于当日午间13点开始断崖式下跌，一度下跌9.16%。随后逐渐回升，截至收盘，公司股价56.57元，收跌4.26%。使得科大讯飞股价迅速跳水的。
此外，一组伪造的AI 生成的飓风伊达利亚的天气照片被发布到社交媒体上，吸引了数百万次的浏览和分享，造成了人们对天气的恐慌。
AI 生成的飓风伊达利亚
这些AI信息的滥用事件引发人们对AI在信息传播中的可信度和责任的担忧。虚假信息和图片的传播速度之快对金融市场和社交媒体平台产生了直接影响。仅一张虚假的爆炸图片不仅引发了美国股市的下跌，还引发了对“恶作剧”的讨论。科大讯飞公司的股价也受到虚假文章的影响，对公司造成了难以逆转的危害。
这些事件的出现，都让人们感受到人工智能在信息传播中的潜在风险和挑战。虚假信息和图片的传播可能对金融市场、公司和社会产生负面影响，因此需要更加严格的监管和技术解决方案来确保信息的准确性和可信度。
引起恐慌
据悉，最早发放五角大楼爆炸假照片的推文，来自先前散播过假消息、力挺特朗普的极右阴谋论组织「匿名者Q」（Q Anon）宣传账号。这张假照片瞬间在Twitter上被大量转发，包括俄罗斯新闻媒体RT和金融新闻网站Zero Hedge等，都接连分享这幅五角大楼爆炸图，一度引发金融市场恐慌，导致美股短暂下跌，标准普尔500指数亦一度下跌0.29%，随后止跌回升。
生成式AI技术能使业余人士在毋须使用Photo shop等专业软件的情况下，在短时间内生成令人信以为真的照片。虚假信息阴谋论组织传播，通过Twitter等渠道扩散，甚至引发金融市场的短暂恐慌。生成式AI技术的崛起使得虚假信息的制作变得更加容易，需要更强的监管和防范机制来应对这一挑战。
此前网上流传特朗普被捕的假照片。网源网络。
AI监管是科技革命
AI监管是科技革命中的一个重要方面。随着人工智能技术的不断发展和应用，各国纷纷出台了AI管理政策，旨在应对这一新兴领域带来的挑战和机遇。这些政策的制定反映出政府、企业和社会对AI的重视程度，以及对其潜在影响的认识。
2023年4月11日，中国国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》，该办法是国内生成式人工智能（AI）领域的首份监管文件。与此同时，美国也在同一天传出了考虑出台人工智能监管措施的消息。据《华尔街日报》11日的报道，美国商务部正式开始公开征求意见，其中包括是否应该通过认证程序来审核具有潜在风险的新人工智能模型在发布前的问题。此外，英国、意大利、加拿大等国也相继宣布了加强对人工智能监管政策的意向。
图源网络
除了相关法律条例的指定，面对AI影像和文字，传播平台的信息审核变得更为重要，如何守住AI的防守线？各大平台都开始制定规则和标准。
美国时间9月19日，TikTok宣布将在本周内推出一项新工具，旨在帮助内容创作者标识由人工智能生成的内容，并计划测试自动标记这类内容的方法。根据TikTok的规定，任何包含人工智能生成图像、音频或视频的内容都必须添加“AI-generated”标签，以避免误导用户。
这一新技术颠覆了传统的内容创作逻辑，对传统内容生态提出了挑战。而在国内，以二次创作为主要特色的B站，于9月20日推出了“创作者声明”功能，要求UP主在发布包含人工智能生成内容的作品时添加作者声明，以防止误导观众。这样让观众有选择新闻的真实性的机会。
新闻从业者与AI技术的合作
随着人工智能技术在新闻生产中的广泛应用，不同职业领域之间的界限逐渐变得模糊，这为新闻从业者提供了更多多样化的机会。新闻记者可以将其采集到的一手素材输入到自动内容生成模型中，利用技术的力量来整理生成新闻稿件，从而减少新闻编辑的工作量。与此同时，新闻编辑也能够通过自然语言处理大型模型来搜索信息和数据，从而有效地减轻了信息搜集的工作负担。这些技术的运用使新闻从业者更具多面的能力，促使他们在新闻生产过程中更好地适应了不断变化的要求。
在这个数字化时代，AI图像技术的崭露头角无疑为新闻和社交媒体带来了许多令人兴奋的可能性，但也会引发一系列令人担忧的问题。观众应该持谨慎和批判性的态度，不仅要欣赏AI技术的创新，还要保持对信息的质量和真实性的高度关注。因此，面对这一新兴技术的挑战，观众要客观看待，以确保信息的准确性和透明度在新闻和社交媒体中依然存在，从而维护我们社会信息生态系统的稳定性。
参考资料：证券时报网-《突发！A股千亿AI龙头，一度闪崩暴跌！发生了什么？》
星岛网-《五角大楼爆炸假照片疯传，AI图一度引发美股恐慌》
环球网-《规范AI发展，各国纷纷出手》
财新网-《特稿｜一场AI生成内容的造富盛宴》
扬子晚报-《传媒观察｜人工智能给新闻业带来哪些变革与挑战》