当前位置:首页|资讯|OpenAI|ChatGPT

OpenAI将用ChatGPT指导用户获取可靠信息,避免美国大选信息滥用

作者:DeepTech深科技发布时间:2024-01-24

原标题:OpenAI将用ChatGPT指导用户获取可靠信息,避免美国大选信息滥用

当地时间 1 月 15 日,在美国艾奥瓦州举行的 2024 年总统选举首场初选中,美国前总统特朗普以超过 50% 的得票率成功胜出。而该州的初选,也意味着 2024 年美国大选的日程正式拉开帷幕。

事实上,2024 年是历史上非常特殊的一年,不只是美国,世界范围内将有 50 多个国家举行大选。

值得注意的是,在同一年投票选举新政府,既是美国和英国 60 年来的首次,也是 2004 年以来美国和欧盟的第一次。

不过,随着社会的发展,选举过程中需要面临的问题也越来越多,包括暴力威胁、选举工作人员短缺、网络安全攻击等。

AI 也是其中不可轻视的重要问题。基于全球选举的大背景,在音频、图像和文本生成等方面不断取得新进展的 AI,将成为一把双刃剑。

一方面,AI 有利于简化流程、改善国家服务,并为医疗领域提供帮助;另一方面,AI 也能够创建深度造假内容,并极有可能带来巨大的风险。

(来源:AI 生成)

为了更好地维护选举的公平性和合理性,社交媒体、人工智能等领域的科技公司,正致力于发挥自己的作用。

例如,在于当地时间 1 月 15 日发布的一份声明中,以 ChatGPT 和 DALL·E 3 等 AI 模型闻名的 OpenAI,计划从防止滥用、提高 AI 生成内容的透明度,以及改进对权威投票信息的访问三个方面出发,为 2024 年的全球大选做准备。

首先,基于让用户安全、负责地使用所开发的 AI 工具的目的,OpenAI 计划预测并防止与 AI 滥用的行为发生。

例如,在发布新系统前,该公司会征求外部(用户、合作伙伴等)反馈,并建立安全缓解措施,以减少潜在的危害。

比如,DALL·E 不会生成包括政治候选人在内的真人图像的请求,ChatGPT 及其 API 的使用政策也将不断完善。就选举而言:

其一,用户不能构建与民主选举有关的应用程序,以避免 AI 工具在个性化说服方面发挥作用。

其二,开发者不能为实现某种特定目标创建聊天机器人,比如冒充候选人或官方组织机构。

其三,不能开发如阻碍投票程序和资格、或者阻止投票等应用程序,这可能会影响人民参与民主进程。

其四,允许用户通过新的 GPT 举报潜在的违规行为。

同时,为了消除选民对 AI 生成内容来源的担忧,OpenAI 正在尽可能地推动文本、图像等内容的来源更加清晰。

具体来说,使用密码学技术对与内容来源有关的详细信息进行编码,进一步提高选民评估此类内容真实性的能力。

同时,OpenAI 开发一种名叫来源分类器的工具,以用于检测由 AI 生成的图像,即使这些图像被修改过。据了解,新闻从业者和科研人员等用户很快就可以使用该工具,以便通过他们增强打击虚假信息的力度。

此外,让 ChatGPT 生成的内容更加规范,比如帮助用户在阅读实时新闻消息时,能看到内容来源的归属链接。

最后,OpenAI 将为选民提供准确的信息,帮助他们做出明智的决策。目前,OpenAI 已经在联合全美州务卿协会,通过 ChatGPT 指导用户获取可靠的投票信息。

例如,在参加选举的过程中,当美国用户询问与选举程序有关的问题时,会被引导至美国投票信息权威网站 CanIVote.org。

显而易见,在选举开始之前滥用 AI,或将导致舆论影响力的规模化运作、信息的深度伪造,甚至冒充政治人物。从影响上看,这很可能会破坏民主进程、误导选民并扭曲公众言论。

2023 年的阿根廷总统选举,便是利用 AI 操控大选的典型案例之一。具体来说,右翼的自由派候选人哈维尔·米莱(Javier Milei)使用 AI 将竞争对手进行不合理描述,而他则以 300 万选票的优势轻松胜出。

而就 2024 年的选举来说,不仅意义重大,选举格局也非常多样化。在该背景下确保选举的公正性,本就是一项艰巨的任务。

复杂的 AI 技术的出现,以及它在塑造、影响和保护民主方面能够发挥的作用,更是让这一任务变得愈发复杂。

因此,必须警惕 AI 在造福于民的同时,可能带来的潜在危害。

上述 OpenAI 的积极举措,既凸显了 AI 与实现民主完整和公正之间的相互作用,又展现了科技公司在 AI 时代不得不面临的、更广泛的挑战和责任。

对于 OpenAI 本身而言,其会从这些早期的举措中吸取经验,并在全球范围内推广类似举措。另据了解,该公司将在未来几个月内分享更多的进展。

参考资料:

https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections

https://community.openai.com/t/official-blog-post-how-openai-is-approaching-2024-worldwide-elections/588324

https://www.axios.com/2024/01/15/chatgpt-openai-2024-elections

https://www.axios.com/2024/01/03/ai-elections-politics-chatbots-regulation

https://www.engadget.com/openai-lays-out-its-misinformation-strategy-ahead-of-2024-elections-022549912.html

https://www.maginative.com/article/preparing-for-elections-in-an-ai-powered-world-openai-outlines-its-approach-for-2024/

运营/排版:何晨龙


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1