澎湃思想周报｜拟人化人工智能与性别偏见；积极心理学的效用

更“亲密”的人工智能与性别偏见

当地时间5月13日，OpenAI 公司召开发布会，发布了名为ChatGPT-4o（o=omni，即“全方位”的意思）的全新版本。GPT-4o版本的一大亮点，是实现了GPT的拟人：能够在聊天中模拟人的情绪，实时读懂人的情绪，在情绪层面与人互动。此外，AI还可以通过摄像头、收音孔和麦克风，实时查到图像、听到声音，并对获取的信息进行实时互动。

当地时间2024年5月13日，加利福尼亚州拉斐特，一个手持iPhone的人使用OpenAI5月发布的ChatGPT GPT-4o模型。

OpenAI 首席执行官山姆·奥特曼在博客文章中说：“（GPT-4o）感觉就像电影中的人工智能。实现人类级别的响应时间和表达能力带来了巨大的变化。”种种迹象表明，奥特曼所指的电影，是2013年斯派克·琼斯的电影《她》，电影讲述了一位孤独的作家爱上了旨在满足他所有需求的操作系统（由斯嘉丽·约翰逊配音）。在OpenAI的演示中，机器人的声音听起来与斯嘉丽·约翰逊极为相似。如果这些细节还不够明显——在发布会后，奥特曼直接在推特上写道：“她（her）”。

许多技术专家指出，除了有着和斯嘉丽·约翰逊类似的声音外，GPT-4o还喜欢调情和卖弄风情，这些特点令人不适。MSNBC的作者Zeeshan Aleem对GPT-4o作出以下描述：“（GPT-4o）采用轻佻的女性声音，它的工作就是顺从地接受命令，允许用户不断地打断其发言而从不抱怨，然后以无尽的情感回馈用户——甚至是近乎性感的关注。这些可能是男性高管在1950年代对他们的私人助理的期望，但这不是我们今天社会所处的状态。”对此，彭博社的科技专栏作者帕米·欧尔森（Parmy Olson）问道：“经常在手机上与一个喜欢调情、幽默风趣，并且最终会同意你的人工智能对话，然后在现实生活中与男女互动时，遇到完全不同的动态，这会带来怎样的社会和心理影响？当情感脆弱的人对 GPT-4o产生不健康的依赖时，又会发生什么？”尽管 GPT-4o对用户心理健康的潜在影响尚不明确，但可以预测的是，该功能将大大增加部分用户的黏性，帮助OpenAI公司抢占市场。

目前，OpenAI公司尚未对这些问题作出回应。但我们可以从大量的相似案例中分析其社会影响。《卫报》的专栏作者阿瓦·马达维（Arwa Mahdawi）在评论文章中写道：大量的科技公司有意识地赋予语言智能助手某种“年轻且顺从的女性声音”，例如苹果的Siri和亚马逊的Alexa。2018 年，南加州大学的社会学教授萨菲亚·乌莫加·诺布尔（Safiya Umoja Noble）警告称，助理的声音性别会影响我们与它们的对话方式。诺布尔指出：虚拟助手引发了“对女性声音的命令式语言的增加。例如，孩子们在玩智能设备时可能会学会说‘Siri，帮我找（某物）’。这是一种强大的社会化工具，它教会我们女性、女孩以及被性别化为女性的人，是遇到需求就会做出回应的角色。”

2019年联合国教科文组织的一份报告也呼应了诺布尔的警告。报告指出：“由于大多数语音助理的声音是女性，这发出了一个信号，即女性是顺从、听话、乐于助人的，只需按一下按钮或（对她）发出一个简单的语音命令（就能得到回应）。”这些语音助理不仅传递了关于性别范式的信号，而且得到了大规模传播。例如，苹果的Siri“首次亮相时并不是一个无性别的机器人，而是一个机智的年轻女性，她会回避侮辱，喜欢调情，并以俏皮的服从口吻来服务用户......这项独特的技术由美国加州的苹果公司秘密开发，几乎没有女性的参与，在短短15个月内就塑造了全球对于人工智能助理的期望。”

联合国教科文组织性别平等主任萨尼耶·格尔塞·科拉特（Saniye glser Corat）表示：世界需要更加密切关注 AI 技术是如何、何时被赋予性别，以及是否被性别化。问题的关键是谁在赋予它们性别？大型科技公司对此作出过一些回应，并开始为他们的语音助手提供更多男性化的声音选项。尽管如此，ChatGPT的新版本似乎清楚地表明，OpenAI并没有对人工智能技术的性别化以及其带来的后果投入应有的关注。阿瓦·马达维表示：尽管有关ChatGPT的创新，以及它将如何改变世界的讨论络绎不绝，但科技界的男性至上主义问题似乎没有太多改变。令人沮丧的是，数字技术界中根深蒂固的性别偏见依然存在，而我们还在进行与十多年前相同的对话。

引用文章：

https://www.msnbc.com/opinion/msnbc-opinion/openai-gpt-4o-sexy-voice-rcna152370

https://www.theguardian.com/commentisfree/article/2024/may/16/openai-chatgpt-sexy-persona

https://nymag.com/intelligencer/smarthome/i-was-a-human-siri-french-virtual-assistant.html

https://unesdoc.unesco.org/ark:/48223/pf0000367416/PDF/367416eng.pdf.multi

https://www.bloomberg.com/opinion/articles/2024-05-14/openai-s-new-chatgtp-gpt-4o-can-flirt-what-could-go-wrong?embedded-checkout=true

积极心理学的生效机制

大学生群体的心理健康问题已经成为全球性的危机。2018年，英国布里斯托大学经历了一段悲剧性的时期，多名学生因为学业压力问题自杀。校园里普遍蔓延着一种学生无法应对高等教育要求的感觉，他们被成绩和其他表现成果所过度困扰，教师和提供支持的员工都越来越多地需要缓解学生焦虑。在此情况下，学校投入了大量经费用于提供更多的心理健康服务，但在该校发展心理学教授布鲁斯·胡德（Bruce Hood）看来，这一策略的问题在于，当学生寻求专业服务时，意味着他们已经处于危机之中，他决定尝试开设一门积极心理学课程来预防学生心理危机的发生。近日，他在Aeon撰文介绍了开课五年之后发现的积极心理学令人们更幸福的内在机制。

胡德发现，每所高等教育机构都在经历类似的心理健康危机，在美国常春藤联盟大学中也是如此。以耶鲁大学2018年春季学期在学生中最流行的积极心理学课程“心理学与好生活（Psychology and the Good Life）”为基础，胡德在这一年的秋季学期开设了午餐时间免费试听课程“幸福的科学（the Science of Happiness）”。试听课程共十节课，不计入学分，但仍然吸引了500多名学生放弃周三中午的休息时间前来听课，每个学生都被要求在课程前后填写自我报告问卷，评估心理健康的各个方面，以确定课程是否产生了影响，如果有，产生了多大的影响。

布鲁斯·胡德新著《幸福的科学》

一开始，胡德对开设这门并不是他学术专长领域的课程十分紧张，在校园悲剧事件引起媒体关注的背景下，他担心谈论心理健康问题是否会引起不良反应。而作为一名发展心理学家，他刚开始对积极心理学干预措施是有所怀疑的，但课程结束后的反馈非常积极，对问卷得分的分析显示，参与课程的学生在衡量幸福感、焦虑和孤独感的不同指标上都有平均10%-15%的正增长。于是，胡德将自己的研究兴趣转移到如何让学生更幸福这个课题之上，从次年开始为刚入学的新生开设计入学分的选修课。

在胡德开始这项尝试的至少十年之前，就已经出现了在大学中开设心理教育课程的努力，但他在布里斯托大学开设的这门课程的独特之处在于，他说服了学校同意开设一门没有等级考试、仅凭参与度就能获得学分的课程，因为他认为在讲授一个完全基于评估的教育系统的失败的同时要求学生参加考试是虚伪的。作为代替，要求每周按时上课，参加同伴指导小组会议，同时进行积极心理学练习，并将自己的经历写成日记以便追踪进展。同样的，为了测试课程的影响，学生们被要求填写各种心理测量问卷。五年的数据提供了和最初试讲一致的结论：课程持续时间，参与学生的积极心理健康水平会平均提高10%-15%，但长期分析显示，除非学生在课程结束后坚持进行一些建议的活动，否则课程期间和课程结束后两个月内产生的积极效果会在一年内消失，但对于那些至少坚持一项积极心理学干预措施（例如写日记、冥想、运动、表达感激之情或其他被证明有效的活动）的学生而言，他们在两年后仍能保持课程带来的益处。

为了理解干预措施为什么有效，又为什么失效，胡德开始探索积极心理学生效的内在机制。此前该领域的知名学者提出了一些看似合理的假说，但这些假说缺乏一个统一的主线，从发展心理学家的视角出发，胡德始终关注人类思想和行为的变化和连续性，他认为答案存在于我们关注自我的方式之中。童年时期的自我概念为日后的认知奠定了基础，一系列儿童研究的结果表明，当儿童被指导谈论自己时，他们会对自己的所有物产生不同的看法，会更不愿意与他们分享，强调自我让孩子变得更自私。心理学家让·皮亚杰提出了“以自我为中心的世界观”这一术语和概念，许多研究表明，婴幼儿看待世界、行为、谈话、思考和与他人相处的方式都是以自我为中心的，正常的发展需要采用更多的非自我中心的视角，或者说基于他者的视角，这样才能被他人接受。自我意识会从早期充沛的自我中心主义转变为越来越意识到自己在社会秩序中的相对位置。当儿童变得更加关注他人，越来越有自我意识，也会越来越在意他人对自己的看法——这在青春期变成一种执迷并且永远不会真正消失。人类成年之后，过去的思维范式不会被完全抛弃，对自我的关注会成为一种“诅咒”，为内心深处不断对生活状况进行负面评价的批评者提供养料。

胡德指出，自我关注之所以会成为一种诅咒，其中一个原因是我们不了解对大脑运行的偏差，这些偏差会导致我们做出错误的决定和比较。我们认为某样东西会让我们快乐，但我们的预测可能并不准确，我们会因为只关注一个因素而忽视未来环境的不同，我们往往意识不到我们习惯事物的速度有多快，无论好事还是坏事，这就是“情感预测失败”。自我关注最有害的一面是我们总是倾向于将自己和那些似乎生活得更幸福的人进行比较，这在社交媒体上充斥着他人光鲜生活的当下更加严重。改变自我中心主义视角是很有挑战性的，我们的意识流是从第一人称的以自我为中心的视角出发的，我们的感官系统、思维过程和自我表征都是这样编码的，因为这样我们才能作为连贯的实体与世界进行互动。

积极心理学的干预措施中，分享、善举、表达感激、参与志愿服务等都是关注他人福祉的尝试，但也包括写日记、冥想等以自我为关注焦点的独处活动。这些活动有效的原因在于大脑中被称为默认模式网络（DMN）的自我表现回路。早期的大脑成像技术发现，当我们不专注于某一项任务时，DMN非但不会变得不活跃，反而会超负荷运行，这或许与积极的白日梦有关，但人们也在这种模式下沉思未解决的问题和困扰。在一项颇具影响力的研究中，研究人员在一天中的不同时间随机询问人们在做什么、在想什么以及感觉如何，结果发现人们在走神的时候通常会不快乐，而这占到了清醒时间的一半。但试图控制自己不去胡思乱想是没有意义的，因为这反而会增加问题占据你头脑的可能性。定期写日记有助于我们以一种更可控、更客观的方式处理信息，而不是屈从于自动思维的折磨。正念冥想主张不要试图压制自发的想法，而是有意识地将注意力转向身体感觉或外部声音，这样注意力的焦点就会从与自己内心的对话中转移开来，冥想或散步等活动能够降低DMN活动，从而减少负面的沉思。基于同样的机制，胡德还在课程中建议学生进行一些有一定挑战性但又不至于压垮他们的活动，因为在理想的心流状态下达到全神贯注或是完全沉浸能够将意识和注意力从自我关注中吸引出来，进入这种状态时，人的自我感甚至时间感都会消失。其他有助于调整自我中心主义和非自我中心主义之间的平衡的方法还包括具有争议性的药物使用、参加能够产生共时性的集体活动（比如仪式、舞蹈或合唱）以及太空旅行。

在文章的最后，胡德回到了斯多葛主义哲学家爱比克泰德的名言：“人不是被事物本身所困扰，而是被他们对事物的看法所困扰。”有趣的是，斯多葛主义似乎正在重新成为一种时代潮流，不仅在心理健康领域影响巨大，经过简化和重新包装的斯多葛哲学碎片在大众文化中也大受追捧，这绝非巧合。在众多结构性问题看似无解的当下，积极心理学和斯多葛哲学的一些理念或许的确在一定程度上有助于改善人们的心理状况——根据胡德的研究，能够平均提升10%-15%的幸福感，但马可·奥勒留在《沉思录》中对人生的意义的追问仍然值得思考，“我被创造出来就是为了把自己暖暖和和地裹在毛毯里吗？”

参考资料：

https://aeon.co/essays/what-the-science-of-happiness-says-about-the-self-and-others

https://www.thecollector.com/why-has-stoicism-gained-popularity-in-modern-times/

https://www.spectator.co.uk/article/stoicism-is-back/