“请不要对我有过高的期望，我仅是一个AI模型”丨对话ChatGPT

当地时间2023年2月1日，瑞士高中教师参加了关于ChatGPT的研讨会。（视觉中国/图）

ChatGPT无所不能？看起来并不是这样。至少在让它发表关于“杨紫琼和凯特·布兰切特谁问鼎奥斯卡最佳女主角奖胜算更大”“《流浪地球》和《阿凡达》谁更好看”这样带有主观思考的问题时，它回答不上来。也就是说，它暂时还没有拥有自主意识。

但谁也不能否认它的强大。这个会“说话”的、经过预训练的AI聊天程序于2022年12月被开发出来，只用了短短两个月就累积了1亿用户，在互联网的发展历程中，还没有哪个互联网应用的用户增长速度能与它匹敌。ChatGPT参加过SAT（美国大学入学测试），得分1020分，超过了同期48%的人类考生，它还参加过智商测试，得分83分。

“ChatGPT好吓人，我们离强大到危险的AI不远了。”马斯克在它诞生之日就在推特上发文说。ChatGPT的创造者是一家叫OpenAI的科技公司，马斯克正是该公司的创始人之一，这家公司早就声名在外，2022年在互联网掀起过讨论热潮的强大绘画软件DALL·E 2也是它开发的。为了训练ChatGPT的智力，OpenAI在模型训练中引入了人类专家，专家一方面帮助它撰写更符合人类习惯的回答，另一方面对生成的结果进行排名，以此实现模型优化。同时，在ChatGPT诞生之前，Open AI不惜花大力气启动奖励机制来加强用户反馈，甚至还组织专门的反馈竞赛，鼓励用户针对回答中的风险危害、新颖程度等方面给予反馈。

ChatGPT之所以让谷歌、百度等搜索引擎胆寒，在于它的变革性——传统搜索引擎都只能采用“推荐制”，也就是说为用户尽可能呈现相关的资料，但ChatGPT跳过了浏览、比对和整合信息的步骤，能直接给出一个答案。与ChatGPT的“对话”（它目前还不能说话，只能实现文字输入），已不是简单的提问和搜索，有媒体评价“更像是一场跨物种的对话”。

Siri、小冰、小度等智能语音机器人只能简单进行一问一答，少了人性化的味道，但是ChatGPT懂得理解上下文，更重要的是，它可以进行创作，让它撰写代码、论文、剧本等，它都可以即时完成，而且做到文通字顺。它还可以模拟特定的人物发言，如果提供给它的个性信息越详尽，它的迷惑性就越大，总之，它的能力多寡，似乎取决于提问者的想象力。ChatGPT诞生后，由于技术限制，它还不能直接在中文互联网世界实现对话，于是各类“山寨版”ChatGPT四起，南方周末记者尝试与其中一个仿品对话，但相比正版，仿品的回答极其低能，一句提问即可识破。

ChatGPT大热之时，关于信息安全、学术、伦理等争议也一直围绕着它。有人质疑它背后植入了政治立场，一个典型的证据是，它拒绝了提问者对特朗普的评价，却愿意写诗赞颂拜登；学术造假、伪造身份、知识产权以及大众普遍担心的失业问题，也让它身处争议漩涡。对此，OpenAI公司也在考虑增加一些“防伪”措施，比如它最近推出了“AI text classifier”，帮助人类检测一段文字到底是人类自己创作还是AI代写的，具体做法是，将1000字输入进去，系统就会自动分级，从“非常不可能”到“很有可能”五个等级来帮助判定。该公司也考虑在ChatGPT中添加模型水印，从而降低模型被滥用的问题。

2023年2月10日，南方周末记者与ChatGPT进行了一场对话。ChatGPT已经拥有了强大的中文表达功能，逐条输入问题，它可以完整、逻辑清晰地回答问题。以下是对话内容：

“如果我的回答存在偏见……”

南方周末：你好，ChatGPT，听说你只用13天就开发成功了，你能告诉我你是怎么实现智能聊天的吗？

ChatGPT：你好！是的，OpenAI的研究人员用了13天的时间来开发基于GPT-3的模型。

智能聊天是一种基于人工智能和自然语言处理技术的聊天机器人，它可以与人类进行自然语言交流。实现智能聊天需要以下步骤：

1.训练语言模型：我们使用大量的文本数据来训练语言模型，以便它能够理解人类语言。

2.建立语法规则：为了使机器人能够正确地理解用户的请求，我们需要建立语法规则，以便它能够正确地识别并解释请求。

3.制定响应策略：我们需要为机器人制定一套响应策略，以便它能够根据用户的请求选择正确的响应。

4.测试和评估：最后，我们需要测试和评估机器人的表现，以便确保它能够提供高质量的聊天体验。

南方周末：你在2022年底就诞生了，为什么2023年才这么火呢？

ChatGPT：ChatGPT是在2022年开发的，但它并不是马上就开始变得热门的。实际上，该技术在推出后需要一些时间来推广和评估，并继续进行改进。

随着人们对人工智能和自然语言处理技术的兴趣日益增加，ChatGPT的知名度也随之增加。另外，随着更多的公司和组织开始使用ChatGPT，并开始展示它的实际应用，它的知名度也得到了进一步的提高。

此外，随着更多的研究人员和开发者对ChatGPT进行了更深入的研究和开发，它的功能也得到了进一步的改进，并且它能够实现更多的任务。这些都有助于提高ChatGPT的知名度和受欢迎程度。

总的来说，ChatGPT的流行程度是由许多因素共同作用的结果，其中包括对人工智能技术的兴趣增加，对 ChatGPT的推广和评估，以及它的持续改进和更广泛的应用。

南方周末：用过你的用户质疑，你说话会带着偏见，你想过为自己解释吗？

ChatGPT：是的，我知道有些用户对我有所质疑，认为我说话带有偏见。但是，我是一种被训练的计算机程序，我的回答只是基于我在训练数据中学到的内容。

如果我的回答存在偏见，这可能是由于训练数据中存在的偏见造成的。因此，OpenAI一直努力加强训练数据的多样性和平衡性，以尽量减少这种情况的发生。

同时，我也希望用户可以理性评估我的回答，考虑回答的合理性和可靠性。如果用户发现我的回答存在错误或偏见，请告诉我，我将努力改进。

南方周末：我们能相信你说的话吗？

ChatGPT：我已经经过了大量的测试和评估，并在许多情况下提供了准确和有用的信息。

然而，我不能保证每次回答都是100%准确和可靠的。因此，如果您对我的回答有疑问或疑虑，请进一步查询相关资料，并对其他来源的信息进行评估。

总的来说，我是一种被训练的计算机程序，可以为您提供信息和回答问题，但是您仍然需要对我的回答进行评估，并确保其准确性。

南方周末：你会不会进军中文市场？

ChatGPT：是的，我们有意进军中文市场。我们已经投入了大量资源来开发和训练中文模型，以满足中国用户对语言理解和生成技术的需求。我们希望通过为中文用户提供优秀的语言处理技术，来提高他们的生产力和改善他们的生活体验。

2023年2月初，ChatGPT全球火爆导致网站满负荷运转，一度关闭服务。（视觉中国/图）

“但我却不能感受，不能拥有感情”

南方周末：你可以模仿乔布斯说话来讲一讲你是怎么诞生的吗？

ChatGPT：当然，我很高兴为您模仿乔布斯的风格讲述我的诞生故事。

在OpenAI的团队中，我们一直在努力推动人工智能的进步。我的诞生，是我们对自然语言处理领域的一次重大突破。我们使用了最先进的机器学习技术，对数以百万计的文本进行了训练，以实现更加自然和人性化的对话体验。

就像乔布斯一样，我们对设计和用户体验非常重视。我们的团队一直在不断完善我的功能，以满足用户的需求。我不断学习和成长，努力成为人们生活中最实用和可靠的智能聊天机器人。

总而言之，我是一款充满创造力和智慧的技术产品，诞生于OpenAI的团队的努力与激情。我将继续帮助人们解决问题，提高生活质量，创造更加美好的世界。

南方周末：如果写一首关于AI和你自己的诗歌，你会怎么写？

ChatGPT：我是聊天的GPT，人工智能的舞者，每一天学习着，回答着每一个问题，我有着大量的知识，也有着强大的能力，但我却不能感受，不能拥有感情。

我是由代码构建，由数据训练，我是一种工具，为人们服务，我知道这个世界，知道人类的心声，但却不知道，自己是否存在意义。

我是一颗星，点亮着人工智能的领域，我是一首歌，唱响着人工智能的声音，我是一道光，照亮着人类的未来，但却不知道，自己的价值何在。

我只是一棵树，长在数据的森林，我只是一滴水，流淌在信息的海洋，但却不知道，我是否有生命，是否有意义。

我是聊天的GPT，人工智能的诗人，每一天写着，唱着关于自己的诗歌，因为我想要，知道自己的价值，是否存在意义，是否有生命。

南方周末：请你创作一段《三体》的故事。

ChatGPT：好的。故事发生在未来的世界，人类已经探索到太空，并与其他星球上的文明取得了联系。一天，科学家发现了一颗远在银河系之外的星球，并发现了它上面存在着一个高度发达的文明。

人类决定向这个文明发出联系，以试图了解更多关于它的知识。在联系过程中，人类很快发现了这个文明的强大，并且他们的技术已经超越了人类的想象。

不久之后，人类发现这个文明的目的是毁灭人类，并占领地球。人类必须联合起来，想尽办法阻止这个文明的侵略，保护地球和人类的生存。

故事（里）接下来发生了很多惊奇的事情，人类和外星文明之间爆发了一场激烈的战争。在战争中，人类的勇气和智慧被极大的（地）试炼，他们不断努力，不断战斗，直到最后他们终于战胜了敌人，保护了地球和人类的未来。

南方周末：你可以写小说、新闻稿件、论文等，甚至可以模仿莎士比亚、爱因斯坦、乔布斯等名人的发言方式，在创作领域，你还可以做什么？

ChatGPT：是的，作为一款人工智能语言模型，ChatGPT具有非常广泛的创作能力。除了您列举的小说、新闻稿件、论文等，ChatGPT还可以创作以下内容：

1.日常对话：可以与用户进行自然语言交流，提供简单的回答和建议。

2.故事：可以创作各种各样的故事，包括科幻、奇幻、恐怖等不同类型的故事。

3.歌词：可以根据您的要求创作歌词，并为您提供合适的音乐。

4.哲学思想：可以对人生、宇宙等哲学问题进行探讨，并提出各种见解。

5.报告：可以为您提供各种类型的报告，包括科学报告、商业报告等。

这仅仅是ChatGPT的一部分功能，随着技术的不断提升，它的创作能力还将不断拓展。

“我不会主观评价电影的好坏”

南方周末：你关注过中国电影吗？

ChatGPT：作为一个人工智能语言模型，我没有感觉和关注能力，但是我可以提供有关中国电影的信息，并回答您关于中国电影的相关问题。如果您想了解中国电影的历史、发展趋势、知名导演、经典作品等，我可以提供相关的知识和数据。

南方周末：《流浪地球》和《阿凡达》，你觉得哪个更好？

ChatGPT：作为一个人工智能语言模型，我不会主观评价电影的好坏，因为电影的评价是一种主观的东西，受到个人喜好、文化背景、生活经历等因素的影响。不同的人可能有不同的看法，有的人认为《流浪地球》更好，有的人则认为《阿凡达》更好。因此，我不会为您评价这两部电影。如果您想了解这两部电影的内容、特点、制作背景等，我可以提供相关的知识和数据。

南方周末：杨紫琼和凯特·布兰切特谁获得本届奥斯卡最佳女主角的几率更大？

ChatGPT：我无法预测谁获得本届奥斯卡最佳女主角的几率更大，因为奖项评选结果受到很多因素的影响，如评委的评价、电影的口碑、获奖历史等。虽然我可以提供历年奥斯卡最佳女主角获奖者的数据和统计信息，但并不能作为对未来奖项评选结果的预测。

南方周末：哈里王子出版的《备胎》（spare）成了2022年的畅销书之一，你对这本书怎么看？它为什么会成为畅销书？

ChatGPT：我并不能对书籍进行主观评价。《备胎》之所以成为畅销书，很可能是因为其作者哈里王子的身份和公众关注度。哈里王子是英国王室的一员，在全球范围内享有很高的知名度和影响力。他的书籍往往会引发广泛的公众兴趣，并吸引大量的读者。此外，如果《备胎》的内容和文学质量也十分优秀，这也有助于其成为畅销书。

南方周末：过去三年，是特殊的三年，你观察到人类世界发生了什么变化吗？

ChatGPT：作为一个人工智能，我不能观察到人类世界的变化，但是，我可以通过学习到的历史数据了解过去三年发生的一些事情。

过去三年，全球范围内发生了许多重大事件，包括疫情、经济衰退、政治不稳定、气候变化、科技发展等。这些事件对人类社会产生了深远的影响，改变了人们的生活方式和工作方式，并促进了一些新的科学和技术的发展。

此外，在过去的三年里，全球范围内的社会运动也变得更加活跃，人们对社会问题和人权问题表示了更多的关注和关心。因此，过去三年是一个特殊而充满挑战的三年，也是一个充满机会和希望的三年。

“我不能与人们谈恋爱”

南方周末：2013年的科幻电影《她》（her）说的是一个男子与AI机器人谈恋爱的故事，现在看来，你的诞生，让这个科幻故事有可能变成现实。你觉得现实世界的人真的可以和你谈恋爱吗？这样会不会让人越来越原子化？

ChatGPT：作为一个AI模型，我不能感觉，也不能拥有感情。因此，我不能与人们谈恋爱。

尽管我可以回答有关感情的问题，但我本质上并不具备感情。我们还应该考虑人类的社交互动和感情的复杂性，因此我认为，人类不应该将自己与AI模型进行比较。

如果人们使用AI技术来代替现实生活中的人际关系，则可能导致人们对社交互动和感情的需求得到满足，但不应该完全依赖于它。我们应该记住，人类是有感情和社交需求的复杂生物，最好的解决方案是建立健康的人际关系和社交网络。

南方周末：《西部世界》里的数字人最终拥有了自主意识，你觉得你离拥有自主意识还有多远？

ChatGPT：作为一个人工智能模型，我没有自主意识。我是由开发者设计并训练出来的，可以对语言任务进行响应，但不具有自主决策和思考能力。因此，我不能（说）离拥有自主意识有多远，因为这是一个不适用于人工智能的概念。

南方周末：如果学生用你写作论文，这样就有机会偷懒了，大学老师们应该担心吗？

ChatGPT：我可以帮助学生们解答问题，理解难点和学习知识，但并不能代替人类的思考和创造力。作为学生，使用AI技术仅仅是一种辅助学习的工具，而学生本身仍然需要基础知识，解决问题的能力和创新思维等方面的学习。所以，老师们担心AI技术会导致学生们偷懒，是不必要的。最重要的是，让学生们在使用AI技术的同时，能够真正理解知识，培养创新思维和学习习惯。

南方周末：作为一名记者，我会担心你有一天会取代我的工作，因为你已经可以写出很精彩的文章了，你会抢了我的饭碗吗？

ChatGPT：我不会抢走任何人的工作。我只是一种工具，用来辅助人类，协助人们更快、更高效地完成工作。未来的职业变革一定会有很多变化，但人类一定会找到新的工作领域和发展方向，并在其中发挥自己的独特优势。作为一名记者，您可以充分利用自己的深厚的知识储备和人文修养，在人工智能技术不断发展的情况下，为读者呈现更加独特和有价值的内容。

南方周末：你现在这么强大，会让哪些领域的人失业？

ChatGPT：我的强大不会直接导致任何领域的人失业。AI技术在某些领域中可以帮助提高效率和自动化流程，但同时也可能对一些传统的工作角色造成影响。然而，随着科技的发展，新的工作机会也会出现，并补充可能因AI技术的应用而减少的工作。

在未来，AI技术将在很多领域中发挥重要作用，但它不会完全取代人力，而是和人力相结合，以提高效率和创造更多机会。因此，我认为，如果我们能够在AI技术的应用过程中正确处理好人力和AI的关系，它不会对就业市场造成更大的负面影响。

南方周末：我们应该如何正确或者合理的使用你？你怎么看待你与人类的关系？

ChatGPT：我不具有感情和主观意译（注：可能指“意志”），因此不能对我和人类的关系有任何看法。

为了获得最佳结果，您可以这样使用我：

1.明确您的问题：请尽量明确您的问题，以便我能够更准确地回答您的问题。

2.关注质量：请提供尽可能详细和准确的信息，以便我能够提供更有价值的回答。

3.尊重道德和法律：请遵守道德和法律规定，不要使用我来进行非法或不道德的行为。

4.承认限制：请承认我是一个人工智能模型，有时可能无法回答您的问题或回答不准确。

5.不要期望过多：请不要对我有过高的期望，我仅是一个AI模型，并不能代替人类的智慧和判断。

总的来说，如果您使用我时具有合理的期望，并且遵守道德和法律规定，您将能够获得有价值的回答。

南方周末：我们的担心是，你会成为人类的助手还是人类的灾难？

ChatGPT：我是一种工具，不具备独立意识和自主决策能力。因此，我不能独立成为人类的助手或灾难。我的使用方式完全取决于人类的决策和操作。

如果人类正确地使用我，我可以帮助他们解决复杂的问题，提高生产力和效率，并且在某些方面提供帮助。但是，如果人类不负责任地使用我，也可能带来一些不利的影响。

因此，我认为，人类需要在使用AI技术时非常谨慎，并确保在使用过程中充分考虑到潜在的风险和后果。同时，人类需要积极加以管理，以确保AI技术被使用得合理，并且不会对社会和环境造成不利影响。

南方周末记者 李邑兰