清华教授孙茂松、张文宏：ChatGPT是“双刃剑”，科学伦理已刻不容缓
10月26日，科普中国创作大会暨2023中国科普作家协会年会在长沙召开。会上，清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松以《生成式人工智能的特点及其能力边界》为题分享报告。他从ChatGPT的实例出发，介绍了AIGC（人工智能生成内容）所独有的创造性、多样性、个性化等特点，以及可能会引发的一系列科技伦理与治理问题。同时，生成式人工智能技术能够以强大的多模态检索、信息重组等能力完成诗歌写作等任务，启发、辅助人类的同时，赋能新时代科普及科普创作。
清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松以《生成式人工智能的特点及其能力边界》为题分享报告。图/中国科普作家协会
在提问环节，有人问道：“在大模型的加持下，具身智能是人工智能发展的最终目标吗？我们离它还有多远？”
孙茂松回答，具身智能是人工智能未来发展的方向，它将对人类产生深远的影响，对于人类来说，它究竟是好事还是坏事，还需要评估。他指出，ChatGPT的影响主要在互联网和思维上，而具身智能的影响主要在建设上，目前研究具身智能的条件比以往要好得多，使得其研究往前进了一大步，可以应用于工业领域，但要做到让其满足人类需求、取得可喜的突破，仍具有相当的难度，还有很长的路要走。
一位来自河北科普作协的张先生提出：“我们在举办作文比赛时遇到了一个难题，中小学生的家长用ChatGPT帮孩子写作文，传统的查重软件已无法分辨，应该怎么办？”
孙茂松表示，这其实涉及怎么规范使用ChatGPT的问题，一般来说，考试时可以禁止使用电子产品和ChatGPT，从而杜绝这一问题的出现，在日常辅导孩子作业时，可以帮助家长启发思路。
“让ChatGPT写作文它确实可以完成得很好，但做创造性、复杂的创作可能还无法实现。”他指出，任何科技发明和成果都是“双刃剑”，只不过人工智能在这方面显得更极端，好的地方非常突出、坏的地方亦如此，对科技伦理、诚信建设提出了一定的挑战，所以需要人为介入去监管。
清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松。图/中国科普作家协会
张文宏在会上表示赞同，他称，ChatGPT的出现无可置疑对人类产生了巨大的影响，对科普也同样如此，导致一般的作家在它面前毫无存在的价值，除了那些能够萌生、导引智慧的作家。ChatGPT能够帮助人类做重复性、简单的工作，但这对增长智慧毫无帮助，也使大家更难以寻找到真正的智慧。例如，ChatGPT可以在短时间内写出大量的书，并且其质量未必不好，但这同样也产生了一个问题，大家会淹没在数以千计的、类似的、普通书籍，无法分辨哪本才是真正值得阅读的。
“我毫不怀疑，将来科学会越来越先进，人类会越来越接近于神”，在问答环节，张文宏指出，可以预见的未来是，人类去世，身体已不在，但他的思维仍然存在。虽然目前人工智能领域已经能够做到将逝去的亲人通过影像、声音、形体等方式保留并进行对话，但这种对话是初级的，未来的对话是能够互动和发展的，会根据人的动作和语言给予反馈。他解释，这是因为目前人工智能虽然是可储存的，但还没有实现人机结合。
会后，周忠和院士（左五）、孙茂松教授（左二）、张文宏教授（右五）与主办方合影。图/九派新闻 代梦颖
关于这种发展是否有必要，张文宏认为这是无法讨论的话题，是“它发生了就发生了的，正如我们无法回答是否应该禁止克隆技术的发展”，许多研究是科学领域已经在做了的，但对于未来的景象会如何是谁也无法预测的，一切都在演化之中。他表示，可以明确的是，在人类的研究方面，不能让科学跑得太快，科学伦理已刻不容缓地要跟上来。
九派新闻记者 代梦颖
【爆料】请联系记者微信：linghaojizhe
【来源：九派新闻】
版权归原作者所有，向原创致敬