生成式AI会改变什么？未来会失控吗？专家热议AI伦理风险
随着年初ChatGPT上线火爆出圈，公众对于人工智能的关注达到空前的高度。新技术浪潮给社会各界带来冲击的同时也引发了诸多争议和讨论：第四次技术革命是否会真正颠覆日常生活，人类是否有一天将被AI取代，人工智能技术在各领域的推广和应用带来的风险要如何应对？
7月7日，世界人工智能大会在上海举行，由南方都市报联合清华大学人工智能国际治理研究院主办，中国科协-复旦大学科技伦理与人类未来研究院和上海智能实验室协办的“人工智能创新与治理”分论坛上，多位专家学者就上述议题进行讨论。
与会者普遍认为，与此前的人工智能技术相比，新兴的生成式人工智能技术将颠覆人类与世界的关系，AI技术将成为未来各国竞争的核心关键技术。政府部门、业界不仅应思考AI未来可能的发展路径，更要警惕可能带来的诸如数据安全、伪造人脸的身份识别风险以及系列技术犯罪。
世界人工智能大会“人工智能创新与治理”分论坛现场。
生成式AI正在改变什么
上亿人可能正在使用AI技术
因人工智能技术的飞跃式发展，以ChatGPT为代表的生成式AI技术正引发大量的讨论，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，提供生成式人工智能产品或服务。如今这一项技术正在逐渐深入日常生活，在学习和工作场景中，越来越多人开始使用生成式人工智能技术来生产文字、图片、视频等内容。
此项新技术与此前的人工智能技术有何不同，将给人类世界带来哪些改变？论坛现场，复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫认为，此轮人工智能技术有三个特点，即可泛化性、可及性与颠覆性。由于大模型的参数量极大，学习能力更强，适用性也更为广泛，而ChatGPT的出现及大量使用，意味着公众相较以往能更便利地使用AI技术，它具有颠覆性，不仅突破以往的技术框架，也将改变我们的生活和存在方式，改变人类和世界的关系。
复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫。
同济大学法学院助理教授朱悦认为，与以往相比，此轮人工智能浪潮覆盖和影响的人群更为广泛，“过去的人机互动被人关注，但可能全世界只有几千人在使用新技术，但在今天，可能有数千万甚至上亿人在使用新的人工智能技术。”
同济大学法学院助理教授朱悦。
毋庸置疑，新技术的兴起也正在引发行业变革，云计算公司纷纷跟进、开发、销售基于大模型的产品，电子商务公司希望借生成式人工智能改变经营模式，产业正因新技术的发展而涌现更为强劲的动力。旷视联合创始人、CTO唐文斌提及，随着大语言模型的不断演变，数据量不断累积，目前各类垂直领域仍在使用的适合特定产业和内容的人工智能技术模型未来可能发展为真正具备感知、推理、决策等能力的类似人脑的统一大模型，这将对产业带来巨大的发展可能性。
旷视联合创始人、CTO唐文斌。
中科深智CEO成维忠认为，过去半年，人工智能行业正迎来空前的蓬勃发展，但行业也不可避免地面临一些悬而未决的难题：未来人工智能技术的发展之路要如何向前，是探索单纯的大语言模型还是要以多模态为重点值得思考，尤其是有观点提出以大语言模型为主体的基础大模型可能最终并不能形成像人类一样思考、学习和执行多种任务的通用人工智能后，这些难题还需业界重新凝聚共识共同探索解决之道。
中科深智CEO成维忠。
AI会取代人类吗？
专家：暂时难以替代，呼吁拥抱变化
在生成式AI出现之后，AI会否替代人类一度成为舆论热议的话题，在现场不止一位专家提及，AI技术目前仍未达到能取代人类的能力，“它的逻辑判断能力、情感分析能力，暂时还不太可能取代人类。”公安部第三研究所网络安全法律研究中心主任黄道丽说。
公安部第三研究所网络安全法律研究中心主任黄道丽。
成维忠则提及掌上电脑创始人杰夫·霍金斯曾提出的一个观点：人的智能分为旧脑和新脑智能，人类的爱和恨都由旧脑智能决定，而现存的人工智能技术均是基于新脑智能在运行，“从这一观点出发，AI不会取代人类，也不会出现攻击人类的问题，因为它没有爱，也没有恨。AI技术带来的机遇远远大于挑战，个人要积极拥抱变化。”
王国豫分析称，一些专业的需要创造性思维的岗位不会被AI取代，但一些技术含量不高的岗位可能有被AI取代的风险。“未来更重要的是教育系统如何培养更具有创新能力的人才，教会我们如何通过提升数字素养，更好地适应AI时代的需要。”
唐文斌也认为，人类应该在现阶段思考如何更好的利用AI技术武装自己，产生更强的生产力，而不是一味抗拒新技术的来临。
“AI不仅是一种技术工具，我们或许可以将它作为一种探索游戏，希望AI能让大家无聊的无意义的生活变得有趣，而让有趣有意义的事变得简单。” 朱悦说。
AI技术也可被“赋能”犯罪技术
未来AI会失控吗？
随着AI新浪潮的兴起，它所引发的技术犯罪、伦理难题始终是公众热议的话题，如何防范新技术带来的风险？
黄道丽认为，以GhatGPT所代表的LLM技术已成为各国新赛道。各国政府均在积极鼓励人工智能产业的发展，同时也普遍意识到需要进行监管防范其可能引发的风险，“今年以来，全球人工智能立法进程明显提速，可以说，各国监管治理都在追赶人工智能的演化速度”。除了业界普遍提及的AI所引发的隐私风险、伦理风险、社会风险等问题，公安机关最关注的是犯罪利用风险，即AI技术也可被“赋能”犯罪技术，形成新的网络安全威胁甚至可能成为“犯罪基础设施”。
她举例，今年，山东青岛出现一起电信诈骗真实案例，骗子通过木马软件监听受害者的生活，收集受害者亲人的声音，利用AI变声软件进行伪装虚报病情，并劫持手机通信，使受害者打给亲人的电话转接到骗子那里，“由于人工智能模仿的对象是受害者熟悉且信任的人，会在某种程度上降低他们的警觉性。”
黄道丽称，生成式人工智能技术可能改变以人为主导的社会，“早几年我们分析弱人工智能阶段的法律风险和犯罪事件，尚可以追溯或归责于人（生产者等），法律问题或犯罪打击的解决都取决于我们最终能否识别此人与彼人。但现在我会开始担心未来找不到某项行为、活动背后的那个人（主体），AI技术与人或他人的主体性混合在一起逐渐变得模糊，而依靠现有的规则想要去有效治理，无疑更困难。”
成维忠认为，AI技术是中性的，在AGI（ Artificial General Intelligence，即“通用人工智能”，是指一种能够像人类一样思考、学习和执行多种任务的人工智能系统）时代来临以前，真正应该警惕的是人类利用技术作恶。“比如伪造内容，伪造人脸，政府部门和行业要从现在开始探讨如何防范风险，而不能等问题严重了再想办法解决。”
朱悦则提及一个关键问题，目前人工智能治理中AI自主承担的比例越来越高，“我们都说要对AI进行治理，但治理过程中一些企业可能会利用生成式AI做大量的知识积累，发挥它的培训功能，让它参与伦理决策，甚至还有一些更激进的企业，希望能直接训练出一个能做出伦理决策的模型，无论是学术研究、业界培训，还是合规评审，我们可以想一想，AI在其中所占据的比例是不是越来越高？很多人都认为，一旦 AI比人类聪明就将失控，现在的AI治理，它自己参与了很多，某种意义上其实也失控了。”
采写：南都记者 蒋小天 发自上海