HOW专栏｜刘志毅：解决好这4个问题，是中国人工智能行业发展的关键
随着新一轮科技革命和产业变革突飞猛进，科学研究范式发生深刻变革，以及科学技术的迭代发展，让我们持续审视科技创新生态的底层逻辑，以及我们自身与人工智能的相处之道。
围绕人工智能发展中的许多核心问题，第一财经陆家嘴专访了人工智能科学家、东方财富人工智能研究院首席科学家刘志毅教授。
刘志毅教授主要研究领域包括人工智能伦理与治理、智能经济以及数字经济学等，个人学术专著包括《智能经济》、《数字经济学》、《智能的启蒙：通用人工智能与意识机器》等，出版十几部中英文专著并翻译海外学者专著，英文专著< AI Ethics and Governance: Black Mirror and Order>入围施普林格.自然出版社“中国新发展奖”（2023年度）。
刘教授目前还担任了上海市人工智能社会治理协同创新中心研究员，中国人工智能学会AI伦理工作委员会委员，上海交大计算法学与人工智能伦理研究中心执行主任，上海交大安泰AI与营销研究中心特聘研究员，上海交大清源研究院研究员，上海开源技术信息协会AI伦理专委会主任，国际电工委员会IEC生物数字融合系统评估组（IEC/SMB/SEG12）伦理专家，国家人工智能标准总体组专家。
第一财经陆家嘴：ChatGPT的广泛应用，对人工智能行业的商业逻辑有什么影响？
刘志毅：随着科学技术的日新月异，我们正处于一个全新的大模型趋势下，人工智能的应用范围不断拓宽，特别是在处理复杂数据、识别模式和预测未来等方面，其能力得到了广泛的认可。而在众多的人工智能技术中，ChatGPT作为一款能够更好理解和生成自然语言的模型，其应用领域的拓宽无疑进一步推动了人工智能技术的发展。这些发展对人工智能行业的商业逻辑带来了深远影响。
首先，ChatGPT作为一种生成式人工智能模型，其广泛应用无疑标志着人工智能行业转向了一个新的阶段。这种转变并非一夜之间的突变，而是经过长期积累和发展的结果。在此过程中，商业逻辑也正在发生深刻的变革。以往，企业在开发和应用人工智能产品时，往往以技术为核心，而忽视了其实际应用场景和用户需求。然而，随着ChatGPT等大模型的兴起，这种情况正在发生改变。企业开始更加注重产品的实用性和用户体验，以此来提升产品的市场竞争力。
其次，ChatGPT的广泛应用带来了新的商业模式和盈利点。例如，ChatGPT可以为企业提供各种服务，包括但不限于客户服务、内容生成、数据分析等，这些都是企业可以利用来创造价值的场景。此外，随着技术的发展，ChatGPT的应用领域还会进一步拓宽，这将为企业开辟出新的商业机会。
此外，大模型趋势和ChatGPT的应用可能会导致专利诉讼和商业竞争的增多。在这种情况下，拥有先进技术和更好数据集的公司将会获得竞争优势，从而在市场上取得更好的地位。因此，对于新进入该领域的公司和机构来说，他们需要加强技术研发能力，掌握核心技术，以打造自身的竞争优势。同时，政府和行业组织也需要加强监管和规范，以确保人工智能技术的合法使用和公平竞争。
总的来说，大模型趋势下的ChatGPT的广泛应用将进一步推动人工智能技术的发展，带来新的商业机会和挑战。我们必须深入理解这些变化，以便更好地把握未来的发展趋势，推动科技创新，实现经济社会的可持续发展。
第一财经陆家嘴：随着技术的更新，您认为哪些行业会有较大的发展突破？
刘志毅： 当前，我们正在经历大模型人工智能的发展浪潮，其中，像ChatGPT这样的模型正在重塑许多行业的发展蓝图，特别是在自动驾驶、医疗、金融、教育和数字内容这些领域。
自动驾驶领域是人工智能的重要应用场景之一。大模型的应用能够提升自动驾驶系统的决策能力，更好地理解和预测交通环境，从而提高自动驾驶的安全性和效率。
在医疗领域，大模型人工智能能够帮助医生进行疾病诊断和治疗方案的制定。例如，ChatGPT可以通过学习大量的医疗数据和知识，为医生提供准确的医疗建议，这将极大提升医疗服务的效率和质量。
在金融领域，大模型人工智能可以帮助金融机构进行风险评估和投资决策。通过分析大量的金融数据，ChatGPT可以为金融机构提供更准确的市场预测，帮助他们更好地管理风险，优化投资决策。
教育领域也将从大模型人工智能中受益。ChatGPT可以根据大量的教育数据，为教育者提供个性化的教学方案，也可以作为一个智能助手，帮助学生进行自我学习，这将极大推动个性化教育的实现。
最后，在数字内容领域，大模型人工智能如ChatGPT可以自动生成高质量的文本内容，这将对新闻、娱乐、广告等内容创作领域产生深远影响。
总的来说，随着大模型人工智能的深入发展和应用，无论是自动驾驶、医疗、金融、教育，还是数字内容等领域，都将迎来重要的发展突破。我们期待这些技术能够更好地服务于社会，推动各行业的发展，并为人类的生活带来更多便利。
第一财经陆家嘴：中国的人工智能技术及行业发展，最核心的要解决哪些问题？
刘志毅：中国的人工智能行业在迅猛发展的同时，确实面临一些重要的挑战，这些挑战涉及技术创新、数据处理、监管体系和公众参与等多个方面。
首先，我们需要解决技术瓶颈的问题。当前，生成式人工智能如ChatGPT已经成为中心舞台，并对企业创新方式产生深远影响。然而，人工智能的发展并不止步于此。例如，下一代神经网络，如Mamba的研究，正在打破Transformer的局限性，这为我们打开了新的技术可能性。因此，我们需要不断进行技术研发和创新，解决存在的技术瓶颈，以实现更高效和智能的模型。
其次，数据安全和隐私保护问题也不容忽视。随着人工智能对矢量数据库的依赖加大，数据处理和管理的难度也随之提升。同时，人工智能技术的广泛应用也使得数据质量问题再次成为关注焦点。我们需要在满足生成式人工智能模型需求的同时，确保数据的安全和用户隐私的保护。
再次，随着人工智能的深度整合和应用，我们需要建立一套完整的监管机制。这不仅包括技术层面的监管，也包括伦理和社会责任的考虑。在人工智能代理与其他AI代理交流，形成新的生态系统的同时，政府和行业组织需要加强监管，以防止技术滥用和确保公平竞争。
最后，我们需要推动人工智能的民主化。随着消费者和监管对人工智能进行更严格的管理，我们需要寻找有效的途径，让更多的人能参与到人工智能的发展和应用中来，实现人工智能的民主化。
综上，中国的人工智能行业发展面临的核心问题包括技术瓶颈、数据安全和隐私保护、监管机制的建立以及人工智能的民主化等。要推动行业的健康发展，我们需要深入理解这些问题，寻找并实施有效的解决策略。
第一财经陆家嘴：理想化的数字社会是什么样子的？
刘志毅：理想化的数字社会，将是一个技术与人文关怀相结合的世界。在这个社会中，人工智能和其他先进技术能极大地提高生活和工作的效率，同时，公民的信息素养、权利、伦理和安全也得到了充分的重视和保障。
首先，理想化的数字社会将是一个信息素养广泛提升的社会。每个人都能够熟练地利用数字工具获取、理解和使用信息，数字化工具不再只是少数精英的专利，而是每个公民的基本技能。
其次，理想化的数字社会将是一个信息权利得到尊重和保障的社会。每个人都能自主地决定自己的信息被如何收集、使用和共享，这将需要数据平台推出更加安全和可靠的矢量数据解决方案。
再者，理想化的数字社会将是一个信息伦理得到重视的社会。无论是个体信息使用者还是人工智能的开发者，都应该确保他们的行为符合伦理和道德规范，尊重他人的隐私和权益。
同时，理想化的数字社会将是一个信息安全得到保障的社会。我们必须确保数字技术的使用不会给个人和社会带来损害，这需要AI芯片厂商与云计算厂商提供更加安全和可靠的产品和服务。
在这个理想化的数字社会中，人工智能将发挥至关重要的作用。可以预见，到2024年，AI可穿戴设备和扩展现实（XR）设备将深度融合，AI代理将开始与其他AI代理交流，形成一个由互联智能代理组成的新生态系统，这些将使我们的日常生活更加智能化和便捷。
因此，理想化的数字社会，将是一个人与科技和谐共生、信息权利得到保障、伦理得到尊重、安全得到保障的社会。在这个社会中，人工智能不仅会被用来改造现有业务，带来更大的价值，也会被用来开发全新的应用，创造出前所未有的可能性。这需要我们所有人共同努力，以实现这个理想的追求。
第一财经陆家嘴：对于人工智能技术的更迭，我们还要注意哪些核心问题？
刘志毅：在我们步入人工智能新时代的同时，确实需要关注一些核心问题，这些问题涵盖了技术、经济和哲学等多个视角。
首先，从技术角度，通用人工智能的可解释性和隐私保护是我们需要密切关注的两个核心问题。随着算法越来越复杂，人工智能的决策过程变得越来越难以理解，这就对我们提出了挑战，我们需要提高人工智能的可解释性，让机器的“思维”过程更加透明，这需要一系列的技术创新。同时，人工智能的广泛应用也让隐私保护问题变得日益重要，在技术创新过程中我们需要找到一个平衡点，既能充分利用数据，也能保护用户的隐私。
其次，从经济学角度，市场失灵和道德风险是我们关注的焦点。人工智能技术的快速发展可能会对劳动力市场产生重大影响，可能会导致一些工作岗位的消失，引发市场失灵，甚至可能会引发社会不稳定。此外，人工智能技术的发展也可能带来道德风险，例如决策过程中的歧视性行为等。
再者，从技术哲学角度，人工智能技术对人类的影响以及如何实现技术和人类的和谐发展是核心的问题。人工智能技术对人类的生活和社会产生了深远的影响，我们需要思考如何让人工智能技术服务于人类，如何在技术发展的同时防止对社会造成负面影响。
因此，面对人工智能技术的更迭，我们需要从多个角度去理解和关注其带来的问题，这包括但不限于人工智能的可解释性、隐私保护、市场失灵、道德风险以及技术与人类的和谐发展等问题。我们需要各领域的专家和学者共同参与，需要政策制定者的智慧，需要全社会的理解和支持，以确保人工智能的发展真正为人类社会的进步做出积极贡献。
- E N D -
往期内容：
SGS风险管理解决方案中心总经理岳庆松（上）|
SGS风险管理解决方案中心总经理岳庆松（下）|
金仕达：走向新征程的科技老将|
小村资本 梅晨斐：建设与城市共发展的孵化器|
上海市天使投资引导基金负责人 董若愚："募”后天使 持续做有社会价值的母基金|
明善资本 张小冬：在能力圈内行动，在舒适圈外学习|
商汤国香资本 李扬：拥抱变革，迎接AI时代的长周期机遇|