知识点滴 | 全民化的生成式AI
Gartner对于未来生成式AI的预测是，到2026年，超过80%的企业都会接入生成式AI或大模型，而这一比例在2023年初还不到5%。
全民化生成式AI的应用与影响
在2023年，一些具有代表性的会议，如世界人工智能大会、中国国际服务贸易交易会以及阿里云云栖大会，都强调了一个核心主题——生成式AI。
“未来生成式人工智能平台的入门门槛会变得非常低，几乎可以为所有人提供‘生成、创造、编写数字内容’的能力。”这是Gartner研究副总裁高挺对于“全民化生成式AI”趋势的解读。
当全民化意味着低成本，生成式AI意味着生产力的提升时，“云”和“开源”也就注定成为绕不开的两大话题。
其中，云计算为生成式AI提供了底层技术。在短期内，云计算与AI产业或大模型形成了一种联动关系，因为所有大模型都会在云上生长并以“云”的方式提供服务。云计算行业到2024年，也才有近十年的历史。在这期间，市场对云计算的理解从陌生逐渐变为熟悉，但至今未迎来高速发展期。
目前国内云计算市场面临的问题是，SaaS行业还不够成熟，并且缺乏行业领军企业。而在云计算行业的高速发展期，SaaS行业的成熟对其至关重要。市场接受度低、付费习惯差、产品能力不足等问题正在阻碍SaaS行业的发展步伐。
然而，2023年生成式AI的热潮兴起，为SaaS行业带来了转机。生成式AI的应用遍布各行各业，不仅催生了新一批SaaS应用，还助力曾经的SaaS应用重新进入大众视野。在提高软件生产力的同时，市场接受度也在逐渐改变。
根据中国信通院的数据预测，到2025年，全球云计算市场规模将超过6000亿美元，5年复合增长率将达到23.56%；其中我国云计算市场规模在2025年将突破1万亿元。
在“全民化”的背后，不仅需要云计算行业的支持，随着大模型的广泛应用，“开源”也逐渐成为当下的热议话题。开源的本质在于降低大模型的开发成本，打开生成式AI技术创新的源头。一些优秀企业将底层的代码能力贡献出来，以免费开源的方式供其他企业进行二次开发，从而极大地降低了模型成本，提高了生成式AI的普及性。
在国际测试委员会Bench Council所公布的世界开源系统贡献榜中，除了学术界的参与外，微软、谷歌、IBM、甲骨文、英伟达、阿里巴巴、百度等公司也被列入其中。这些头部企业的参与，也恰恰说明了开源的可靠性。以国内大模型企业为例，阿里云已成为国内首个加入大模型开源行列的大厂。通过这种方式，阿里云不仅降低了大模型的开发成本，还为其他企业提供了二次开发的机会，进一步推动了生成式AI技术的发展。
AI增强开发
生成式AI所带来的生产力提升将波及数十亿的人工劳动力，而这项技术所创造的价值是，提升至少10%的效率和创造力。生成式AI带来了巨大的机遇，但同时也伴随着挑战。它具有数万亿美元的经济潜力，但同时也为数万人带来了失业焦虑。
当ChatGPT刚进入国内时，人们误以为客服行业将最先感受到危机。然而，实际上，真正能够与生成式AI结合并带来生产力提升的是“代码”。
Gartner研究副总裁高挺对“AI增强开发”的解读是，被AI开发替代的测试任务主要集中在三个方面：编写测试代码、生成测试数据、生成单元测试中的“测试桩”。
虽然目前AI还不能参与整个全生命周期的开发过程，但未来却很有希望。从原理上看，生成式AI可以根据用户输入的数据自动生成代码，从而简化并加速开发流程。从用户的角度来看，生成式AI与代码的结合也更方便人机交互。一方面，用户不再需要编写大量代码来处理问题。另一方面，生成式AI也可以帮助企业在短时间内开发出更优秀的应用程序，从而在数字化转型中实现降本增效。将生成式AI与代码的结合放在更大的层面来看，这对于低代码和无代码行业都将带来变革性影响。
国内外已经出现了类似的应用。例如，微软的GitHub Copilot编程助手和百度发布的Comate代码助手。Comate是基于代码层面推出的SaaS应用，这也是国内首个与代码结合的SaaS应用的尝试。
通过简单的聊天界面创建应用程序的无代码操作步骤已经在微软的低代码产品PowerApps上实现。这是在PowerApps添加了Copilot之后基于ChatGPT功能的无代码生成应用。
AI安全管理
新技术的出现总是伴随着未知的风险，生成式AI也不例外。Gartner提出的“AI TRiSM”机制，即信任（Trust）、风险（Risk）和安全（Security）管理，为AI的治理提供了指导框架。
在AI的信任问题方面，可以追溯到智能语音助手Siri刚进入日常生活的时候。人们担心Siri是否会“监听”他们的生活并用于商业等用途。如今，在大模型时代，这种信任危机更加严重。比如，人们担心训练数据可能被“投毒”，或者生成式AI可能受到“提示词攻击”等。
AI风险则更多地被关注在关键领域，如医疗、金融和法律等。在医疗行业，2023年8月，北京市卫健委发布了《北京市互联网诊疗监管实施办法（试行）》，其中规定了严禁使用AI自动生成处方。在金融行业，银行、证券等机构的数据安全也是生成式AI发展过程中必须解决的一大问题。
Gartner的“AI TRiSM”框架更多是基于人工智能模型的公平性、透明度和数据保护等方面，提供的一套治理机制。实现AI治理的方式可以是国家政策针对大模型时代的新安全应用，或者企业基于自身安全考虑的私有部署方式。
在政策方面，欧盟、美国、英国，以及我国等多个国家已推出生成式AI监管规定。随着生成式AI的快速发展，国际上对生成式AI风险的重视也提到了一定高度。2023年8月，欧盟《人工智能法案》成为AI监管领域的全球标准，其中参与商谈的国家包括欧盟成员国、印度、日本、韩国、新加坡和菲律宾；同时在8月15日，国家网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》也正式生效；10月末，美国也推出了首个生成式AI监管规定。
除了国家层面的政策保护，企业自身也会基于数据安全和隐私等层面，将一些涉及隐私的应用进行私有云部署，把数据放在本地上保存，从而来保证数据在生成式AI应用上的安全性。