SIMO基于亚马逊云科技生成式AI技术在运营行业开展创新实践
关键字: [innovate2024, Amazon CodeWhisperer, 生成式Ai时代, 运营商行业创新, 虚拟运营商网络, 亚马逊云科技生成式Ai, 代码开发效率]
本文字数: 1700, 阅读完需: 8 分钟
导读梁彦晖在亚马逊云科技Innovate大会上介绍了生成式AI在运营商行业的创新应用与实践。他分享了公司如何利用亚马逊云科技的生成式AI工具提高开发效率、构建统一知识库、部署智能运维机器人等案例。这些应用让公司实现了开发代码自动化、知识检索便利化、运维效率大幅提升,体现了生成式AI在提高运营效率、降低运营成本、优化客户体验等方面的潜力。
演讲精华在这场富有洞见的演讲中,SIMO国际运营负责人梁彦晖娓娓道来了他们如何利用生成式人工智能在运营商行业开展创新应用与实践的宝贵经验。作为一家全球虚拟运营商,他们凭借自主研发的技术,能够调动任何网络资源,通过亚马逊云科技的全球基础架构为数百万移动终端提供无缝的网络连接服务,与200多家全球移动运营商建立了合作关系。整个运营平台建立在亚马逊云科技的全球网络架构之上,利用AI引擎调度自身的云资源,为智能手机、智能手表以及物联网智能设备提供上网服务,每500平方公里提供优质的网络覆盖。
在美国,他们将运营商如AT&T、Verizon Wireless和US Cellular的网络资源整合到自身的云资源池中,作为整个调度系统的支撑节点,通过这些节点为移动终端提供上网服务。由于他们在全球拥有数千万的网络移动设备客户,这些物联网终端处于不断移动的状态,网络环境和信号也在持续变化,因此会产生各种各样的问题,导致大量日志数据产生,每天高达几十TB的数据量。
在实施AI技术之前,他们需要依赖人工的方式进行排查,效率低下。为了提高工作效率,他们与亚马逊云科技合作,利用生成式AI技术开展了几个项目,主要分为内部提效和业务创新两个方面。内部提效包括智能开发助手、企业知识库和智能运维机器人三个项目。
智能开发助手项目利用亚马逊云科技的Amazon CodeWhisperer工具,帮助他们的研发团队进行高效的代码开发。在疫情前,他们的研发团队有170多人,但疫情期间裁员只剩下30多人。随着业务的增长和需求的回升,研发团队的工作量剧增,但为了控制成本,他们无法增加人员。在这种情况下,如何在不增加人员的前提下提高代码开发效率,成为了一个迫切需要解决的问题。
他们与亚马逊云科技的技术团队合作,利用Amazon CodeWhisperer工具,通过自然语言编程、代码解释、技术文档编写等功能,大幅提高了开发工程师的工作效率,同时也提高了代码的安全性,包括代码数据的隐私和安全保护。经过调研,他们发现CodeWhisperer不会保存他们的代码,这对于保护他们的专利安全起到了很好的作用。通过CodeWhisperer的定制化工作空间、开发代理等功能,他们的代码生成率从原来的10%提高到了38%,对整个软件开发生命周期的效率也有了显著提升,包括单元测试、各种开发工具等。同时,CodeWhisperer完全适配了亚马逊云科技的技术栈,大大降低了他们的基础代码开发工作量,也为运维团队减轻了压力。在疫情前,他们的运维工程师有7个人,现在只有2个人,且不再需要值夜班,因为许多基础工作都依赖于亚马逊云科技的云原生生态。
企业知识库项目则利用了亚马逊云科技的Amazon Kendra工具。由于他们的员工分布在全球7个国家,每个团队使用文档共享的方式不尽相同,文档分散在SharePoint、Confluence、Mirror等5到6个不同的资源平台上,导致信息过于分散,查找效率低下。为了快速统一信息并满足不同权限要求,他们借助Kendra知识库加速了整个项目。Amazon Kendra支持目前大多数文档共享平台的接口,将所有数据源整合到一个接口中,员工只需通过Slack即时通讯机器人接口,输入关键词或问题,就能获取所需信息,并会根据用户权限进行访问控制。整个项目仅用了一个月的时间,一位开发人员就与亚马逊云科技的知识团队合作完成了上线前的所有准备、测试和调研工作,展现了Kendra的高效和灵活性。
智能运维机器人项目最初只是作为一个助手,但真正目标是打造一个集群,提供724365的全球技术服务。由于他们需要24小时全天候为客户提供服务,原先需要20多人的运维团队进行三班倒值班。当客户报障时,运维人员需要检查各种日志、分析问题并采取解决方案,简单案例需要1到2小时才能解决。为了提高效率,他们与亚马逊云科技合作,利用大模型、知识库等工具,构建了一个智能运维机器人,模拟人工运维的问诊、检查和解决问题的三个步骤。
这个机器人通过Amazon Kendra知识库代理与用户互动,根据获取的信息进行大语言模型推理,寻找相关日志,调用解决工具库中的工具解决问题。之所以选择Kendra,是因为它面向业务人员开发,实现快速试错和业务创新,低代码成本,无需了解代理开发框架,仅需一个月时间就完成了工程化平台的搭建,降低了运营难度。目前,该机器人已能在客户报错前发现问题并提供解决方案,大幅缩短了从报错到解决的时间,将运维团队的人员需求从原来的24人降低到了6人,极大提高了工作效率。
每天产生的日志数据高达2TB以上,通过智能日志分析,工程师能够高效地对日志进行排查和分析。他们利用Amazon Bedrock的基础模型,结合实时推理和批量推理,能够自动发现错误时间(如4月20日4点半)、类型(如SIM卡掉网)、卡号信息、错误原因(如网络信号不好)和解决方案(如更新SIM卡),并进行数据洞察,如哪些卡或运营商的卡会频繁出错、错误原因统计等,同时将结果同步给客服。在试用阶段,他们发现从客户报错到提供解决方案,时间缩短从原来的30到60分钟减少到了仅3到5分钟,效率大幅提升。
目前,设备日志分析项目已经上线,问题排错的准确率达到84.5%,能够自动生成2TB日志的分析报告。二期计划将利用模型微调,进一步提升准确率至90%以上,并通过亚马逊云科技的Fine-tune功能大幅降低项目成本。由于在大量日志和智能化处理过程中,准确率和成本呈正相关,准确率越高,成本就越高。但Fine-tune功能能够在保持高准确率的同时大幅降低成本。
除了内部提效,梁彦晖还分享了他们在业务创新方面的实践,包括设备日志分析和用户流失预测两个项目,旨在帮助提高客户留存率。设备日志分析项目的介绍已经包含在上文中,用户流失预测项目则利用AI工具对用户流失进行预测分析,从而采取相应措施提高客户转化率。
总的来说,通过与亚马逊云科技的紧密合作,利用生成式AI技术,梁彦晖和他的团队在运营商行业的内部提效和业务创新两个方面取得了卓越的成就,大幅提升了工作效率,优化了业务流程,为客户提供了更加优质的服务体验。这些宝贵的实践经验对于其他运营商以及更广泛的行业来说,都是具有启发意义的。生成式AI正在为传统行业注入新的活力,推动着创新和变革,开辟了无限的可能性。
下面是一些演讲现场的精彩瞬间：
在这一刻,演讲者分享了运营商行业如何利用生成式人工智能进行创新应用和实践的见解。
通过与 亚马逊云科技 技术团队合作使用 Amazon CodeWhisperer,公司提高了开发代码的效率和安全性,在控制成本的同时满足了业务增长带来的需求。
亚马逊备份知识库工作流程提供了全面托管的支持,安全连接了多种文档共享平台,如SharePoint、Confluence和Mirror等。
我们通过“Follow the Sun”模式建立了一个全球24小时技术支持团队,实现了智能运维机器人集群,提高了运营效率。
亚马逊备份知识代理具有面向业务人员的低代码开发属性,实现了快速试错和业务创新,仅用一个月时间就完成了整个工作流程的搭建。
通过智能日志分析,实时推理和批量推理,发现并解决网络问题,提高工作效率。
通过创新的AI技术,问题排查时间从30-60分钟缩短到3-5分钟,准确率达84.5%,大幅提高了工作效率。
在这场富有洞见的演讲中,梁彦晖阐述了亚马逊云科技如何通过生成式人工智能(GenAI)推动运营商行业的创新与实践。作为一家全球虚拟运营商,他们依赖亚马逊云科技的全球基础架构,通过AI引擎调度云资源为移动终端提供无缝网络连接服务。
面对海量日志数据和复杂的运维挑战,他们与亚马逊云科技合作,利用Amazon CodeWhisperer提高代码开发效率和安全性。同时,借助Amazon Backup Knowledge Base构建统一知识库,提升信息检索效率。更重要的是,他们开发了智能运维机群,将大语言模型与解决方案工具库相结合,实现自动问题分析、检查和解决,将运维团队人数从24人降至6人,问题解决时间从1-2小时缩短至10-15分钟。
此外,通过智能日志分析,他们能在客户投诉前发现并解决问题,提高客户体验。一期项目上线后,问题排错准确率达84.5%,解决方案响应时间从30-60分钟缩短至3-5分钟。未来,他们计划通过模型微调进一步提升准确率并降低成本。
梁彦晖的分享展示了亚马逊云科技生成式AI在运营商行业的创新应用,为提高运维效率、优化客户体验和降低成本提供了有力支持。他呼吁企业与时俱进,拥抱AI技术,推动数字化转型,实现可持续发展。
亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。