技术创新，赋能百业 | 宝兰德AI大模型落地应用的探索与实践
1、国务院发布《关于进一步优化政务服务提升行政效能推动“高效办成一件事”的指导意见》，指出：探索应用自然语言大模型等技术，提升线上智能客服的意图识别和精准回答能力，优化智能问答、智能搜索、智能导办等服务，更好引导企业和群众高效便利办事。
2、国家数据局等17部门联合印发《“数据要素×”三年行动计划（2024—2026年）》，指出：以科学数据支持大模型开发，深入挖掘各类科学数据和科技文献，通过细粒度知识抽取和多来源知识融合，构建科学知识资源底座，建设高质量语料库和基础科学数据集，支持开展人工智能大模型开发和训练。
2023年，一夜爆红网络的ChatGPT让人工智能技术进入到以大模型为代表的快速发展阶段。据Gartner《2021年预测：人工智能对人类和社会的影响》，到2025年，生成式AI产品的数据将占所有数据的10%，根据中关村大数据产业联盟《中国AI数字商业展望2021-2025》报告披露，国内生成式AI商业应用规模将达到2070亿元。
在政策支持与人工智能芯片、深度学习、中文自然语言处理等新兴技术双重驱动下，我国人工智能产业呈高速增长态势。ChatGPT的横空出世，让大模型之火迅速燃遍我国大江南北，重塑了企业应用中人与数据的交互方式，加快了人工智能赋能经济社会发展各个领域的速度。
紧跟趋势，聚焦行业
自863项目启动至今，我国科技自立自强的诉求历史悠久且在未来将持续存在，而发展信创则是实现科技自立自强的核心基础。作为较早一批进入信创领域的厂商，宝兰德紧跟信息技术创新应用发展趋势，在中间件领域重点投入，积极推动中间件的国产化，逐步实现了中间件软件产品的国产化自主可控，是我国信创产业发展的见证者和拥护者。
在亲历了我国信息产业发展的同时，宝兰德还专注AI技术在行业内场景化应用。宝兰德依托团队在基础软件和分布式平台软件方面扎实的技术能力和丰富的运维经验，在智能运维、AI平台、计算机视觉、自然语言处理等各方面沉淀了大量自研AI模型，并在ChatGPT爆火前，尝试在Bert预训练大模型基础上做运维机器人产品。
在良好的技术基础和深厚的行业积累共同加持下，宝兰德在2023年推出了数字效能大模型，可以为用户提供数字效能代码大模型、数字效能运维大模型、数字效能运营大模型等专业大模型，构建知识问答、代码生成、文本生成、意图拆分等多项核心能力，提供闭环服务、局部服务、模型服务三种服务方式，赋能智慧研发、智慧客服、智慧运维等领域，提升企业研发效能、业务效能、运维效能，满足不同企业的实际需求，助力提升数字化转型效能。
技术创新，预见未来
为了让新兴技术下沉到产业一线，更好的赋能产业升级。宝兰德聚焦数字效能大模型相关能力，将大模型与特定场景相结合，推出机器人BES AILink Debot（以下称：Debot），利用基础配置、技能管理、机器人管理相关模块，构建智能问答技能、智能取数技能、代码效能技能、智能体技能等，快速支撑智能问答助手、智能取数助手、代码效能助手、运维智能体相关场景，助力企业数字化转型。
BES AILink Debot核心功能：
1
运维智能体
在运维智能体场景中，内置多种常见运维意图，用户可通过“技能管理→机器人管理”两步操作，即可将复杂的运维意图与机器人关联，关联后便可在对话页面以对话方式选择意图，利用大模型智能提取对话中的词槽信息，并通过few shot COT方式提升大模型词槽提取准确率，引导用户在对话框内完成事项，通过自然语言查找相关运维数据，实现“对话式” 运维。
2
智能问答助手
智能问答助手基于RAG相关技术，用户可上传不同领域文档，以现有分析流程自动对其进行向量提取存储，在问答中，可利用相似性检索背景信息，组装prompt，调用大模型获取返回结果。为满足多轮对话需求，可将历史对话记录加入prompt中，大模型可根据历史对话理解上下文信息，进行多轮对话。若从已有文档中无法查询相关知识，可利用大模型的通识能力进行答复。
3
代码效能助手
代码效能助手可通过SFT（指令微调）对大模型进行微调，提升代码生成的准确率。对于SQL生成，已适配查询相关场景，可生成八表关联的复杂SQL，准确率可达到落地要求。
落地应用，赋能百业
为了让新兴技术下沉到产业一线，更好的赋能产业升级，宝兰德在大模型的应用场景上进行了长时间的摸索和实践，终于在智能问答助手、智能问数助手、代码效能助手、运维智能体四个场景中让Debot发挥了其应用价值。
场景1
智能问答助手
教育、医疗、运营商等相关行业，业务、财务等咨询等均需专职人员进行重复问题解答，由于人工在回答这类问题时需要耗费大量的时间和精力，而且难以保证答案的及时性和准确性，用户所提问题需精确命中问题才可，用户体验较差。
为解决这一问题，Debot可利用大模型能力，构建各类咨询场景的智能问答助手，由智能问答助手对终端用户的问题进行匹配，大模型总结后进行答复，提高回答的准确率及用户体验，提升终端用户的服务交互频率及对其的服务效率。并利用大模型相关能力，对企业内外知识进行提取，为企业内提供统一检索的能力。
当前，智能问答助手已经落地长春理工大学，帮助学校实现了基于人工智能技术的信息咨询服务机器人，并接入了企业微信 PC 端和移动端两种咨询渠道，为学生和学校提供了一个便捷、高效、准确的问答服务，为学校与学生之间的沟通建立了更加紧密的桥梁，极大提升了咨询的效率、质量和服务体验。
长春理工大学智能问答平台
场景2
智能问数助手
在不同行业，业务人员对实际业务场景的理解较为深刻，但对技术的掌握较少，故取数需要依赖开发人员，而开发人员对于取数需求的理解存在差异，会出现取数错误。且大屏及总览相关视图较为固化，难以满足用户灵活多变的需求。
为解决这个问题，Debot利用大模型能力，构建智能问数助手，将用户自然语言转化为取数sql，统计数据，以图表形式呈现数据；并可与大屏联动，实现对大屏的切换及筛选。通过智能问数助手，可将图表生成速率由天级别提升至分钟级别，并可根据业务人员需求灵活调整；对话式交互，用户通过自然语言询问数据，业务人员可轻松洞察数据。
场景3
代码效能助手
在运营商、金融行业，取数是较为常见且很耗时的业务，周期一般是1-3天；在教育行业，由于缺少有效编程指导软件，学生实战能力较弱，难以满足工作需要；在软件行业，企业内对产品研发进行降本增效均存在一定需求，但缺少强有力的手段。
为解决这些问题，Debot利用大模型能力，构建代码效能助手，实现对java、python、C、shell等类型的代码生成、代码注释、代码审查，助力研发降本增效。通过代码效能助手，代码可自动生成，研发花更少的时间敲代码，运维花更少的时间取数；可对代码进行定期扫描，通过大模型智能发现代码中相关问题，提升研发质量。
场景4
运维智能体
在运维领域，故障分析的整个过程需要运维人员作为分析主力，AI作为辅助因素，对于人员经验依赖严重；经过多年建设，已构建多个智能运维分析场景，但场景难以形成串联，作用有限；利用机器学习、深度学习进行运维场景分析时，面临瓶颈，如场景如何串联，需要考虑引入新技术进行解决。
Debot利用运维大模型，将收集的信息进行拆解，一个复杂问题拆解为多个简单问题，再智能调取相应agent，进行问题处理，趋向无人运维。
Debot的诞生只是大模型技术落地应用的开始,随着技术的不断发展，宝兰德数字效能大模型将会落地更多场景应用，让政企用户的转型之旅插上数智化的翅膀，赋能千行百业数字化转型升级高质量发展。未来已来，让我们共同期待宝兰德数字大模型在各个领域的广泛应用和进一步创新。