OPPO：用AndesGPT迎接下一个十年
“大模型”是2023年互联网发展技术趋势的关键词，此刻OPPO也迈入大模型竞逐的下半场。
2023年初，国内大模型领域受到ChatGPT的影响，“百模大战”迅速进入白热化。今年8月，随着《生成式人工智能服务管理暂行办法》的正式施行，文心一言、百川大模型、智谱清言等大模型应用正式向全社会开放。
当下大模型逐渐“面向全社会”，意味着大模型之间的竞争已经跨过前期积累，进入到技术应用落实阶段。行业重心的倾斜，让模型与参数的比拼不再是重点，对大模型存在价值的思考才是关乎企业存亡的核心所在。
今年8月份开始，OPPO、vivo、华为、小米等Top级手机厂商围绕着海量的硬件和富有创造力的落地方案，宣布正式进军大模型领域，通过聚焦手机和生态体验的差异化，瞬间成为整个行业关注的焦点。
这里的原因有三点：
第一，手机厂商作为最接近消费者的硬件厂商，多年的深耕可以帮助其更准确、直接地抓住用户需求，甚至更深入地参与到手机系统的定制当中，实现更有价值的落地方案。
第二，海量的用户群。根据数据统计，整个2022年国内智能手机的出货量已经达到2.64亿部，手机厂商通过OTA能够迅速将大模型部署到原有设备上，通过用户的使用数据为大模型的成长提供最好的养料。
第三，单一的硬件和完全依靠云侧的方案难以推动AI进一步发展，软硬件的高度协同是拓宽大模型边界的关键所在，想要实现场景体验的新突破，打通上下游无疑是AI发展的未来趋势。
这场蓄谋已久的竞赛，让手机厂商间的竞争焦点从技术转变为市场。谁能获得用户的青睐，谁就获得了“下个十年”。
安第斯大模型，不止大模型
让用户感知到技术突破的真实价值与更优质的体验，是对大模型来说是既简单又困难的一件事。
大模型在三大要素：算力、模型、数据的不断影响下，早已超过行业内最初的预期，它不再是一种工具，而是成为一种创造力的源泉。
但技术突破是一回事，用户的感知与体验却是另一回事。
在11月16日OPPO的开发者大会上，OPPO正式推出了自主训练的大模型AndesGPT。据介绍， AndesGPT有三大类规格：AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan，可涵盖十亿至千亿以上多种不同参数规模的模型规格，根据不同场景智能调度。
其中最值得注意的是AndesGPT对To C领域的支撑。OPPO多年来的「用户导向」决定了大模型业务会向着产品体验倾斜。而这恰恰是“百模大战”中所缺少的：让用户感知到技术突破的真实价值与对体验优先的坚持。
近年来OPPO在中国市场成绩斐然，仅2023年上半年出货量就达到了2400万台，成为国内手机市场第一名，另外，ColorOS存量用户群体也愈加庞大，目前已经达到了6亿。庞大的用户基数早已让AndesGPT没有落地场景之忧，有充足的时间和精力去提高技术力、解构用户需求。
但想要在高频用机场景中将AndesGPT渗入到用户的日常生活，这并不是一件容易事。OPPO内部通过不断地推演与论证，最终选择将“对话增强”、“个性专属”，以及“端云协同”作为突破点，来作为AndesGPT的差异化特征，成为ColorOS底层架构的一部分。
通过以上三点再结合AndesGPT所提供的能力，我们可以更好理解OPPO大模型的差异化打法：
在AndesGPT的定义中，“对话”是GPT记忆能力、逻辑推理能力、模糊意图理解能力、生成能力等等的一个集合，作为大模型与用户沟通的桥梁，“对话”的重要性不言而喻。面对这座大山，坚持长期主义的OPPO做出了与“愚公”相同的选择。
在2020年，OPPO 就已启动预训练语言模型的探索与实践，自研了一亿、三亿和十亿参数量的大模型 OBERT，通过不断地技术积累，OBERT 曾一度跃居中文语言理解测评基准CLUE1.1 总榜第一梯队，还获得了大规模知识图谱问答 KgCLUE1.0 排行榜第一的成绩。
在沉淀了OBERT的技术经验之后，AndesGPT融合海量中文对话数据、精品知识图谱，以及高质量 QA 问答数据，结合对预训练、指令微调、人类反馈强化学习等技术的定制优化，显著提升了模型知识与百科能力的覆盖面和准确性。
此外，为保证连贯持续对话中的优质体验，OPPO还提出了一些技术上的变革思路：
首先，OPPO为AndesGPT引入了长时记忆机制，支持无限长度的上下文记忆，其中包括用户交互过程中产生的交互历史、个人数据，以及从中提取的结构化信息等。这意味着AndesGPT能够凭借记忆，成为一个只属于用户自己的超级助理。
而想要保证长时记忆流畅的使用体验，AndesGPT要拥有足够的吞吐速度和检索能力。针对这一技术难题，OPPO选择了独创新技术：SwappedAttention 来攻克推理时长的难题。SwappedAttention 通过外部存储和KV压缩的方式，能够实现会话级KV缓存，在多轮长上下文对话中能有效降低每个query的首字推理时长，结合原有 PagedAttention 算法，能够带来50%的首字延迟降低和30%的推理吞吐提升。
技术上的支撑保证了AndesGPT「千人千面」的个性化使用体验。在没有引入大模型前，用户的语音交互只能得到一个成型的固定答案；而在引入大模型后，带有专属记忆数据的语音交互可以依托广泛的知识体系，实现更具价值的互动。
今年9月，AndesGPT参与了 SuperCLUE 的能力测评，在知识与百科方面获得了 98.33 的高分，位列 SuperCLUE 知识与百科能力排行榜中的全球第二、国内第一，尤其是通用问答与对话能力，极为出色。
AndesGPT的肌肉已经足够健硕，但OPPO对其的期望却不止于此。
去年，智慧跨端系统潘塔纳尔随着技术的升级应运而生，打破了不同设备、系统、服务之间的壁垒，如今新的行业新的大势出现，「体验为先」的OPPO决定用AndesGPT，与潘塔纳尔系统深度协同，赋能ColorOS整体生态。
大模型怎么在端云之间协作，给用户提供最佳的体验，一直是OPPO非常看重的命题。端侧有着更低时延、更低功耗、更好的用户隐私安全保障，但在弱网、无网、复杂计算等场景下仍旧存在局限性。以内容创作为例，简单的短文本内容创作在端侧就能提供支持，而在复杂的长文本内容创作中，纯粹的端侧可能会无法生成令人满意的结果，所以OPPO认为结合端侧与云侧的优势才是手机行业大模型的必然演进方向。
作为OPPO端与云之间连接的纽带，AndesGPT更像是一个启动按钮，联动上下游激活了OPPO所有的布局，通过协同、互补、协作三方面，让AndesGPT彻底成为OPPO底层架构的一部分。
在大模型发展的第一阶段，“快鱼吃慢鱼”是业内的共识；而如今到了第二步，谁能将能力落到实处，谁才掌握了主动权。
OPPO早在今年3月份就把大模型作为内部重要的战略级投入赛道，将“一切以用户需求为中心”的思想贯彻整个大模型研发周期。多年的“长期主义”使得OPPO在面对新领域、新技术时，仍能保持冷静的心态洞察用户需求，坚持技术积累，静静等待爆发的关键节点。也让安第斯大模型，不止大模型。
（雷峰网）
OPPO大模型生态的“关键按钮”
生态是大模型最重要的一环。
今年11月初，OpenAI举办了历史上首届开发者大会，并在大会上宣布了一个令所有AI开发者都无比激动的新项目：GPTs。
GPTs最大的意义在于，无需任何编码知识，仅通过互动的形式，使用者就能拥有一个专属的GPT。另外，使用者也可以将其上架到GPT Store中，提供给其他用户使用。
GPTs引起行业轰动，无非就是做到了两件事：第一是无门槛化，任何人都能生成更符合自己的GPT；第二个就是生态的雏形，当有足够多的GPTs丰富应用商店时，量变引发质变，ChatGPT会拥有属于自己的生态，甚至属于大模型的操作系统。
有这种想法的不止OpenAI，在遥远的大洋彼岸，OPPO也有着同样的思考。
在OPPO开发者大会当天，OPPO宣布了一个新的计划：开源智能体框架。B端和C端的用户可以通过低代码，甚至零代码去构建自己的AI应用，让所有人都能参与到OPPO大模型应用生态的共创与建设中来。
在对智能体框架开源的思考中，OPPO保持了「体验为先」的核心策略，使AndesGPT能一直前行在正确的道路上。
OPPO的策略侧重于丰富它的工具属性，智能体框架将提供能够完全适配和充分挖掘AndesGPT能力的prompt。这样，不懂代码的普通用户，也能轻松定义和分享AI原生应用，一起构建更完善的大模型生态。
在开发者大会上，OPPO也宣布搭载安第斯大模型能力的全新小布跟随ColorOS14正式发布，除了大模型必备的超级问答、内容创作和图片创作等能力，全新小布还化为用机助手和日程助理，此外，智能体也在全新小布上浮出水面，体验令人期待。
在“投资未来”的长期主义驱动下，完善的生态是一切是OPPO大模型的关键，大模型构建了生态，但大模型也仅仅是生态的一部分。AndesGPT多年的技术积累正逐渐成为OPPO底层架构的一环，模型能力不断进化，为ColorOS提供坚实的智能化技术底座。
在竞逐大模型的路上，OPPO是少见且难得的“清醒者”
安第斯山脉是陆地上最长的山脉，位于南美洲的西岸，在狭长的山脉两侧，一侧气候干旱，一侧茂盛，天然的屏障构成了无法逾越的生态壁垒。
大模型生态的构建不是一件容易的事，这需要长久的耐心和“不争先”的核心决策。回顾过去，区块链、元宇宙、AR等技术的发展离不开“噱头”二字，“快鱼”吃掉了“慢鱼”，却也让快鱼消失在时代的浪潮之中。
“对的路不怕远”是OPPO发展的精神内核。回顾手机发展历史的多个节点，无论是OPPO所坚持的超级闪充与电池健康，还是依托潘塔纳尔系统所带来的万物互融，OPPO都选择了“难而正确”的决定。同时也正是这种极致的细节打磨，让OPPO在混乱的“百模大战”中保持了难得的清醒。
在OPPO大模型立项之初，行业内就已经存在非常多的开源与闭源大模型，当时摆在OPPO面前有两条路线：与其他企业进行合作还是从零开始研发？
OPPO选了一条最难也是最远的路。
经过内部反复的推演与论证，OPPO发现使用现有的大模型产品并不会对产品提供更好的体验。以信息获取为例，用户最核心的诉求是获得专业、可信、安全的内容，而目前多数大模型都存在“幻觉”的问题，这也使得用户难以判断什么时候可以采信大模型的结果。
相反，OPPO小布助手在2021年月活量就已经过亿，有着大量真实的用户互动场景和高质量语料数据积累。在愈演愈烈的行业风口面前，求真、务实的OPPO在明确方向和需求之后，开始全面加大研发投入，确定构建“最核心的底层技术”以及“软件工程和系统能力”，并积极与头部芯片厂商进行深度合作，率先在行业采用 4 位量化技术，实现精度不掉点效果下更优的端侧化性能，同时这也是目前业内效果较为领先的端侧大模型部署方案。
身为一家将“长期主义”刻在骨子里的企业，OPPO的每一步都走在「用户体验为先」的道路上，也正是这种将产品体验做到极致的追求，让OPPO一步一步地成为行业中的领头羊。
随着安第斯大模型成为ColorOS的“关键按钮”，OPPO终于要迎来未来的“新十年”。
（雷峰网）