AI卷到移动端：vivo蓝心大模型接入OriginOS 4
作者｜纪凯
AIGC概念的爆发，对于手机厂商来说犹如一场及时雨。
自2019年左右开始，消费电子产品市场就进入了瓶颈期。直至今年，全球的智能手机市场也未扭转颓势。
而业内普遍认为，AI大模型能够极大地提升了手机的性能表现，增强手机处理图像、语音、NLP等任务的能力。
另外，AI大模型借助庞大的语言数据库作为训练资源，结合强大的算力和算法支持，使得手机能够理解复杂的语义和语境，提供准确和快速的回答，实现个性化的服务。
置身经济下行周期，跑通手机大模型成为各大厂商的竞争焦点。科技先生将聚焦于前天刚发布自研大模型矩阵的vivo公司，探讨他们如何运用大模型重构手机的领域。
AI大模型矩阵究竟有何不同？
经过多年的准备，vivo终于在2023年11月1日的开发者大会上发布了自研的AI大模型「蓝心BlueLM」和全平台自研操作系统「蓝河BlueOS」。
与许多互联网企业提出的"单个通用大模型"不同，vivo打造的AI大模型矩阵非常丰富，涵盖了十亿、百亿和千亿三个参数级别，共计五款模型，旨在满足多样化的核心应用场景需求。
其中，十亿级别包括两款模型：第一款是面向端侧场景打造的10亿量级模型，手机上推理速度可达每秒64个字，具备本地化的文本总结和摘要等能力；
第二款是70亿模型，主要面向手机打造的端云两用模型，具备出色的语言理解和文本创作能力。
百亿级别的大模型是700亿的蓝心大模型70B，主要应用于云端服务，适用于角色扮演、知识问答等场景。另外两款千亿参数级别的模型将在明年推出。
值得一提的是，vivo宣布70亿蓝心大模型7B将开源，这也是手机行业首个宣布开源的大模型。
"大模型肯定是要不断升级的，但对于手机行业，我们需要平衡成本、性能和功耗，所以我们也需要不断优化。"综合来看，vivo副总裁、OS产品副总裁、vivo AI全球研究院院长周围认为，对于手机而言，大模型一定是一个矩阵。
根据周围的观点，优秀的自研大模型需要具备五大特质："大而全、算法强、真安全、自进化、广开源"。
首先，模型规模需要足够大，支持多种模态，以拥有人类的多种能力；其次，算法需要强大，不断突破基础算法，在评测中保持领先。
同时，安全性也是重要考量，要符合价值观和道德规范，保护数据和隐私。另外，模型需要具备自我进化的能力，通过不断更新数据提升能力，以适应用户需求。
最后，开源和开放也是重要的特质，降低应用门槛和成本，推动整个产业的进步。
vivo布局大模型背后
生成式大模型的出现标志着新一轮技术革命即将发生重要转折，中国科技企业正在面临巨大的挑战。
对此，vivo执行副总裁胡柏山坚持宣称，未来没有任何捷径可走，必须坚定地投入夯实包括AI、芯片等“研发底座”，这有何考量？
根据周围的理解，自研大模型不仅可以帮助消除价值观不合的问题，确保更好的客户互动体验，还可以节省成本，满足用户的细分需求，例如快速反应速度和更好的性能。
此外，相比于开源模型的更新较慢，自研大模型可以定期更新，以确保准确性。特别是对于 Always-On 这样的技术，以及对省电和性能的要求，自研模型更能满足vivo对未来规划的需求。
事实上，vivo并非首个推出自研AI大模型的手机厂商，但回顾其在人工智能领域的投入已经超过六年。
作为较早布局人工智能的先行者，vivo在2017年开始筹备人工智能全球研究院，并于2018年正式成立，是中国手机公司中最早设立专攻人工智能方向研究院之一。
为了构建自有的大模型体系，vivo进行了系统性的思考和布局，在人才、数据、算法、算力、安全等方面坚持战略性的投入。
在人力方面，vivo从2017年开始一直保持着大约1000人的专业人工智能团队，在2021年已经超过600人专注于大模型的研发。
在数据方面，自2018年成立人工智能图谱研究院以来，vivo已经积累了13000T的多模态数据和2800T高质量的中文文本数据。
这些数据经过清洗和压缩后，仅用于百亿级别的蓝心大模型的文本数据量就达到了15T，相当于2.5个中国国家图书馆的藏书量。
在算法层面，vivo将理论与实践相结合，自2018年以来，vivo已经在顶级期刊上发表了70多篇高水平论文，并持续跟踪全球顶尖学术期刊的动态，将其转化为算法和工程应用。在算力层面，vivo通过信息创新实现更好的训练和推理部署。
用大模型重构终端，是未来AI战场的必争之地
开会时，迅速获得类似专业公司出具的行业报告；出行时，根据用户的需求、习惯和场景进行主动推理和决策，而不是仅作为被动工具执行命令...
致力于为用户带来惊艳的体验，让手机拥有与用户共同的记忆，了解用户的习惯，能够帮助用户自主安排日程、社交、工作会议等。这正是vivo不惜成本将7B大模型应用于每个手机用户的原因和动力。
以周围预期，vivo的大模型应用不仅仅局限于提升人机对话体验，而是深入到用户的出行、学习、生活、工作等各个场景，带来真正的“全面颠覆性创新”。
愿望是很美好的。然而，在实现大模型的端侧化过程中仍然存在许多困难和挑战。例如，与芯片厂商密切合作时需要处理模型蒸馏、指令集兼容性、NPU性能优化以及与芯片厂商的联合定制等问题。
对于未来的大模型如何改变智能手机，目前可能还难以下结论。但无论如何，手机厂商对大模型的投入并不是一时兴起。未来的两年，行业或许将迎来AI在手机领域创新爆发的时刻。
高通公司开发的第二代骁龙8芯片可以让Android手机直接运行参数规模超过10亿的Stable Diffusion人工智能模型。
Google公司在五月份发布了大语言模型PaLM2，其中包括四个不同大小的人工智能子模型，其中参数量最小的一个可以在手机上独立运行。
华为、小米、OPPO等公司也将大模型应用于手机终端。手机厂商在大模型领域的投入有目共睹，也更加贴近实际场景。
激烈竞争的存量市场使得各大厂商希望借助新技术来塑造自身在高端市场的竞争力形象。
据IDC预测，到2026年时，中国市场上接近一半的终端设备的处理器将配备AI引擎技术。
显然，利用AI技术，不断改善手机用户的体验已是必然的趋势。手机厂商之间的大模型暗战，已经来势汹汹。