通过盘古大模型的底层能力加持,HarmonyOS将带来更进步的AI,华为手机的智慧助手小艺将具备AI大模型能力,预计在8月下旬开启邀测体验。
华为鸿蒙4(HarmonyOS 4)正式发布。华为鸿蒙系统是面向万物互联的全场景分布式操作系统,支持手机、平板、智能穿戴、智慧屏等多种终端设备运行。目前鸿蒙生态设备已达7亿台。
值得注意的是,鸿蒙4搭载了AI大模型,这意味着,华为进一步将AI大模型接入其移动终端,可在手机侧运行大模型。
据华为介绍,通过盘古大模型的底层能力加持,HarmonyOS将带来更进步的AI,华为的智慧助手小艺将具备AI大模型能力,在交互、生产力提升和个性化服务三个方向上增强:
小艺可以听懂你所有指令甚至实现自然对话;在语音交互的基础上增加了文字互动,可以帮用户快速摘要资讯信息;能辅助文案生成、图片二次创作;能记录更多琐事、灵感,熟悉日常偏好、习惯;预计在8月下旬开启邀测体验。
这不是华为首次尝试将AI大模型接入移动终端。
3月份发布的华为P60手机自带智慧搜图功能,该功能基于多模态大模型技术,通过在手机端侧对模型进行小型化处理,实现了手机侧的大模型运行。
互联网时代,移动终端是大模型的最佳入口,华为之外,OpenAI、谷歌、腾讯、百度、三星、高通等都致力于实现AI大模型在移动终端的轻量化部署。
OpenAI不仅成立了ChatGPT移动团队,还推出了覆盖iOS/安卓系统的移动端ChatGPT应用。
Meta将与高通合作,从2024年起,其开源大模型Llama 2将能在旗舰智能手机和PC上运行。
高通表示正在将更多生成式AI用例向边缘侧迁移,目前,参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。
谷歌、腾讯、百度等已将模型压缩技术紧密结合移动端模型部署框架/工具。
三星电子考虑将其设备上的默认搜索引擎由谷歌改为必应。
在移动端运行大模型有何好处?
广发证券对OpenAI发布移动端应用的评价可以作为答案,该机构称,移动端ChatGPT可以带来:
更广泛的用户群体:移动端更易于访问,降低使用门槛,吸引更多用户,扩大AI技术和大模型的普及范围;
海量交互数据:用户随时随地使用ChatGPT,产生多元化领域的交互数据,进一步加速模型迭代;
商业价值充分释放:移动应用中提供内购的订阅业务,App付费空间打开,全球近40亿智能手机用户为ChatGPT带来庞大受众基础和商业化变现的机会。
总体而言,大模型接入更多种类的硬件设备已成趋势。华泰证券此前表示,大模型的“新入口”属性已经从主流的PC和手机端,向更广泛的智能设备扩散。这些主要的智能设备不仅包括手机,还包括机器人、智能音箱、车载助手等。
从投资角度看,这不仅将赋能各类智能物联终端,使其借助AI模型提升硬件价值量,还将带动智能模组、IoT芯片等上游零部件的量价增长。
另外,随着大模型在智能设备中的渗透率提升,对于边缘侧模型推理的需求将快速释放。
国盛证券便指出,在AI向实际场景落地时,边缘算力的重要性加速凸显,边缘算力在成本、时延、隐私上具有天然优势,也可以作为桥梁,预处理海量复杂需求,并将其导向大模型。
来源:科创板日报