在智能手机市场络绎不绝的新品发布中,一波涌动的潮流正逐渐凸显其轮廓——AI大模型。
随着ChatGPT的横空出世和全民级应用发展趋势,手机厂商开始探索将AI大模型嵌入到智能手机中,从而为用户提供更加个性化的智能体验。
在近日举行的OPPO开发者大会(ODC 2023)上,ColorOS 14正式亮相。
与以往不同的是,在这一次的系统更新中,OPPO首次内置了安第斯大模型(AndesGPT)。根据官方介绍,该模型包含了从10亿到千亿不同参数规模的多种模型,并将与潘塔纳尔系统全面融合。
而在半个月前,vivo正式发布自研蓝心大模型BlueLM,它是vivo自研通用大模型矩阵,从开源到完全自研历时6年,包括十亿、百亿、千亿三个不同参数量级的5款自研大模型,全面覆盖核心应用场景,并将大模型矩阵能力全面融入到OriginOS 4。
此外,荣耀CEO赵明也于近期透露,新机荣耀Magic6将会搭载自研的70亿参数量级端侧AI大模型。同样地,华为宣布手机系统接入盘古大模型。
随着头部手机厂商入局AI大模型赛道,预示着,部署AI大模型的手机终端将会越来越普及,为行业带来新的机会。
头部厂商逐鹿AI大模型
如果说数据是新的石油,那么大模型就是提炼这个石油的精炼厂。
大模型的出现,让我们能更有效地利用海量的数据,从而提炼出有价值的信息。那么,大模型千亿级的参数量如何在手机上流程运行,此时端云协同的混合架构就成为关键。
OPPO安第斯大模型就采用云端相结合的方式落地端侧大模型,通过手机端硬件和云的组合,可以实现以往单纯依赖云服务的智能语音助手所不能实现的功能。大模型会根据任务需求和模型能力不同,调用不同模型。简单任务,如联系人查询等,将采用小模型端侧快速响应,而复杂任务,如知识、信息查询等,将使用云端大模型进行准确回答。
vivo的蓝心大模型包含有10亿、70亿、700亿、1300亿、1750亿五种参数规模,其中10亿和70亿已经可以由本地算力支撑,而更大的数据仍然需要运行在云端。
为此,vivo并不会强制用户必须使用端侧或者云端,而是交给用户自己去选择,比如隐私保密性不需要那么高的输入法等功能,可以选择在云端运行,而公司文件、相册等,就可以利用手机本身的算力来完成。
与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 可以实现在设备端运行复杂的AI算法,从而减少对云端服务的依赖,个人私密信息也不用上传的云端,保障数据安全。此外,手机可以更好地理解和响应用户的需求,从而满足用户对更加智能化手机的期待。
OPPO数智工程事业部总裁刘海锋表示,在生成式AI技术的加持下,手机对于用户意图理解和情境感知将会更准确。
“比如过去,系统只有知道用户订了高铁去北京,才会推送高铁行程信息。但未来手机系统会根据用户需求提前形成一张包含高铁班次、出行时间与出行地天气温度的新卡片进行推送。此外,系统还会根据交通拥堵情况,以及用户偏好习惯,提供导航去高铁站停车场等关联服务推荐,如果识别到用户是想去旅游,还会提供旅游相关的一整套服务。”
终端侧部署AI大模型
仍有挑战
作为推动手机物种进化的先进技术,与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面带来了更加广阔的应用前景。同时,在手机端部署AI大模型仍然面临不小的挑战。
首先是算力,大模型的运算量大,需要强大的计算资源支持,手机厂商在算力基础设施上的储备往往不够充足。
vivo AI全球研究院院长周围透露,目前1300亿参数以上的大模型对算力要求非常高,现在训练都暂停了,1300亿参数以下的大模型训练依然在继续。据了解,vivo也与其他算力芯片厂商接触,但还没有明确的方案。
此外,从应用侧来看,轻量化本地部署是手机大模型的一个重要趋势。为了在手机上高效运行大模型,手机厂商需要将模型进行压缩和轻量化处理,通过剪枝、量化、分解等技术,以减小模型的大小和计算量,以确保模型能够在手机上高效运行。
在业内看来,目前AI大模型在手机端侧的应用还在起步阶段,但却是未来必争的技术高地。根据IDC预测,到2026年,中国市场中近50%的终端设备的处理器将带有AI引擎技术。
这意味着,手机厂商拥有AI大模型的能力将变得越来越重要。对于用户而言,在AI大模型的赋能下,未来手机演进将迎来更多体验层的“质变”性创新。
#飞象资讯 #大模型
内容推荐
意法半导体为边缘AI打开新大门
生成式AI与云原生,比企业变革更重要的是什么?
端侧AI大模型会颠覆手机领域吗?
.rich_media_content{color:#000000e5;font-size:17px;font-size:var(--articleFontsize);overflow:hidden;text-align:justify}.rich_media_content{color:#ffffffa6;color:var(--weui-FG-HALF)}.rich_media_content{position:relative;z-index:0}.data_color_scheme_dark{--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}.data_color_scheme_dark{--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}.data_color_scheme_dark{--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BG-COLOR-ACTIVE: #373737}.data_color_scheme_dark{--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}.wxw-img{vertical-align:bottom}.h5_image_link{position:relative;display:inline-block;vertical-align:bottom;-webkit-user-select:none;-ms-user-select:none;user-select:none}.h5_image_link:before,.h5_image_link:after{content:"";position:absolute;top:8px;right:8px;width:20px;height:20px;display:-ms-flexbox;display:flex;-ms-flex-align:center;align-items:center;-ms-flex-pack:center;justify-content:center;z-index:1}.h5_image_link:before{background:#5f5f5f80;-webkit-backdrop-filter:blur(20px);backdrop-filter:blur(20px);border-radius:100%}.h5_image_link:after{-webkit-mask:url(data:image/svg+xml;charset=utf8;base64,PHN2ZyB4bWxucz0naHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmcnIHdpZHRoPScxNicgaGVpZ2h0PScxNicgdmlld0JveD0nMCAwIDE2IDE2Jz4gIDxnIGZpbGw9JyM1NzZCOTUnPiAgICA8cGF0aCBkPSdNOC41NjYgNy40MzRsLTEuOTgtMS45OC0uNzU0Ljc1NSAxLjI1NyAxLjI1N0gyLjMzM3YxLjA2N0g3LjA5TDUuODMyIDkuNzlsLjc1NC43NTUgMS45OC0xLjk4YS44LjggMCAwIDAgMC0xLjEzMnonLz4gICAgPHBhdGggZD0nTTQuMzMzIDExLjhIMy4yNjd2MS4wNjdhLjguOCAwIDAgMCAuNzk3LjhoNy44MDVhLjguOCAwIDAgMCAuNzk4LS43OThWMy4xMzFhLjc5OS43OTkgMCAwIDAtLjc5OC0uNzk4SDQuMDY0YS44LjggMCAwIDAtLjc5Ny44VjQuMmgxLjA2NnYtLjhIMTEuNnY5LjJINC4zMzN2LS44eicvPiAgPC9nPjwvc3ZnPg==) no-repeat 50% 50%;mask:url(data:image/svg+xml;charset=utf8;base64,PHN2ZyB4bWxucz0naHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmcnIHdpZHRoPScxNicgaGVpZ2h0PScxNicgdmlld0JveD0nMCAwIDE2IDE2Jz4gIDxnIGZpbGw9JyM1NzZCOTUnPiAgICA8cGF0aCBkPSdNOC41NjYgNy40MzRsLTEuOTgtMS45OC0uNzU0Ljc1NSAxLjI1NyAxLjI1N0gyLjMzM3YxLjA2N0g3LjA5TDUuODMyIDkuNzlsLjc1NC43NTUgMS45OC0xLjk4YS44LjggMCAwIDAgMC0xLjEzMnonLz4gICAgPHBhdGggZD0nTTQuMzMzIDExLjhIMy4yNjd2MS4wNjdhLjguOCAwIDAgMCAuNzk3LjhoNy44MDVhLjguOCAwIDAgMCAuNzk4LS43OThWMy4xMzFhLjc5OS43OTkgMCAwIDAtLjc5OC0uNzk4SDQuMDY0YS44LjggMCAwIDAtLjc5Ny44VjQuMmgxLjA2NnYtLjhIMTEuNnY5LjJINC4zMzN2LS44eicvPiAgPC9nPjwvc3ZnPg==) no-repeat 50% 50%;-webkit-mask-size:14px;mask-size:14px;background:#fff}.h5_image_link:empty{display:none}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) .rich_media_content img:not(.wx_img_placeholder){filter:brightness(.8)}}a{color:#576b95;text-decoration:none;-webkit-tap-highlight-color:#0000}a{color:#7d90a9;color:var(--weui-LINK)}a,button{cursor:pointer}body,.wx-root,page{--weui-BTN-HEIGHT: 48;--weui-BTN-HEIGHT-MEDIUM: 40;--weui-BTN-HEIGHT-SMALL: 32}.wx-root,body{--weui-BTN-ACTIVE-MASK: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BTN-DEFAULT-ACTIVE-BG: #e6e6e6}.wx-root,body{--weui-DIALOG-LINE-COLOR: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BG-COLOR-ACTIVE: #ececec}body,.wx-root{--weui-FG-1: rgba(0, 0, 0, .55);--weui-ORANGERED: #ff6146;--weui-BG-0: #ededed;--weui-BG-1: #f7f7f7;--weui-BG-2: #fff;--weui-BG-3: #f7f7f7;--weui-BG-4: #4c4c4c;--weui-BG-5: #fff;--weui-FG-0: rgba(0, 0, 0, .9);--weui-FG-HALF: rgba(0, 0, 0, .9);--weui-FG-1: rgba(0, 0, 0, .5);--weui-FG-2: rgba(0, 0, 0, .3);--weui-FG-3: rgba(0, 0, 0, .1);--weui-FG-4: rgba(0, 0, 0, .15);--weui-FG-5: rgba(0, 0, 0, .05);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #fa9d3b;--weui-YELLOW: #ffc300;--weui-GREEN: #91d300;--weui-LIGHTGREEN: #95ec69;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1485ee;--weui-PURPLE: #6467f0;--weui-WHITE: #fff;--weui-LINK: #576b95;--weui-TEXTGREEN: #06ae56;--weui-FG: #000;--weui-BG: #fff;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: #fa9d3b;--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: #06ae56;--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: #10aeff;--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(0, 0, 0, .5);--weui-TAG-BACKGROUND-BLACK: rgba(0, 0, 0, .05)}body,.wx-root{--weui-BG-6: rgba(0, 0, 0, .05);--weui-ACTIVE-MASK: rgba(0, 0, 0, .05)}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-COLOR-ACTIVE: #373737}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).appmsg_skin_default.rich_media_empty_extra{background-color:#191919}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).my_comment_empty_data{background-color:#111}}.rich_media_content p{clear:both;min-height:1em}td p{margin:0;padding:0}:root{--articleFontsize: 17px}:root{--sab: env(safe-area-inset-bottom)}:root{--wxBorderAvatarRatio: 3}:root{--discussPageGap: 16px}:root{--appmsgPageGap: 20px}*{margin:0;padding:0}.rich_media_content *{max-width:100%!important;box-sizing:border-box!important;-webkit-box-sizing:border-box!important;word-wrap:break-word!important}