当前位置:首页|资讯|生成式AI

手机生成式AI开卷 本地化端侧部署迫在眉睫

作者:PChome电脑之家发布时间:2023-12-28

原标题:手机生成式AI开卷 本地化端侧部署迫在眉睫

在新一代的手机中,几乎所有手机厂商都将AI大模型作为宣传点,仿佛手机有了AI大模型过后,就能变得无所不能一样。

AI无所不能的印象,可能是聊天机器人带给大家的错觉。手机厂商发展AI大模型的思路肯定是正确的,未来手机要是没有大模型,那肯定是不行的。

至于手机AI大模型为何会在现在这个时间点爆发,在我们看来原因很简单,就是性能够了。

最新款的第三代骁龙8移动平台,内置了强大的NPU,相比上代产品AI算力提升了98%,能效也提升了40%。可以支持在手机中轻松部署70亿参数大模型,甚至100亿乃至130亿大模型也未尝不可。比如100亿级别的Meta Llama2,就能让用户在本地进行文本、图像和语音交互。

模型参数这个数据可能还有些抽象,Stable Diffusion的图像生成速度,更能反映出AI性能的提升。在高通此前通过第二代骁龙8的Demo演示中,生成一张图片的时间大概要15秒左右,而在第三代骁龙8中,只需不到1秒即可完成图片生成。

不到1秒和15秒之间是有着本质性区别的,意味着它可以直接嵌入到手机相机应用中,可以在拍照过后,立刻以照片为基础生成一张效果更好的图片。高通就在这方面进行过演示,预先提供一张背影照片,即可让AI精准生成一张身处海边的黄昏时刻背影大片,将类似功能嵌入到相机中,无疑是个很有创意的想法,每张照片不到1秒的额外时间,完全对得起照片效果,但拍照过后等15秒才能看到照片,或许就不能被大众接受了。

可能有人会说,Stable Diffusion只是一款10亿大模型的图片生成工具,现在手机中部署的可是70亿大模型。其实对性能我们不用担心,手机中部署的都是比较全面的大模型,Stable Diffusion则是针对图片生成的模型。从目前有限的机型实际体验,大模型现在提供的功能中,图片和文本的生成速度,与模型的交互速度都很令人满意。

AI大模型实用性实战,生成式使用提高效率

在AI大模型的加持下,手机现在确实能玩出很多新花样。搭载第三代骁龙8的小米14 Pro,在小爱同学中就提供了大模型加持,支持了图片生成,只要在小爱同学中给出一些关键词,即可快速生成一张符合主题的图片,也可以使用口语化的语音指令,让小爱同学来生成图片。

从我们随手给出关键词生成的照片来看,两张照片均完美符合我们给出的主题,效果上也相当不错。完全可以用在平常的图片制作上,如果你缺乏图片素材时,或许可以尝试向你的手机求助,AI大模型或许就能给你不一样的灵感。

AI写真功能则可以对人像照片进行深度学习,生成各式人像主题图片。使用该功能需要先在图库中选择20-30张图片,让AI进行人像特征识别学习,之后就可以以此为基础填入各种关键词,来生成图片了。

该功能具备不错的实用性,比如你想要一张美美的学生证照片,就能在AI证件照模型下,生成标准版的白底、蓝底证件照片,照片肯定是符合你的五官特征,而且还是经过美颜的。想要改变自己的形象时,也完全可以先用AI写真探探路,看看自己从长发变成短发后,究竟会有怎样的气质改变。

小爱大模型还能进行各种文本写作,影评、微博文案、作文等都能搞定,甚至我们给个主题,还能生成PPT。这些是可以显著提高生产力效率的,AI写出来的东西或许没办法直接使用,但在文本基础上进行修改,效率总是比从零开始直接写要高得多。

更多传统的AI使用方式,也能在大模型的加持下,获得更好的呈现效果。这里首推小米14系列的魔法消除功能,不仅能够在照片中识别出各种物体,可以直接去除物体,去除乱入照片的路人。

隐私安全存隐患 端侧部署必不可少

在AI大模型的加持下,手机确实有着更丰富多彩的使用方式,不仅可以提高使用效率,还能让手机与我们变得更为紧密。手机厂商对大模型的推进也很用心,小爱、蓝心等大模型已经被大家所用到了。

AI大模型与生成式AI相结合,进一步完善了人机交互的方式,让口语化。平常化的交互成为了可能,使人机交互变得更为自然。它会为我们的生活带来更多的便利,这些便利不仅能体现在手机中,在PC、汽车等各种终端中,均可以体现。

但目前的手机大模型存在一些问题,其中最明显的,就是大模型的很多功能都需要联网使用。比如图片生成功能,在断网后就无法使用了,这显然对私密性是不利的。尤其是在AI人像相关的图片生成处理上,虽说厂商都承诺了私密性方面的保护,但终归是能完全在本地使用,才让人更为放心。

这其中牵扯到的,其实就是云端大模型和端侧大模型之间的问题了。我们期望在手机中部署的,肯定是端侧大模型,它熟知我们的生活习惯,对我们的各种隐私数据也了如指掌,这些数据显然是不能与外界共享的。而当下我们使用的大模型,还不能做到完全的本地化运行。这会随着技术发展和手机配置提升后,得到解决。

当然,AI大模型完全的端侧部署,需要移动平台和手机厂商的共同努力才行。移动平台目前已经基本满足大模型端侧部署的条件,性能已经在前文说过了,这里就不多啰嗦了。而在端侧部署的最大难题功耗上,第三代骁龙8在能效上有着40%的提升,与高通进行的大模型蒸馏工作结合,将大幅提升处理速度,而且能兼顾模型全天候使用的续航,从而让手机不用为此妥协设计纤薄性或是续航时长。

在我们看来,云端通用大模型与端侧大模型都是未来不可或缺的,在生成式AI的加持下,必然会改变我们的生活方式。对当下手机大模型所提供的新使用方式,确有需求可深入使用,否则了解一番即可。而打算对手机更新换代的话,就要提前考虑AI方面的相关支持了,显然以第三代骁龙8为代表的新一代移动平台,才是最可靠的选择。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1