紫光展锐科普 | 从云端到终端：端侧AI大模型的崛起与应用前景

亮点速览■ 紫光展锐自主研发端侧AI大模型推理框架，深度整合业内开源大模型，全面赋能各项业务；■ 已成功适配Tinyllama 1.1B，谷歌Gemma 2B，阿里通义千问 0.5B/1.8B，微软Phi3 3.8B，商汤Internlm2 1.8B ，面壁智能Minicpm 2B等业内主流大模型；■ 支持多种量化格式，为用户带来流畅的端侧大模型应用体验。引言：云端到终端的跨越2023年以来，以OpenAI公司的ChatGPT（Generative Pre-trained Transformer）为代表的...【查看原文】