AGI不再遥远，危机 or 机会？
自从一年前 ChatGPT 掀起了大语言模型的热潮， 以通用人工智能（AGI）为目标，已经吸引了巨大的资金投入、人才投入，并涌现出了大批的先进大模型。语言类聊天应用只是一个开端，真正的驱动力，是对几乎所有行业带来的颠覆性机会。视觉、多模态成为刚需。
以微软、Google 等等巨头为投资代表，在海量资金和算力加持下打造出的 OpenAI 和 Gemini，在激烈地竞争未来的垄断地位。同时，各个行业都希望拥有适合自身的大模型解决方案，能够在企业内网，省钱省电的用上最新的 AI大模型。针对垂直应用和产品的需求群体，他们最大的一个疑问就是：有没有合适的芯片和系统解决方案？
安霸的单芯片 SoC 已经可以顺畅运行多模态大模型的推理，比如 LLaMA 130亿参数的开源大语言模型，以及视觉-语言模型， 比如 LLaVA 1.5。这将可以赋能很多垂直行业和应用，例如，使用自然语言进行互动的智能监控设备，本地（不上云）的通用智能服务，提升程序员生产力的 Copilot（不必担心泄漏企业机密），人形机器人本机快速反馈机制，单车本地实现智能驾驶场景的端到端多模态大模型推理等等。
视觉处理，低功耗都是安霸的专长，非常契合大模型在多模态的接入和端到端低功耗运行的需求。大模型在安霸芯片上的应用可以推动更多产品和应用的快速发展，留给人工智能无限的想象空间。
EE Times 专访文章 HQ Interview and exclusive LLM demo debut。
EE times: https://www.eetimes.com/ambarella-demos-llm-inference-on-autonomous-driving-chip/