3千元显卡就能部署GPT3.5级别的本地AI大语言模型

线上工具是租用，是依赖，本地工具是才是自己的把一个“GPT”装进你的机箱，总共分3步：模型、显卡、框架一、模型GPT没有开源，尽管免费在线使用，也有便宜的API可以调用，但都依赖严格的网络，对其进行拓展、定制、二次开发的空间十分有限。而开源大模型给了平民参与的机会，尤其是国产近两年开始大幅追赶国内外百模大战在对比了LLaMa、ChatGLM、Qwen等多个开源模型后，我发现阿里的Qwen(通义千问)在各参数规模下的表现，几乎都优于同规模的其他模型，尤其中文语境Qwen1.5的72b已经对标GPT4了而且它...【查看原文】