今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
共享电脑的方式有很多，今天我们就来聊聊怎么让这台电脑更好地服务于你和你的朋友、家人。明确了目的，接下来的步骤就会简单很多。
新报观察 2024-12-28
连接音箱的过程其实并没有想象中那么复杂，很多人可能会觉得这是一件很难的事情，特别是对于一些不太熟悉电子设备的人来说。但其实，只要你掌握了一些基本的知识和步骤，就能轻松搞定。那么，下面就来聊一聊怎么连接音箱吧。首先，确认你要连接的音箱类型。现在的音箱种类很多，有蓝牙音箱、有有线音箱，还有一些智能音箱。
在炎热的夏天，空调成了我们生活中不可或缺的“好朋友”。不过，面对市场上各种型号的空调，很多人可能会感到无从下手。那么，空调型号到底该怎么看呢？今天我们就来聊聊这个话题。首先，空调的型号通常包含了很多信息。一台空调的型号，像是它的身份证，里面藏着很多你需要了解的关键点。
很多人选择刷机是为了获得更好的性能、更流畅的使用体验，或是想尝试一些第三方的ROM（Read-OnlyMemory）。在决定刷机之前，最好先在网上查找一下你所用设备的刷机相关信息，看看是否有人成功过，或者有没有相关的刷机教程。
拆电池这个话题，听上去有点复杂，但其实也没那么难。很多时候，我们可能会遇到手机电池不耐用、充不进电或者完全没反应的情况。这时候，拆掉电池，看看里面的情况，或者更换电池，可能是个不错的选择。下面就来聊聊怎么拆电池。首先，拆电池的工具准备是很重要的。你需要一些基本的工具，比如十字螺丝刀、撬棒、镊子，还有一个干净的工作台。
当然可以！下面是一篇关于《手机怎么打开》的文章，希望你喜欢。在这个数字化的时代，手机已经成为我们生活中不可或缺的一部分。无论是用来联系朋友、浏览社交媒体，还是查找信息，手机都扮演着重要的角色。但是，有时候我们可能会遇到一些小麻烦，比如手机怎么打开。听起来简单，但有时候却让人感到困惑。今天就来聊聊这个话题。
在这个数字化的时代，手机已经成为我们生活中不可或缺的一部分。无论是工作、学习，还是娱乐，手机都扮演着重要的角色。尤其是对于喜欢玩游戏的朋友们来说，手机更是他们的“战斗工具”。不过，玩游戏的时候，手机发烫的问题常常让人感到烦恼。今天，我们就来聊聊这个问题，看看有什么办法可以解决。首先，手机发烫的原因其实有很多。
手机显示充电但充不进去，这种情况不少人应该都遇到过。你插上充电器，屏幕上显示着电池图标在跳动，心里想着“太好了，终于可以充电了”，可是等了半天，发现电量还是没有增加，这可让人心烦了。别急，咱们来聊聊可能的原因和解决办法，希望能帮到你。首先，咱们可以从充电器和数据线说起。很多时候，充电器和数据线可能是问题的根源。
在现代厨房中，空气炸锅已经成为了许多家庭的必备电器。不过，面对市场上琳琅满目的空气炸锅，很多人可能会感到无从下手。首先，容量是选择空气炸锅时需要考虑的一个重要因素。一般来说，功率越高，空气炸锅加热的速度就越快，食物也能更快熟透。
电脑黑屏是一种常见的问题，很多人在使用电脑时都可能遇到过。特别是在你正在忙着处理重要文件或者玩游戏的时候，突然黑屏就像一盆冷水泼下来，瞬间让人心情跌入谷底。
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
