今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
胡润百富榜：超级富豪爱酒店，酒店大佬做不了超级富豪？钛媒体APP2024-10-31 14:42发布于北京钛媒体APP官方账号全文2507字，阅读约需8分钟，帮我划重点划重点01胡润百富榜发布，
钛媒体APP 2024-10-31
蔚来资本成立蔚线股权投资合伙企业，出资额8001万元IT桔子2024-10-31 16:27发布于北京IT桔子官方账号蔚来资本旗下新基金湖北蔚线股权投资合伙企业（有限合伙）日前成立，执行事务合伙人
IT桔子 2024-10-31
理想汽车发布2024年第三季度财报36氪2024-10-31 16:35发布于北京36氪官方账号该季度营收429亿元，上年同期营收346.8亿元，市场预期412.7亿元。.rich_media_c
36氪 2024-10-31
从三季报看海尔智家利增费降意味着什么融汇栋蓝科技2024-10-31 15:03发布于中国香港蓝科技官方账号10月29日，海尔智家2024三季度财报正式出炉。作为中国家电板块风向标，海尔智家的业绩
融汇栋蓝科技 2024-10-31
壳牌第三季度盈利超市场预期36氪2024-10-31 15:55发布于北京36氪官方账号由于天然气业务不断增长，壳牌的收益超过了市场预期，部分抵消了低油价和炼油利润率疲软对第三季度业绩的影响。能源
不服不行，贾跃亭宣布FF融资3000万美元已到账，力争成为新丰田热点科技2024-10-31 15:52发布于上海数码领域创作者前不久我们曾报道法拉第未来从中东、美国以及亚洲投资者中获得了3000
热点科技 2024-10-31
汽车外放电枪双 11 热销榜产品特惠，今晚最高立减 1800 元IT之家2024-10-31 15:56发布于山东IT之家官方账号IT之家 10 月 30 日消息，双 11 京东特惠，销量榜多款热
IT之家 2024-10-31
国有六大行Q3净利均实现正增长，农行领涨，交行垫底 钛媒体金融钛媒体APP2024-10-31 15:22发布于北京钛媒体APP官方账号全文2159字，阅读约需7分钟，帮我划重点划重点01国
10月31日A股分析：三大指数集体收涨，两市合计成交22173.24亿元，资金流入最多的行业板块为证券、多元金融钛媒体APP2024-10-31 15:22发布于北京钛媒体APP官方账号2024年
独供小米15、显示业务净利润44.4亿，TCL科技股价创新高｜看财报钛媒体APP2024-10-31 15:37发布于北京钛媒体APP官方账号全文2818字，阅读约需9分钟，帮我划重点划重点01
Copyright © 2024 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
