今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
数智时代的到来为文化的生产和表达掀开了新的篇章，乡村优秀传统文化的传承发展离不开高质量的传播。浅显层面的表达无法凸显乡村优秀传统文化的深刻内涵，还要在传播过程中多一些纵向深度发掘，讲述知识、揭示内核，以充分展现乡村优秀传统文化的悠远历史和时代魅力。
新华日报 2024-12-29
今年6月25日，历经53天的太空旅行，嫦娥六号返回器回到地球，完成世界首次月球背面采样返回之旅。我国建设航天强国、科技强国取得又一标志性成果。
千龙网 2024-12-29
12月25日，在郑州市中原大数据中心机房内，上千台服务器高速运转着，国网郑州供电公司专属客户经理邵鹏正在与该中心项目负责人核对增容方案。“我们园区分三期工程建设，每期开工前供电公司都会主动上门，及时帮助解决供电难题，还给我们‘个性化’定制了增容方案，又专业又贴心。”
河南日报 2024-12-29
随着小米15系列上市，小米需要对旧款产品进行清理，以便为新品的上市腾出空间。小米14自发布以来就以其出色的性能和拍摄能力赢得了消费者的广泛好评，目前，小米14的价格已降至3249元，这一价格在当前市场上极具竞争力。
大话百科天地 2024-12-29
在生活中，玻璃膜的贴合不仅能保护玻璃，还能提升美观，很多人可能会觉得贴膜这件事听起来很复杂，其实只要掌握了技巧和方法，自己动手做并不难。
新报观察 2024-12-29
浙江印发工业母机产业发展实施方案，海南支持建设智能网联汽车“车路云一体化”应用试点，上海聚力促进新材料产业发展，安徽聚焦量子科技、空天信息、通用智能等重点领域发展未来产业……今年以来，多地加强基础研究和关键核心技术攻关，超前布局重大科技项目，推动科技创新与产业创新深度融合，积极发展新质生产力。
经济日报 2024-12-29
新质生产力是创新起主导作用，由技术革命性突破、生产要素创新性配置、产业深度转型升级而催生的先进生产力质态。它能够带来产业结构的重塑，社会生产关系的变革，催生出更多更为丰富的物质文明与精神文明新形态，是抢占新一轮全球科技革命和产业变革制高点、加快实现高水平科技与产业的自立自强、助力中国式现代化迈出新的坚实步伐的核心驱动力。
IT之家12月29日消息，由Aitomatic公司及其“AI联盟”合作伙伴共同开发的SemiKong已正式发布，这款大型语言模型（LLM）是全球首个专为满足半导体行业需求而打造的AI工具。SemiKong旨在融入半导体设计公司的工作流程，充当该领域的“数字专家”，从而显著加快新芯片的上市速度。
IT之家 2024-12-29
近日，河南省科学技术奖励大会在郑州举行，对2024年度省科学技术奖获奖者进行表彰。其中，国网河南省电力公司电力科学研究院牵头申报的“极端恶劣天气下电网运行风险预警及防治”成果荣获省科学技术进步奖一等奖。
一加Ace5搭载骁龙8Gen3处理器+LPDDR5X+UFS4.0，采用了天工散热Elite系统，其散热面积达到了9925mm²万级VC，使得骁龙8Gen3处理器的性能得以充分释放，无论是多任务处理还是运行大型游戏，都能够轻松应对。配合风驰游戏内核以及芯片级游戏技术，一加Ace5在游戏性能方面表现卓越，被称为同平台游戏新王。
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
