今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
金融界2024年12月27日消息，国家知识产权局信息显示，三明市缘福生物质科技有限公司取得一项名为“一种纸浆模塑进料辅助装置”的专利，授权公告号CN222205879U，申请日期为2024年3月。
金融界 2024-12-27
IT之家12月27日消息，小米REDMITurbo4手机最新现身GeekBench跑分库，6.1.0版本单核成绩为1642分，多核成绩为6056分。该机将于2025年1月初发布，搭载联发科全新天玑8400-Ultra芯片，成为首款采用该芯片的手机。
IT之家 2024-12-27
#年货节好物集市#在选择高端冰箱时，我们不仅要考虑其基本的储存功能，还要关注其节能性能、保鲜技术、智能控制以及外观设计。一个理想的高端冰箱应该具备出色的保鲜技术以延长食物的新鲜度，智能控制系统以提供便捷的操作体验，以及优雅的外观设计以融入现代家居环境。
小米地瓜 2024-12-27
金融界2024年12月27日消息，国家知识产权局信息显示，山西湘阳工程机械有限公司取得一项名为“一种铁路清砟机排砟结构”的专利，授权公告号CN222205886U，申请日期为2024年2月。
据外媒爆料，英伟达即将推出的RTX50系列笔记本GPU在性能上有望迎来显著提升。其中，RTX5060移动端显卡的性能表现尤为突出，据称能够与上一代的RTX4070移动端显卡相媲美。
中关村在线 2024-12-27
#年货节好物集市#在高端家电市场中，海尔冰箱山茶花系列以其独特的设计和卓越性能脱颖而出。这款BCD-485WGHFD1BWLU1型号的冰箱，以其全空间保鲜技术、594mm超薄零嵌设计、法式多门结构以及一级能效标准，成为现代家庭的理想选择。
12月27日消息，消息源AssembleDebug昨日（12月26日）在X平台发布推文，挖掘代码发现三星GalaxyS25系列将通过高通骁龙8至尊版芯片，减少对云服务的依赖，可以借助端侧AI模型，编辑和生成照片。
砍柴网 2024-12-27
在科技日新月异的今天,人工智能(AI)已成为推动社会进步与行业发展的重要引擎。2024年12月25日至26日,“2024人工智能大模型基准测试科创发展大会”在成都市高新区举办,此次大会以“大模型·大未来”为主题。
据日前消息，特斯拉CEO埃隆・马斯克上周在美国会见了台积电董事长魏哲家。会面中，马斯克强调了台积电为特斯拉提供足够产能以生产其自主研发的Dojo芯片的重要性，该芯片将使用台积电的5nm工艺制造并采用InFO-SoW先进封装。对此，微美全息关注人形机器人这一未来产业的关键领域，加紧研发的具身智能机器人正逐渐成为科技舞台上的焦点。
据介绍，作为一款具有“重症思维”的「AI队友」，启元能处理病情数据，接管文书工作，让医生专注于治病救人。
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
