今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
IT之家12月27日消息，雷神今天推出了一款搭载英特尔酷睿Ultra7265K处理器、RTX4090D显卡、64GBDDR5内存、2T固态硬盘、360水冷的黑武士・Shark电脑主机，定价26999元。12月30日开售。
IT之家 2024-12-27
在教育领域，人工智能的应用正日益深入，彻底颠覆了传统的教学模式。这一创新尝试旨在通过AI技术提升教育质量与效率，全面释放学生的创造力，为教育行业注入新的活力。
砍柴网 2024-12-27
证券之星消息，根据天眼查APP数据显示海尔智家（600690）新获得一项发明专利授权，专利名为“一种洗衣机的控制方法”，专利申请号为CN202011032124.X，授权日为2024年12月27日。
证券之星 2024-12-28
2024年12月26日，一加正式发布游戏体验天花板一加Ace5系列——一加Ace5及一加Ace5Pro。一加Ace5系列深度聚焦性能和游戏体验，搭载骁龙8系旗舰平台和行业首个自研芯片级游戏技术「风驰游戏内核」，带来持久满帧的流畅游戏体验。一加Ace5Pro售价3399元起，一加Ace5售价2299元起。
36氪 2024-12-28
微美全息宣布，开发出一种基于量子技术的随机存取存储器结构（QRAM），可以成功地执行基本的“且”“或”“非”等逻辑运算。
华尔街见闻 2024-12-27
12月27日，高企认定官网披露对福建省认定机构2024年认定报备的第一批高新技术企业进行备案的公告，福建新诺机器人自动化有限公司在列，证书编号GR202435001085，发证日期为2024年12月27日。
金融界 2024-12-28
快科技12月28日消息，余承东在微博转发了华为终端的一则视频，展示了华为Mate70Pro+全新超可靠高亮钛玄武架构背后的故事。据了解，华为Mate70Pro+独家采用了业内领先的高亮钛玄武架构，主打坚固与耐摔性能。这三者共同构成了全新的高亮钛玄武架构，使得华为Mate70Pro+成为一款全方位可靠的智能手机。
快科技 2024-12-28
国际在线消息（记者石丽敏）：12月27日，2024“打卡中国·古韵潮音——你好，大湾区！”本次活动由国家互联网信息办公室网络传播局指导，广东省互联网信息办公室、国际在线主办，珠海市互联网信息办公室、国际在线广东频道承办。
央广网 2024-12-28
以类似发微信红包的方式，在微信小店购买商品并一对一赠送给好友。岁末年终，微信以灰度测试方式推出“送礼物”功能。上市公司纷纷主动回应，多家券商机构也称看好后续前景。但业内多名专家对此较为谨慎，认为该功能在电商行业并非新物种，目前谈其能撬动社交电商为时尚早。日前，“微信蓝包”话题登上微博热搜。“红包外，微信竟然可以发‘蓝包’！”
北京日报 2024-12-28
试问一下，你知道中国移动、中国电信、中国联通三家运营商的5G多少钱，宽带多少钱吗？恐怕没有人能讲明白，包括运营商自己的员工，因为套餐种类太多，再加上各种组合太复杂，一时半会根本没法搞清楚，有些融合业务的话费账单更像是天书。
通信老柳 2024-12-28
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
