量化后仅 2GB 内存,端侧友好~...【查看原文】
量化后仅 2GB 内存,端侧友好~
褚杏娟 2024-09-11
|原文章发布于2024年09月09日端侧 ChatGPT 时刻到来!旗舰端侧模型面壁「小钢炮」系列进化为全新 MiniCPM 3.0 基座模型,再次以小博大,以 4B 参数,带来超越 GPT-3.5 的性能,强得不像端侧模型。并且,量化后仅 2GB 内存,端侧友好。这还是一款瑞士军刀般全面开挂的基座模型,一口气带来:·无限长文本,榜单性能超越 Kimi,超长文本也不崩;·Function Calling,性能比肩 GPT-4o 的端侧最强 Function Calling;·超强 RAG 外挂三件套,中文
ChatGPT
OpenBMB 2024-10-09
[图片] 开发者朋友们大家好: 这里是 「RTE 开发者日报」 ,每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE(Real-Time Engagement) 领域内「有话题的 新闻 」、「有态度的 观点 」、「有意思的 数据 」、「有思考的 文章 」、「有看点的 会议 」,但内容仅代表编辑的个人观点,欢迎大家留言、跟帖、讨论。 本期编辑:@SSN,@鲍勃 01 有话题的新闻 1、面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型,宣称「端侧 ChatGPT 时刻到来」
RTE开发者社区 2024-09-06
以小博大的励志故事不只发生在创业历史上,也发生在端侧大模型上。今年2月份,面壁智能正式发布了2B旗舰端侧大模型面壁MiniCPM,不仅超越了来自「欧洲版OpenAI」的性能标杆之作,同时整体领先于GoogleGemma2B量级,还越级比肩7B、13B量级模型,如Llama2-13B等。
融资OpenAI
AppSo 2024-04-11
IT之家9月6日消息,面壁智能官方公众号昨日(9月5日)发布博文,宣布推出开源MiniCPM3-4BAI模型,声称“端侧ChatGPT时刻到来”。MiniCPM3-4B是MiniCPM系列的第三代产品,整体性能超过了Phi-3.5-mini-Instruct和GPT-3.5-Turbo-0125,媲美多款70亿~90亿参数的AI模型。
IT之家 2024-09-06
通义灵码真的是跨语言学习神器!显著提升了程序员的工作效率,减少了重复性工作,让程序员可以将更多时间和精力投入到更有创造性和挑战性的工作中,从而减轻工作压力,实现“去班味”。
阿里云云原生 2024-12-31
轻量开源Flutter 热更新库 MicroDart,食用指南。 下载地址:https://github.com/lancexin/micro_dart
孤鸿玉 2024-12-31
一、Network Policy 是什么,在云原生领域有和作用 Network Policy 是 Kubernetes 官方提出来的一种网络策略的规范,用户通过编写符合对应规范的规则来控制 k8s 集
萌萌酱 2024-12-31
1.uniapp的开发方式有两种 1.1 HBuilderX:可视化,应用工具 优点 HBuildX属于推荐开发工具,当公司存在多个项目都为HBuildX时,方便管理可以转换为HBuildX工程。 项
新兵蛋子CodeLiu 2024-12-31
在 Java 开发的日常中,大家想必都用过泛型。像创建一个只能存放字符串的集合:List list = new ArrayList();,这里的泛型让代码看起来就很 “靠谱”
J2K 2024-12-31
如果说收集算法是内存回收的方法论,那么垃圾收集器就是内存回收的具体实现。不同的虚拟机所提供的垃圾收集器可能会有很大差异,以 HotSpot 虚拟机为例,所包含的垃圾收集器可以用如下图来概括。
志哥聊技术 2024-12-31
前言 目前我们已经实现了用户管理系统的基础功能, 接下来就是想办法让它的开发变得更加的简单, 让里面的大部分逻辑能够被后面其他类似的功能进行复用. 这里我主要有两个想法, 一个是封装一个crud组件,
Python私教 2024-12-31
前言 在这里,我假设大家已经有了一定的基础,假设你没有基础. 那么我们学习fastapi,先学习什么呢? 肯定是先学习fastapi的基础. 安装fastapi 首先, 我们安装国产化的fastapi
什么是Vuex Vuex 是一个专为 Vue.js 应用程序设计的状态管理库。它可以帮助我们在大型单页应用中更方便地管理状态,简化组件之间的通信,让状态管理更加集中和可预测。Vuex 提供了一种管理应
用户55902496217 2024-12-31
MyBatis执行sql语句的流程 加载配置文件 我们进入处的方法的: 我们发现一个陌生的对象classLoaderWrapper,看着像一个类加载器,我们进入这个类中查看: 发现这个对象包含两
轻浮j 2024-12-31
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1