奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

中国电子飞腾系列国产CPU总销量突破1000万片

记者12月28日从中国电子信息产业集团有限公司获悉，中国电子飞腾系列国产CPU总销量近日突破1000万片，广泛应用于国家重点工程和关键行业，为从端到云的各型设备提供核心算力支撑。中国电子飞腾系列芯片。中国电子旗下芯片企业飞腾信息先后突破了多项关键技术，研制推出了十余款高性能CPU。

北京日报 2024-12-28

提前完成目标！小米SU7，全年交付超13万辆！

小米汽车28日宣布，截至目前，小米SU7全年交付量已超过13万辆，已提前完成全年所有目标。11月13日，雷军在微博宣布第10万台小米SU7正式下线。

证券时报 2024-12-28

小米汽车累计智驾里程已突破1亿公里

鞭牛士12月28日消息，小米汽车今日宣布，小米SU7累计交付量超13万台。据官方公布的数据，小米汽车销售网络上目前已开业200家，覆盖全国58个城市。智驾层面，小米汽车累计智驾里程已突破1亿公里，端到端全场景智能驾驶即将开启内测。小米汽车方面表示，始终坚持投入底层核心技术，目前研发投入超130亿，专利授权超1000项。

鞭牛士 2024-12-28

北大数学家独作论文登数学顶刊！袁新意统一了算术与几何Bogomolov猜想

四大顶刊之一的《数学年刊》，正式接收北大袁新意独作论文。在困扰数学界多年的UniformBogomolov猜想问题上取得重要进展。值得一提的是，这篇论文还在预印版状态时就已获得一定引用，据称还在不同的学术会议中被讨论。

量子位 2024-12-28

电车不怕寒冬了？极氪要打造最适合北方市场的纯电产品，看看都有啥绝活！

12月27日，在极氪智能科技（极氪）举办的冬征技术发布会上，极氪再次展现了其在新能源汽车领域的技术创新实力，勇闯技术“无人区”，依托全栈自研生态体系，推出了行业首发的四大发明，以征服低温环境，同时推出了三大驾控技术，征服冰雪路况，为用户冬季全场景出行提供了最优解。

潇湘晨报 2024-12-28

重装系统的步骤与注意事项：解决电脑问题的实用指南

重装系统，这个话题对于许多人来说可能有些陌生，但其实在日常使用电脑的过程中，遇到系统问题或者想要提升性能的时候，重装系统都是个不错的选择。然后，选择你要安装的Windows版本，接着会进入许可协议的页面，勾选同意后点击“下一步”。

新报观察 2024-12-28

APP在线升级经验分享

APP在线升级是一个通用功能，在产品的发展过程中当系统升级或者出现Bug时，需要进行升级操作。

人人都是产品经理 2024-12-28

小米汽车：累计智驾里程已突破1亿公里，端到端即将开启先锋测试

IT之家12月28日消息，继宣布今年交付量超过30万台后，小米汽车官微今日发布了“年终总结”：目前销售门店已开业200家，覆盖全国58城市；研发投入超过130亿，专利授权超1000项；累计智驾里程突破1亿公里，端到端全场景智驾即将开启先锋测试。

IT之家 2024-12-28

计划建成世界级人工智能产业生态上海发布最新《实施方案》

中新社上海12月27日电据上海市经济和信息化委员会官方微信公众号于27日晚间发布的消息，上海正式对外发布《关于人工智能“模塑申城”的实施方案》(简称：《实施方案》)。

中国新闻网 2024-12-28

全国首个“无人机4S店”在成都彭州开门迎客，实现“即买即试”

微成都报道12月27日，记者获悉，全国首个“无人机4S店”——低空经济智能化设备展销中心（下称“展销中心”）于近日在成都彭州建成投入试运营。记者了解到，该“无人机4S店”能提供销售、维修、配件和信息四类服务，购买的无人机还可以实现“即买即试”。

红星新闻 2024-12-28

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

中国电子飞腾系列国产CPU总销量突破1000万片

提前完成目标！小米SU7，全年交付超13万辆！

小米汽车累计智驾里程已突破1亿公里

北大数学家独作论文登数学顶刊！袁新意统一了算术与几何Bogomolov猜想

电车不怕寒冬了？极氪要打造最适合北方市场的纯电产品，看看都有啥绝活！

重装系统的步骤与注意事项：解决电脑问题的实用指南

APP在线升级经验分享

小米汽车：累计智驾里程已突破1亿公里，端到端即将开启先锋测试

计划建成世界级人工智能产业生态上海发布最新《实施方案》

全国首个“无人机4S店”在成都彭州开门迎客，实现“即买即试”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响