奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

Windows深色模式历经十年仍未完善！还有大量未完成部分

快科技12月30日消息，自2016年微软为Windows10引入深色模式切换功能以来，用户一直期待系统界面能够实现全面的深色主题。WindowsCentral发文指出，尽管许多应用程序和系统界面已支持根据系统设置切换主题，但Windows自身的用户界面在深色模式方面仍存在很多问题。

驱动之家 2024-12-30

水井坊深耕技术创新，引领酒业迈向智能化时代

水井坊，作为我国高水平对外开放的成功案例，通过持续的技术创新投入和研发实践，不断推动产品升级和品牌发展，成为行业内的佼佼者。水井坊在数字化、智能化生产以及微生物研究方面的探索，，符合当前推动产业升级和技术革新的趋势。在生产环节，水井坊紧跟时代步伐，采用了智能化的生产设备和系统。

时代周报 2024-12-30

热销20万件，补贴440元！华帝i10092B，燃气灶，性价比之选

#年货节好物集市#在现代家庭中，一款高效、安全且易于维护的燃气灶不仅是烹饪美食的关键工具，更是提升生活质量的重要因素。今天，我们将详细介绍华帝旗下的明星产品——i10092B家用5.2kW大火力天然气嵌入式燃气灶，这款燃气灶不仅以其高性价比吸引了众多消费者，更以其实用性和安全性成为家庭厨房的理想选择。

小米地瓜 2024-12-30

奋达科技：与客户合作的陪伴类AI桌面机器人首批已出货

就“公司与客户合作的陪伴类AI桌面机器人预计12月量产交付，请问如期量产交付了吗？”的问题，奋达科技：12月30日在互动平台表示，首批已出货，后续将根据客户订单安排生产制造。

证券时报 2024-12-30

外媒评2024最佳旗舰智能手机华为Mate70 RS入选

每个品牌对于高端设备应该提供什么都有自己的看法，市场竞争也比以往任何时候都要激烈。外媒GIZMOCHINA评选了2024年最令人印象深刻的顶级旗舰智能手机。

手机中国 2024-12-30

智邦国际一体化ERP：全维布局，全员创新，构建生产制造数字化新生态

从大规模设备更新行动、实施技术改造升级工程、供应链产业链“链式”转型到构建中小企业数字化转型生态，从产业集群、城市全域到园区企业，正在全方位加速落地企业跨地域数据互通、资源共享、业务协同的虚实结合产业数字化新生态。

极目新闻 2024-12-30

各大App用户年度总结齐上阵，个性之余是否会泄露隐私？

“循环播放次数最多的歌”“最偏爱的美食”“熬得最长的夜是哪一天”“常用什么表情当嘴替”……年终岁末，各大App的用户年度报告如约而至，这些用户年度报告全方位覆盖日常生活。

北京日报 2024-12-30

视频创作者必备利器！用三星T9移动固态硬盘实现跨端高速视频传输

　在数字时代，数据的高速传输与可靠存储成为许多专业人士和创意工作者日常工作中不可或缺的一部分。

IT168 2024-12-30

轻松掌握手机绘画技巧，教你创作独特手机艺术作品

画手机其实并没有想象中那么复杂，只要掌握了一些基本的技巧和步骤，你就能轻松画出一部精致的手机。无论是铅笔、炭笔，还是数位板，最重要的是你要有一个舒适的环境来进行创作。可以先用铅笔轻轻地勾勒出手机的外形。

新报观察 2024-12-30

用智能手表主动健康管理，华为擎云重塑健康管理行业格局

在健康管理这条赛道上，时间从未停止向前，技术也从未停止向下扎根。如今的健康管理行业正身处一个变革的关口——“以治病为中心”正在让位于“以健康为中心”，个体与技术的关系被重新定义，而穿戴设备正在成为健康管理的“新器官”。

数码方式 2024-12-30

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

Windows深色模式历经十年仍未完善！还有大量未完成部分

水井坊深耕技术创新，引领酒业迈向智能化时代

热销20万件，补贴440元！华帝i10092B，燃气灶，性价比之选

奋达科技：与客户合作的陪伴类AI桌面机器人首批已出货

外媒评2024最佳旗舰智能手机华为Mate70 RS入选

智邦国际一体化ERP：全维布局，全员创新，构建生产制造数字化新生态

各大App用户年度总结齐上阵，个性之余是否会泄露隐私？

视频创作者必备利器！用三星T9移动固态硬盘实现跨端高速视频传输

轻松掌握手机绘画技巧，教你创作独特手机艺术作品

用智能手表主动健康管理，华为擎云重塑健康管理行业格局

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响