奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

曝华为明年将推出超小平板和超大平板形成鸿蒙闭环

【CNMO科技消息】12月30日，据数码博主@智慧皮卡丘爆料，华为明年将推出一系列游戏优化项目，进一步完善鸿蒙生态闭环。这款平板采用柔性OLED屏幕，边框极窄，支持侧边指纹解锁，内置约1000mAh的超大容量电池，并且支持百瓦级别的有线快充，配置相当豪华。

手机中国 2024-12-30

颠覆创新欧可林AirPump A10氧气啵啵冲牙器新品品鉴会全记录

欧可林健康科技创始人兼CEO刘书润表示，欧可林自2016年成立以来，始终坚持不懈的进行产品创新，研发人员占比44%，研发投入占营收比重14%。

砍柴网 2024-12-30

华为畅享70X将于1月3日发布与Mate 60系列相似但独特

华为终端官方宣布，新机华为畅享70X将于1月3日下午14点30分正式推出。这款新机提供了多种配色，包括青色等，并采用了双曲面屏设计。

中关村在线 2024-12-30

Bigme 大我 HiBreak Pro 墨水屏手机发布：天玑 1080，6.13 英寸

IT之家12月30日消息，Bigme大我今日发布了HiBreakPro墨水屏手机，官方暂未公布售价信息。

IT之家 2024-12-30

“天宫”建成两年交出丰硕“成绩单”，取得多项国际首次成果

在即将迎来中国空间站全面建成两周年之际，12月30日，中国载人航天工程办公室首次发布《中国空间站科学研究与应用进展报告（2024）》，对两年来中国空间站科学研究与应用进展进行了系统性总结，后续将根据实施进展情况按年度例行发布。

北京日报 2024-12-30

兴业银行杭州分行“青年科技能手”董兰兰：用数据说话的90后，很硬核

一个键盘，两个屏幕，无数串闪动的代码，入行六年来，兴业银行杭州分行信息科技部/安全保卫部董兰兰在金融科技领域，走出了自己的风采。90后的她曾荣获浙江银行业保险业数字化改革数据应用创新大赛个人三等奖、兴业银行“劳动标兵”、分行IT服务明星等荣誉，今年，她又斩获兴业银行“青年科技能手”的殊荣。

和讯网 2024-12-30

轻松上手：华为路由器设置全攻略与技巧

好的，今天我们来聊一聊华为路由器的设置过程。很多朋友在买了华为路由器后，可能会面临一个问题，就是怎么把它设置好，让家里的网络顺畅运行。一般来说，路由器最好放在房子的中央，这样信号才能覆盖到每一个角落。一般来说，如果是ADSL宽带，选择PPPoE，然后输入你的宽带账号和密码。

新报观察 2024-12-30

智邦国际天策系列ERP智能决策系统撬动集团多公司一体化精细管理，提升运营效率

由于全球经济周期性调整，各国大型集团企业竞争异常激烈。随着人工智能、大数据、云计算等科技前沿技术融入到各企业的管理过程，企业之间的差异被迅速扩大，想要始终保持行业优势，则必须将企业管理运营与数智化深度融合。

极目新闻 2024-12-30

上海沃缨取得具有自动分水机构的分水器专利，达成分水器便于对外壳内壁进行清洁的目的

金融界2024年12月30日消息，国家知识产权局信息显示，上海沃缨生物科技有限公司取得一项名为“一种具有自动分水机构的分水器”的专利，授权公告号CN222218694U，申请日期为2024年1月。

金融界 2024-12-30

年终钜惠！速度高达7250MB/s的三星990 EVO Plus固态硬盘超划算

随着2024年即将过去，又迎来20253C数码年货节日，不少玩家选择这个时候给自己的装备进行升级扩容，趁着过年放假能够打游戏、整理需要备份的数据，或者是在假期里拍摄并剪辑节日视频等，所以入手更大容量、更高性能的SSD成了比选课。

IT168 2024-12-30

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

曝华为明年将推出超小平板和超大平板形成鸿蒙闭环

颠覆创新欧可林AirPump A10氧气啵啵冲牙器新品品鉴会全记录

华为畅享70X将于1月3日发布与Mate 60系列相似但独特

Bigme 大我 HiBreak Pro 墨水屏手机发布：天玑 1080，6.13 英寸

“天宫”建成两年交出丰硕“成绩单”，取得多项国际首次成果

兴业银行杭州分行“青年科技能手”董兰兰：用数据说话的90后，很硬核

轻松上手：华为路由器设置全攻略与技巧

智邦国际天策系列ERP智能决策系统撬动集团多公司一体化精细管理，提升运营效率

上海沃缨取得具有自动分水机构的分水器专利，达成分水器便于对外壳内壁进行清洁的目的

年终钜惠！速度高达7250MB/s的三星990 EVO Plus固态硬盘超划算

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响