奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

特斯拉开卖199元摆件：15分钟被抢光，二手交易平台已炒到上千元

（记者李卓玲）特斯拉又一款周边产品遭抢购。12月26日上午10时，特斯拉TeslaBot人形机器人摆件正式对外发售，定价为199元。不过，仅不到15分钟时间，蓝鲸新闻在其官方APP、第三方电商平台官方旗舰店上看到，这款产品均宣告售罄，显示“缺货”“下架”状态。

蓝鲸新闻 2024-12-26

阿里云独家央视春晚创造历史！

快科技12月26日消息，据“中央广电总台总经理室”公众号，日前，中央广播电视总台《2025年春节联欢晚会》分会场发布活动在北京举行，会上，宣布阿里巴巴集团阿里云成为总台春晚云计算

拾柒 2024-12-26

赵明回应iPhone降价：让行业更加聚焦消费者价值呈现

快科技12月26日消息，近日，有媒体就iPhone降价一事向荣耀CEO赵明进行提问。赵明表示，竞争越来越卷，iPhone的降价和华为高端常态化可以影响行业，能够让行业更加聚焦消费者价值呈现，自己要在

振亭 2024-12-26

我国首个商用堆在线辐照生产同位素装置投运，打破医用同位素长期依赖进口局面

感谢IT之家网友、的线索投递！12月26日消息，据央视财经报道，今天我国首个商用堆在线辐照生产同位素装置，在中核集团秦山核电基地正式投运，首批短周期同位素镥-177也正式出堆，这标志着我国成功掌握利用核电商用堆辐照生产短周期同位素的关键技术。

IT之家 2024-12-26

蔚来这十年到底怎么花的钱

“不用特别担心这件事情（蔚来的经营状况），每个公司有自己的盈利时间，盈利和亏损经常都是一线之间的事情。”谈及蔚来的经营情况，李斌在年度沟通会上如是说道。尽管蔚来已是一家

2024-12-26

理想祝贺零跑成立九周年：一起为用户带来安全可靠的体验

快科技12月26日消息，理想汽车通过官方微博发布海报，庆祝零跑汽车成立九周年，并表示希望共同为家庭用户创造安全可靠的出行体验。尽管零跑汽车官方微博尚未回应，但网友因两家公司主销的

王略 2024-12-26

任天堂Switch2真机曝光：U形支架、磁吸Joy-Con接口

据报道，备受瞩目的任天堂Switch 2游戏掌机外观设计近日曝光。新主机巧妙地融入了U形支架设计，并引入了创新的磁吸式Joy-Con接口，不仅提升了用户体验，还保留了机身侧面标志性的任天堂标志，

鹿角 2024-12-26

如何高效清理和管理浏览器书签，提升上网效率

书签是我们在浏览网页时，保存重要链接的一种便捷方式。可是，时间久了，书签可能就会积累得越来越多，有些可能已经不再需要，这可就麻烦了。

新报观察 2024-12-26

京东员工提前过年！刘强东自掏腰包送8万盒巧克力

快科技12月26日消息，日前，有多位京东员工在网上晒出收到京东集团创始人刘强东赠送的巧克力。刘强东表示，“2024迈向尾声，感谢兄弟们一年的拼搏！我委托了总裁办在今天送来一份小礼物。

拾柒 2024-12-26

统帅BCD-218LLC3EZS9冰箱：934元，218升风冷无霜，节能新选择

#年货节好物集市#统帅冰箱，作为海尔集团旗下的品牌，以其高性价比和实用性能在市场上赢得了良好的口碑。统帅冰箱的技术特点包括直冷制冷方式、三门三温区设计、独立三温区以及007软冷冻功能，这些技术的应用不仅提升了用户的使用体验，还确保了食品的新鲜度和冰箱的节能环保。

小米地瓜 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

特斯拉开卖199元摆件：15分钟被抢光，二手交易平台已炒到上千元

阿里云独家央视春晚创造历史！

赵明回应iPhone降价：让行业更加聚焦消费者价值呈现

我国首个商用堆在线辐照生产同位素装置投运，打破医用同位素长期依赖进口局面

蔚来这十年到底怎么花的钱

理想祝贺零跑成立九周年：一起为用户带来安全可靠的体验

任天堂Switch2真机曝光：U形支架、磁吸Joy-Con接口

如何高效清理和管理浏览器书签，提升上网效率

京东员工提前过年！刘强东自掏腰包送8万盒巧克力

统帅BCD-218LLC3EZS9冰箱：934元，218升风冷无霜，节能新选择

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响