奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

如何轻松开通手机彩铃，个性化来电体验全攻略

除了打电话、发短信，手机的功能越来越丰富，其中彩铃就是一个很受欢迎的功能。那么，手机彩铃到底怎么开通呢？

新报观察 2024-12-29

苹果手机连拍功能详解：捕捉生活中的每一个精彩瞬间

好的，今天咱们聊聊《苹果怎么连拍》。在现代手机摄影中，连拍功能可谓是一个非常实用的工具。特别是对于喜欢记录生活点滴的朋友来说，能够快速捕捉到精彩瞬间，真的很重要。接下来，我们就来深入探讨一下如何在苹果手机上使用这个功能。首先，打开你的苹果手机，找到相机应用。你会发现，苹果的相机界面设计得非常简洁，用户友好。

新报观察 2024-12-29

如何用非红外手机遥控空调：Wi-Fi、蓝牙与智能家居解决方案

在现代生活中，智能手机已经成为我们生活中不可或缺的一部分。它不仅仅是用来打电话、发信息的工具，更是我们控制家中各种智能设备的重要媒介。无论是开关机、调节温度，还是设置定时开关，都可以轻松完成。

新报观察 2024-12-29

探索最大公因数的求法及其生活应用

在数学的世界里，有许多有趣的概念和方法，其中“最大公因数”是一个大家耳熟能详却又常常让人感到困惑的话题。

新报观察 2024-12-29

智能手机时代：如何理性选择和使用各类应用程序App

都变得越来越重要。还有一些学习类App，特别是在疫情期间，大家都在家里上网课，学习App的需求激增，很多人也因此发现了自学的新乐趣。说到学习，很多人可能会觉得自己没有时间去上课，或者没办法集中注意力。然而，学习类App的出现让这一切变得简单多了。你可以随时随地利用碎片时间来听课、做练习，甚至还可以和全球的学习者互动。

新报观察 2024-12-29

手机屏幕维护全攻略：清洁、防护与使用习惯的重要性解析

手机屏幕是我们生活中不可或缺的一部分，它不仅是我们与外界沟通的窗口，更是我们获取信息、娱乐消遣的主要方式。那么，手机屏幕究竟该怎么处理和维护呢？

新报观察 2024-12-29

轻松掌握Word文档页码设置与修改技巧，提升专业性与整洁度

无论是写论文、制作报告，还是编写书籍，页码的正确性和美观性都显得尤为重要。今天，我们就来聊聊如何在Word中修改页码，确保你的文档看起来专业又整洁。

新报观察 2024-12-29

如何有效删除群聊及清理聊天记录的简易指南

在现代社交网络中，群聊已经成为了我们日常沟通的重要方式。无论是工作上的讨论，还是朋友间的闲聊，群聊都能让我们方便地与多人保持联系。然而，有时候我们会发现，某些群聊并不再适合我们，或者我们只是想要清理一下手机里的聊天记录。于是，删除群聊就成了一个必要的选择。今天，我们就来聊聊怎么删除群聊。在开始之前，先简单了解一下群聊的类型。

新报观察 2024-12-29

如何轻松关闭苹果手机语音留言功能，提升使用体验

录”、“最近通话”和“语音信箱”。这里我们要关注的是“语音信箱”。点击这个选项，你就会看到你已经收到的语音留言了。如果你还没有接到语音留言，这里可能会显示“没有留言”。接下来，找一下屏幕右上角的“设置”图标。这个图标看上去像一个齿轮，点击它，你就会进入电话的设置界面。在这里，你会发现很多选项，包括“呼叫转移”、“来电阻止与身份识别”等等。

新报观察 2024-12-29

数字时代电视投屏技巧：轻松享受大屏幕视听体验

这样一来，大家就可以享受更大的屏幕，观看更清晰的画质，尤其是在和家人朋友一起聚会的时候，能让大家更好地分享快乐。

新报观察 2024-12-29

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

如何轻松开通手机彩铃，个性化来电体验全攻略

苹果手机连拍功能详解：捕捉生活中的每一个精彩瞬间

如何用非红外手机遥控空调：Wi-Fi、蓝牙与智能家居解决方案

探索最大公因数的求法及其生活应用

智能手机时代：如何理性选择和使用各类应用程序App

手机屏幕维护全攻略：清洁、防护与使用习惯的重要性解析

轻松掌握Word文档页码设置与修改技巧，提升专业性与整洁度

如何有效删除群聊及清理聊天记录的简易指南

如何轻松关闭苹果手机语音留言功能，提升使用体验

数字时代电视投屏技巧：轻松享受大屏幕视听体验

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响