奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

如何为视频添加字幕：步骤、技巧与工具推荐解析

在这个信息爆炸的时代，视频已经成为了我们获取信息和娱乐的主要方式之一。这不仅仅是一个技术问题，还是一个创作和表达的过程。

新报观察 2024-12-28

拨打韩国电话指南：国际拨号规则与文化礼仪全解析

在现代社会，打电话已经成为我们日常生活中不可或缺的一部分。韩国和中国的时差是一个小时，韩国比中国快一个小时。

新报观察 2024-12-28

在微信中发原图的技巧与意义：提升分享质量与交流体验

很多人可能觉得，发个图片不就是选一张发过去嘛，干嘛还要讲究原图不原图的呢？那么，微信到底怎么发原图呢？

新报观察 2024-12-28

如何在酷我音乐中轻松关闭自动续费，合理管理订阅服务

在如今这个数字化音乐盛行的时代，很多人都选择了在线音乐平台来满足自己的听歌需求。酷我音乐就是其中一个备受欢迎的选择，提供了丰富的音乐库和便捷的使用体验。不过，使用这些平台的时候，很多朋友可能会担心一个问题，那就是自动续费。今天就来聊聊酷我音乐怎么关闭自动续费，帮助大家更好地管理自己的订阅。

新报观察 2024-12-28

格力电器获得实用新型专利授权：“一种连接管防腐装置”

证券之星消息，根据天眼查APP数据显示格力电器（000651）新获得一项实用新型专利授权，专利名为“一种连接管防腐装置”，专利申请号为CN202420576586.5，授权日为2024年12月27日。

证券之星 2024-12-28

手机丢失后的应对策略：从冷静寻找到保护隐私的实用建议

生活中，我们几乎每时每刻都在用手机，无论是聊天、拍照，还是看视频、购物，手机已经成了我们生活中不可或缺的一部分。所以，假如不小心把小米手机丢了，应该怎么办呢？小米手机自带的“查找手机”功能非常实用，只要你在手机上开启了相关设置，那么即使手机不在你身边，你依然可以通过电脑或者其他手机来进行定位。

新报观察 2024-12-28

掌握电脑拆解技巧，轻松提升维护与升级能力

拆电脑听起来可能有些复杂，但其实只要掌握了一些基本知识和技巧，你也能轻松上手。在动手之前，咱们先聊聊为什么要拆电脑。一般来说，机箱的侧面都有螺丝固定，有的机箱可能采用卡扣设计。

新报观察 2024-12-28

掌握毅五笔输入法：提高打字效率的小技巧与练习方法

《毅五笔怎么打》在这个信息爆炸的时代，打字已经成了我们日常生活中不可或缺的一部分。无论是工作、学习，还是和朋友聊天，快速、准确地输入文字都是非常重要的。而说到打字工具，五笔输入法绝对是一个经典，特别是“毅五笔”。那么，今天就跟大家聊聊毅五笔怎么打，帮助大家更好地掌握这个输入法。首先，了解什么是五笔输入法是很重要的。

新报观察 2024-12-28

风华高科获得实用新型专利授权：“一种树脂粘合剂过滤辅助装置及树脂粘合剂过滤系统”

证券之星消息，根据天眼查APP数据显示风华高科（000636）新获得一项实用新型专利授权，专利名为“一种树脂粘合剂过滤辅助装置及树脂粘合剂过滤系统”，专利申请号为CN202420709018.8，授权日为2024年12月27日。

证券之星 2024-12-28

恒瑞医药获得发明专利授权：“吡唑并杂芳基类衍生物、其制备方法及其在医药上的应用”

证券之星消息，根据天眼查APP数据显示恒瑞医药（600276）新获得一项发明专利授权，专利名为“吡唑并杂芳基类衍生物、其制备方法及其在医药上的应用”，专利申请号为CN202080066108.4，授权日为2024年12月27日。专利摘要：本公开涉及吡唑并杂芳基类衍生物、其制备方法及其在医药上的应用。

证券之星 2024-12-28

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

如何为视频添加字幕：步骤、技巧与工具推荐解析

拨打韩国电话指南：国际拨号规则与文化礼仪全解析

在微信中发原图的技巧与意义：提升分享质量与交流体验

如何在酷我音乐中轻松关闭自动续费，合理管理订阅服务

格力电器获得实用新型专利授权：“一种连接管防腐装置”

手机丢失后的应对策略：从冷静寻找到保护隐私的实用建议

掌握电脑拆解技巧，轻松提升维护与升级能力

掌握毅五笔输入法：提高打字效率的小技巧与练习方法

风华高科获得实用新型专利授权：“一种树脂粘合剂过滤辅助装置及树脂粘合剂过滤系统”

恒瑞医药获得发明专利授权：“吡唑并杂芳基类衍生物、其制备方法及其在医药上的应用”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响