奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

有效利用微信进行品牌营销的实用技巧与策略

在当今这个数字化的时代，微信已经成为了一个不可或缺的社交工具。无论是日常聊天、分享生活，还是进行商业活动，微信都扮演着重要的角色。对于商家来说，如何利用微信进行有效的营销，已经成为了一个热门话题。接下来，我们就来聊聊微信营销的一些实用技巧和策略。在微信上，品牌形象的建立是非常重要的。你可以通过创建一个专业的公众号来展示你的品牌。

新报观察 2024-12-31

安徽中信取得离合器踏板总成专利，便于离合器踏板本体安装和拆卸

金融界2024年12月31日消息，国家知识产权局信息显示，安徽中信汽车零部件有限公司取得一项名为“一种离合器踏板总成”的专利，授权公告号CN222223906U，申请日期为2024年3月。

金融界 2024-12-31

个性化手机铃声设置指南：安卓与iOS用户的实用技巧分享

录”应用，找到你想设置的联系人，进入他们的详细信息页面，点击“编辑”，然后就能看到“铃声”选项，选择你喜欢的铃声后保存即可。其实，铃声设置不仅仅是为了区分来电，更是一种个性化的表达。试想一下，当你在公共场合，听到你喜欢的那首歌在响起，心情一定会变得格外愉悦。特别是当朋友打电话时，铃声一响，就能让你瞬间想起那段美好的回忆。

新报观察 2024-12-31

探索拼图的乐趣：技巧、心得与社交互动的完美结合

拼图是一项古老而又充满乐趣的活动，很多人都曾在闲暇时光里坐下来，享受拼图带来的乐趣。今天就来聊聊拼图怎么玩，分享一些小技巧和个人心得。

新报观察 2024-12-31

深圳市普菲特精密制品取得防疲劳断裂连接机构的驱动轴专利，提高连接的稳定性和使用寿命

金融界2024年12月31日消息，国家知识产权局信息显示，深圳市普菲特精密制品有限公司取得一项名为“防疲劳断裂连接机构的驱动轴”的专利，授权公告号CN222223904U，申请日期为2024年5月。专利摘要显示，本实用新型公开了防疲劳断裂连接机构的驱动轴，涉及车辆传动装置的布置或安装技术领域。

金融界 2024-12-31

星网宇达：IMU产品广泛应用于机器人等领域

金融界12月31日消息，有投资者在互动平台向星网宇达提问：你好！请问贵公司有没有机器狗或人形机器人技术储备？谢谢。公司回答表示：您所提及的机器狗、人形机器人领域，也是公司积极关注的方向。

金融界 2024-12-31

电脑键盘无法输入的原因及解决方法详解，助你轻松排查问题

在日常使用电脑的过程中，键盘出现打不出字的情况，真的是让人感到非常烦恼。如果问题依然存在，可以考虑更新或重装键盘的驱动程序。

新报观察 2024-12-31

江苏久动传动轴取得具有良好减震效果的传动轴吊架专利，可提高装置实用性

金融界2024年12月31日消息，国家知识产权局信息显示，江苏久动传动轴有限公司取得一项名为“一种具有良好减震效果的传动轴吊架”的专利，授权公告号CN222223905U，申请日期为2024年3月。

金融界 2024-12-31

潍柴雷沃取得一种机械式脚油门装置及拖拉机专利，改善易变形出现控制精度低的问题

金融界2024年12月31日消息，国家知识产权局信息显示，潍柴雷沃智慧农业科技股份有限公司取得一项名为“一种机械式脚油门装置及拖拉机”的专利，授权公告号CN222223907U，申请日期为2024年5月。

金融界 2024-12-31

提升网络速度的实用技巧，让你畅享数字生活的乐趣与便利

在这个信息爆炸的时代，网速快慢直接影响着我们的生活和工作效率。无论是追剧、打游戏，还是远程办公，网速都扮演着一个举足轻重的角色。尤其是一些自动更新的软件，它们可能在你最需要网络的时候悄悄占用带宽。

新报观察 2024-12-31

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

有效利用微信进行品牌营销的实用技巧与策略

安徽中信取得离合器踏板总成专利，便于离合器踏板本体安装和拆卸

个性化手机铃声设置指南：安卓与iOS用户的实用技巧分享

探索拼图的乐趣：技巧、心得与社交互动的完美结合

深圳市普菲特精密制品取得防疲劳断裂连接机构的驱动轴专利，提高连接的稳定性和使用寿命

星网宇达：IMU产品广泛应用于机器人等领域

电脑键盘无法输入的原因及解决方法详解，助你轻松排查问题

江苏久动传动轴取得具有良好减震效果的传动轴吊架专利，可提高装置实用性

潍柴雷沃取得一种机械式脚油门装置及拖拉机专利，改善易变形出现控制精度低的问题

提升网络速度的实用技巧，让你畅享数字生活的乐趣与便利

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响