奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

机械革命无界14N笔记本首发5999元：酷睿Ultra 5 228V、18.5小时续航

快科技12月30日消息，机械革命无界14N笔记本目前已经上市，首发5999元。机械革命无界14N采用冲压＋CNC精雕工艺成型，具备如CNC一体成型般的质感，CD两面衔接过渡自然，无明显缝隙。

驱动之家 2024-12-30

解锁AI时代手机拍照新玩法 vivo S20 Pro AI影像能力解读

在当今智能手机市场竞争日益激烈的环境下，vivoS20Pro凭借其强大的AI影像能力，成为拍摄生活中的得力助手。从柔光自拍到长焦特写，这款手机通过旗舰级传感器与自研算法，为用户提供了全方位的影像体验。这种动态变化的边框不仅提升了照片的趣味性和互动性，还完美融合了记录情感与动态美学，满足了年轻用户对于个性化和新颖内容的追求。

中关村在线 2024-12-30

轻松掌握WPS文档页边距设置，提升文档美观与专业性

在使用WPS时，很多人可能会觉得页面的设置有些繁琐，尤其是页边距的调整。其实，设置页边距并没有想象中的复杂，只要掌握了步骤，就能轻松搞定。今天就来聊聊，如何在WPS中设置页边距，让你的文档看起来更加美观、规范。

新报观察 2024-12-30

韩国将全面检查现有101架波音737-800型客机

韩国国土交通部30日宣布，将对韩国国内现有的101架波音737-800型客机进行全面特别检查。

北京日报 2024-12-30

印度发现“卡脖子”矿产，想偷师中方经验，摆脱对华依赖

近年来，国际舞台上演了一场不同寻常的博弈，这就是由美国主导的对中国科技领域的围堵，而中国则在关键矿产资源领域发起了反制。印度作为一个新兴经济体，在这场“科技战”中被迫重新审视自身的短板。但问题随之而来，如同一位刚刚找到宝藏却没有钥匙的探险者一样，印度面临着采矿技术和能力不足的重大挑战。

宏兵灼见 2024-12-30

世界最大盾构机每小时挖3.6米，挖穿地球需要多久？能否成功

而要说到世界上最大的盾构机，那就不得不说到美国的Bertha盾构机，这台盾构机号称是世界上最大的巨型盾构机，其直径长达17.5米，总重量更是有着7000吨。又能不能成功被挖穿地球呢？

科学知识点秀 2024-12-30

保守派反对特朗普对TikTok宽容

鞭牛士报道，12月30日消息，据外电报道，美国候任总统唐纳德·特朗普曾经是保守派中对TikTok的直言不讳的批评者，但现在他对这款中国社交媒体应用的立场已经软化，引发了共和党盟友的强烈反对。目前，美国最高法院正准备于1月10日举行快速口头辩论，而九天后，TikTok必须出售给美国买家，否则将被主流应用商店封禁。

鞭牛士 2024-12-30

反射镜架种类知多少？

圆形两轴光学调整架,属于结构更加精密的反射镜架,它可通过两个0.25mm细牙螺距调节器实现±4°或±3°的俯仰和偏摆调节,调节分辨率高,调整架上设置的M4的沉头安装孔可实现左手或者右手结构的配置。精密三轴光学调整架,相比起圆形两轴光学调整架而言,这个反射镜架采用了更厚的背板和三个带锁紧的调节器,增强了调整架的稳定性。

极目新闻 2024-12-30

OpenCloudOS应用实践，助力中南民族大学构建信息化数字基座

12月21日，在2024OpenCloudOS年会上，中南民族大学信息化建设管理处信息技术部主任高杰欣，介绍了学校基于OpenCloudOS操作系统构建信息化数字基座的实践经验，为高校数字化转型升级提供了参考。目前，中南民族大学新部署虚拟机超100台，均使用了OpenCloudOS，并计划在下一步国产化迁移时全面采用。

砍柴网 2024-12-30

拉尼娜：极涡有45%概率震荡！冬季还会有多冷？我国给出整体趋势

这不，来自NOAA在12月发布了一份关于冬季天气扰乱者“极涡”的活动状态概率，这也让不少人看到了，接下来的气候变化可能会更加突出。因为它可能出现强烈的“震荡”，一旦出现了，这可能会改变寒冷的气候模式，那今年冬季还会有多冷呢？NOAA：极涡有45%概率震荡！

环球科学猫 2024-12-30

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

机械革命无界14N笔记本首发5999元：酷睿Ultra 5 228V、18.5小时续航

解锁AI时代手机拍照新玩法 vivo S20 Pro AI影像能力解读

轻松掌握WPS文档页边距设置，提升文档美观与专业性

韩国将全面检查现有101架波音737-800型客机

印度发现“卡脖子”矿产，想偷师中方经验，摆脱对华依赖

世界最大盾构机每小时挖3.6米，挖穿地球需要多久？能否成功

保守派反对特朗普对TikTok宽容

反射镜架种类知多少？

OpenCloudOS应用实践，助力中南民族大学构建信息化数字基座

拉尼娜：极涡有45%概率震荡！冬季还会有多冷？我国给出整体趋势

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响