奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

苏州科伦特电气取得一种外观检测装置专利，避免待测零件翻转

金融界2024年12月28日消息，国家知识产权局信息显示，苏州科伦特电气有限公司取得一项名为“一种外观检测装置”的专利，授权公告号CN222212600U，申请日期为2024年4月。

金融界 2024-12-28

无锡圣威思取得一种薄膜多光源辅助检测装置专利，便于对检测中的薄膜进行张紧力调节

金融界2024年12月28日消息，国家知识产权局信息显示，无锡圣威思自动化设备有限公司取得一项名为“一种薄膜多光源辅助检测装置”的专利，授权公告号CN222212593U，申请日期为2023年12月。

金融界 2024-12-28

大模型2024：从 “烧钱” 到 “赚钱” 的急转弯

在2024年这个被视为大模型应用落地的元年，我们见证了人工智能领域的快速发展和市场的重大转变。从中美两国的政策推动到大模型技术的不断突破，再到智算热潮的兴起，大模型产业正经历着从“烧钱”到“赚钱”的急转弯。

数智前线 2024-12-28

CPO薪资倒挂CEO，创业公司薪酬情况大起底

在创业公司的世界里，薪酬结构总是充满惊喜。你知道吗？有时候，CEO的薪酬可能并不是公司里最高的。本文深入探讨了初创公司中不同职位的薪酬情况，特别是首席产品官（CPO）的薪资如何可能超过CEO。

量子位 2024-12-28

即时零售行业复盘：2024年10大关键词！

2024年即将远去，尽管全球经济增速放缓，行业竞争加剧，但即时零售行业却依然保持着高速增长。对于这一年，即时零售从业者由于经历不同，角度不同，评价也千差万别。作为即时零售领域的资深研究人员，刘老实总结提炼了以下十个关键词，与大家分享。

即时刘说 2024-12-28

妈妈们的钱包，被巨贵的广播剧掏空了

在数字媒体时代，广播剧作为一种新兴的娱乐形式，正逐渐成为不同年龄层听众的新宠。本文深入探讨了广播剧的流行趋势，分析了它如何成为妈妈们的新宠，以及这一变化背后的经济影响。

听筒Tech 2024-12-28

从大模型到自动驾驶，李想的21个最新思考

理想汽车创始人李想近期宣布，理想汽车将不再仅仅定位为汽车制造商，而是转型为一家AI企业。这一战略转变背后，是李想对人工智能、自动驾驶技术的深刻洞察和前瞻思考。

乌鸦智能说 2024-12-28

安徽精特智能科技取得一种用于机械零件外观检测设备专利，能够自动对机械零件外观检测，提高检测效率

金融界2024年12月28日消息，国家知识产权局信息显示，安徽精特智能科技有限公司取得一项名为“一种用于机械零件外观检测设备”的专利，授权公告号CN222212602U，申请日期为2024年4月。

金融界 2024-12-28

山东东博信息科技取得电子信息工程用硬件检测装置专利，有助于后续摄像头对电路板表面是否有损坏的检测

金融界2024年12月28日消息，国家知识产权局信息显示，山东东博信息科技有限公司取得一项名为“一种电子信息工程用硬件检测装置”的专利，授权公告号CN222212601U，申请日期为2024年4月。专利摘要显示，本实用新型公开了一种电子信息工程用硬件检测装置，涉及电子硬件检测领域。

金融界 2024-12-28

苏州锐石艾测取得一种视觉检测机目镜调节机构专利，提高工作效率

金融界2024年12月28日消息，国家知识产权局信息显示，苏州锐石艾测科技有限公司取得一项名为“一种视觉检测机目镜调节机构”的专利，授权公告号CN222212595U，申请日期为2024年3月。专利摘要显示，本实用新型涉及调节机构领域，尤其涉及一种视觉检测机目镜调节机构。

金融界 2024-12-28

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

苏州科伦特电气取得一种外观检测装置专利，避免待测零件翻转

无锡圣威思取得一种薄膜多光源辅助检测装置专利，便于对检测中的薄膜进行张紧力调节

大模型2024：从 “烧钱” 到 “赚钱” 的急转弯

CPO薪资倒挂CEO，创业公司薪酬情况大起底

即时零售行业复盘：2024年10大关键词！

妈妈们的钱包，被巨贵的广播剧掏空了

从大模型到自动驾驶，李想的21个最新思考

安徽精特智能科技取得一种用于机械零件外观检测设备专利，能够自动对机械零件外观检测，提高检测效率

山东东博信息科技取得电子信息工程用硬件检测装置专利，有助于后续摄像头对电路板表面是否有损坏的检测

苏州锐石艾测取得一种视觉检测机目镜调节机构专利，提高工作效率

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响