奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

自主研制！“清航叁号”新型发动机成功测试飞行

快科技12月26日消息，据清华大学官网发文，由清华大学自主研制的“清航叁号”新型发动机圆满完成飞行试验任务，标志着我国自主研制的基于新型燃烧技术的发动机取得重要进展，进入工程实践阶段。据介绍，该新型发动机是清华大学研究团队在“清航壹号”研究基础上，针对宽速域应用条件持续自主研发的新型发动机，其具有经济性指标高、结构简单等优点。

驱动之家 2024-12-26

容声BCD-513WD12FPA：513升四开门冰箱，国补600元，性价比之选

#年货节好物集市#容声冰箱以其卓越的品质和创新技术在家电市场上赢得了良好的口碑。根据用户评价和产品评测，容声冰箱在满足日常冷藏和冷冻需求的同时，还提供了节能和低噪音的运行特性。特别是容声BCD-513WD12FPA型号，以其513升的总容积和十字双对开门设计，适合大家庭使用，用户普遍反映其耐用性出色，保鲜性能好，制冷效果佳。

小米地瓜 2024-12-26

重庆空管顺利保障重庆江北机场第四跑道启用

“东方5428，重庆塔台，地面静风，跑道03R，可以起飞。”2024年12月26日，随着重庆空管分局塔台管制员发布指令，一架中国东方航空公司C919国产大飞机从重庆江北机场第四跑道起飞，开启了重庆江北机场四跑道运行新的时代。

金台资讯 2024-12-26

欧普照明申请恒流驱动电路等专利，能计算恒流驱动电路输入功率

金融界2024年12月26日消息，国家知识产权局信息显示，欧普照明股份有限公司申请一项名为“恒流驱动电路、电路输入功率计算方法及灯具”的专利，公开号CN119183227A，申请日期为2023年6月。

金融界 2024-12-26

协鑫集成：发布GPC 2.0高效组件瞄准分布式光伏市场

12月26日，协鑫集成重磅发布基于BC技术的GPC2.0高效组件，将2382*1134mm组件的功率提高至660W，为分布式光伏市场带来全新场景解决方案。协鑫集成产品总监盛夏表示，GPC2.0产品拥有更多吸收光线、更优光电转换、更少复合损失、更大电流收集能力。

中国证券报 2024-12-26

华为 WATCH D2 腕部动态血压记录仪手表礼盒款开售，2988 元

IT之家12月26日消息，华为WATCHD2腕部动态血压记录仪礼盒款将于12月27日零点开售，相比普通款加送1条氟橡胶表带，售价2988元。华为WATCHD2腕部动态血压记录仪手表拥有“幻夜黑”和“晨曦金”2种配色。IT之家从商品页面获悉，礼盒款加送的氟橡胶表带无气囊不能用于血压测量。

IT之家 2024-12-26

武隆高山生态肉牛全产业链项目动工修建

12月24日，重庆武隆高山生态肉牛全产业链项目在沧沟乡正式开建。据介绍，该项目总投资额3亿元，建成后将辐射渝东南及云贵川地区，形成集肉牛繁育、养殖、屠宰、加工、商贸、物流、进出口为一体的智慧、智能、生态高山肉牛全产业链，为区域经济发展注入强劲动力。

央广网 2024-12-26

快科技 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

自主研制！“清航叁号”新型发动机成功测试飞行

容声BCD-513WD12FPA：513升四开门冰箱，国补600元，性价比之选

重庆空管顺利保障重庆江北机场第四跑道启用

欧普照明申请恒流驱动电路等专利，能计算恒流驱动电路输入功率

协鑫集成：发布GPC 2.0高效组件瞄准分布式光伏市场

华为 WATCH D2 腕部动态血压记录仪手表礼盒款开售，2988 元

武隆高山生态肉牛全产业链项目动工修建

引领行业风向首个微短剧权威指数将在成都发布

元旦启航！C919将执飞沪港定期航线，让更多香港市民乘搭

红果短剧回应被广电约见：逐一排查平台所有剧集违规内容立即下线

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响