奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

男子花22万买二手车故意开进鱼塘骗保结果被自己手机出卖

快科技12月27日消息，据报道，近日，保险公司和湖南警方协作破获了一起新能源汽车落水骗保案。报道称，11月28日，男子向保险公司报案称，自己驾驶车辆经过长沙当地一垂钓基地鱼塘边上时，因为

若风 2024-12-27

起售价不超30万！比亚迪全新中大型MPV夏有望1月8日上市

快科技12月27日消息，据媒体报道，比亚迪全新中大型MPV夏有望1月8日上市。根据预测，该车的售价区间预计将在为28-32万元。从此前发布的官图来看，比亚迪夏采用龙颜设计语言，配备大尺寸

王略 2024-12-27

第50000台小鹏MONA M03量产下线：当前每72秒可生产一台

快科技12月27日消息，小鹏汽车官宣，今天迎来第五万台MONA M03量产下线，持续刷新新势力纯电下线速度纪录，目前可以做到72秒生产一台车，在新势力车企中算比较快的造车速度。小鹏MONA系

落木 2024-12-27

狂暴起来！REDMI发布K80 OTA说明：游戏表现显著提升

快科技12月27日消息，REDMI K80系列上市后非常火爆，创下了10天销量突破100万台的K系列最快破百万记录。与此同时，也有不少用户提出反馈，尤其是部分重度游戏用户觉得K80的性能调校不够狂暴，

建嘉 2024-12-27

电车销量超油车！机构感慨：中国正遥遥领先于西方

预计到明年，中国电动汽车的全年销量将首次超过燃油车。这在一些海外机构看来即将成为一个历史性的节点：表明中国这个全球最大的汽车市场在电气化转型方面，正遥遥领先西方竞争对手数年之久。

2024-12-27

陈震买小鹏X9被质疑收钱了小鹏总裁回应：真没充值

快科技12月27日消息，近日，车评人陈震发布了自己买小鹏X9提车的视频。提车后，陈震称赞小鹏X9的辅助驾驶和泊车都很牛，四轮转向MPV里独一无二、第三排电动折叠后，后备箱巨大。视频虽然陈

若风 2024-12-27

蓬松保暖一级棒！鸭鸭90%鸭绒羽绒裤89元大促

鸭鸭90%鸭绒羽绒裤日常售价为300元，下单领取211元优惠券，到手价为89元。购买链接：天猫(券后89元)颜色有黑色/灰色两种颜色可选，款式有平脚/束脚可选。甄选白鸭绒，90%含绒量，蓬松度

小朱 2024-12-27

曝高合汽车开启发放和解金：员工吐槽工龄越久损失越大

快科技12月27日消息，据媒体报道，高合汽车开始为部分已签署和解协议的前员工发放和解金。根据协议，2月21日宣布停工后主动离职的员工将获得未发放工资的50%作为和解金；而2月29日后被动离职

王略 2024-12-27

从支付宝宠己到蚂蚁保健康险：探秘年轻人宠爱自己的新方式

快科技12月27日消息，近日，据支付宝发布，“宠己”当选为2024年度关键词。那么，何为“宠己”？支付宝给出的解释是：一种毫不掩饰的自我宠爱。通过支付宝发布的数据可以

秋白 2024-12-27

中国发现最小的猫科动物化石：一只手就能捧起来

快科技12月27日消息，近日，中国科学院在安徽省华龙洞遗址取得了重要突破，意外发现了一件极为珍贵的超小型猫科动物化石——柯氏豹猫。这一发现填补了科学界对于早期小型猫科动物认

随心 2024-12-27

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

男子花22万买二手车故意开进鱼塘骗保结果被自己手机出卖

起售价不超30万！比亚迪全新中大型MPV夏有望1月8日上市

第50000台小鹏MONA M03量产下线：当前每72秒可生产一台

狂暴起来！REDMI发布K80 OTA说明：游戏表现显著提升

电车销量超油车！机构感慨：中国正遥遥领先于西方

陈震买小鹏X9被质疑收钱了小鹏总裁回应：真没充值

蓬松保暖一级棒！鸭鸭90%鸭绒羽绒裤89元大促

曝高合汽车开启发放和解金：员工吐槽工龄越久损失越大

从支付宝宠己到蚂蚁保健康险：探秘年轻人宠爱自己的新方式

中国发现最小的猫科动物化石：一只手就能捧起来

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响