奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

字节今年AI投入接近BAT三家总和！明年有望直接翻倍

快科技12月26日消息，浙商证券在其报告中指出，字节跳动在AI上加大流量投放、扩大资本开支、大力扩张团队，研发投入显著领先同行。在资金上，字节跳动在AI上投入巨大，2024年资本开支达到800亿

黑白 2024-12-26

代号珠峰！OPPO Find X8 Ultra影像尘埃落定

快科技12月26日消息，OPPO Find X8 Ultra会在春节后登场，该机代号珠峰，暗示是一款巅峰影像旗舰。据博主数码闲聊站爆料，OPPO Find X8 Ultra后置5000万像素1英寸主摄、5000万像素超广角、500

振亭 2024-12-26

大差价手慢无：真维斯秋冬新款保暖棉服外套65元到手

真维斯秋冬新款保暖棉服外套原价300元，下单可领取235元大额券，实付到手价是65元。购买链接：天猫(券后65元)户外环境复杂多变，出行需要更周全的防护，这款加厚棉服兼备保暖、防风、御寒

小朱 2024-12-26

好心让同事搭乘电动自行车便车结果被撞还被同事起诉赔钱

快科技12月26日消息，好心让他人搭乘便车，结果发生事故，提供便车的车主需要担责吗？据报道，近日，无锡市锡山区人民法院披露了一起典型案件。报道称，李某与顾某在同一公司工作，一天下班后

若风 2024-12-26

酷凛推出雪界DF系列厚排一体式水冷：配备VRM散热风扇

快科技12月26日消息，酷凛上线了雪界DF一体式CPU水冷。该系列散热器配备冷头VRM散热风扇，提供240和360两种尺寸规格，均可选黑白双色。雪界DF系列水冷散热器搭载了酷凛自研的V7水泵，该水泵以

鹿角 2024-12-26

华为今天启用！全国最大、设施最先进

快科技12月26日消息，据媒体报道，今日，华为鸿蒙生态（武汉）创新中心正式揭牌启用，这是全国规模最大、设施最先进、功能最齐全的华为鸿蒙生态中心，也是继深圳、成都之后，国内设立的第三个鸿

拾柒 2024-12-26

王腾：K80取消超声波、IP68、2K屏能省几个亿没考虑

快科技12月26日消息，今天下午友商新品发布，王腾发文提到了产品配置取舍的问题。王腾透露，K80定义之初就算过账，如果不用超声波指纹改用短焦指纹，不支持IP68仅支持IP65，可以节省超过2.5亿

建嘉 2024-12-26

两轮四轮随心切：广汽集团第三代智能人形机器人GoMate发布

快科技12月26日消息，今日下午，广汽集团第三代具身智能人形机器人GoMate发布。据介绍，GoMate是一款全尺寸的轮足人形机器人，全身拥有38个自由度，创新性地采用了可变轮足移动结构，巧妙地融

落木 2024-12-26

博帝发布P400 V4 PCIe 4.0 SSD：配轻薄石墨烯散热片

快科技12月26日消息，博帝推出新款P400 V4 PCIe 4.0 SSD。其配备了高效轻薄的石墨烯散热片，专为提升耐用性而设计。P400 V4 SSD采用了紧凑高效的M.2 2280规格，搭载了业界领先的PCIe 4.0 SSD主

鹿角 2024-12-26

一图读懂一加Ace 5 Pro：定价最激进的骁龙8至尊版手机

快科技12月26日消息，今天下午，一加Ace 5 Pro正式发布，起售价是3399元，是迄今为止价格最低的骁龙8至尊版手机。该机首发自研的风驰游戏内核，可以做到长时间游戏持久流畅不卡顿、不发烫，并

振亭 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

字节今年AI投入接近BAT三家总和！明年有望直接翻倍

代号珠峰！OPPO Find X8 Ultra影像尘埃落定

大差价手慢无：真维斯秋冬新款保暖棉服外套65元到手

好心让同事搭乘电动自行车便车结果被撞还被同事起诉赔钱

酷凛推出雪界DF系列厚排一体式水冷：配备VRM散热风扇

华为今天启用！全国最大、设施最先进

王腾：K80取消超声波、IP68、2K屏能省几个亿没考虑

两轮四轮随心切：广汽集团第三代智能人形机器人GoMate发布

博帝发布P400 V4 PCIe 4.0 SSD：配轻薄石墨烯散热片

一图读懂一加Ace 5 Pro：定价最激进的骁龙8至尊版手机

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响