奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

Flutter Warning: SDK processing. This version only understands SDK XML versions

一、简介执行 flutter run 的时候，提示警告： Warning: SDK processing. This version only understands SDK XML version

卡尔特斯 2024-12-26

雪花算法 Snowflake 原理与 Java 实现

雪花算法 Snowflake 一种由 Twitter 开发的分布式全局唯一 ID 生成算法，它生成的 ID 是一个 64 位的整数。

秋刀鱼梦 2024-12-26

js中的事件流

什么是事件流事件流（Event Flow）是指在文档对象模型（DOM）中，当用户交互（如点击、键盘输入等）触发一个事件时，这个事件如何在 DOM 树中传播的过程。

写不出代码真君 2024-12-26

深入理解JDK设计模式，让你的Java开发更高效

在软件开发中，设计模式是提高代码质量、可维护性以及扩展性的有效工具。Java开发中，JDK的源码中包含了许多经典的设计模式，这些模式不仅为我们提供了有力的编程规范，还能帮助开发者在实际项目中解决常见问

齐朋 2024-12-26

Linux内核"bug"导致Android无法获取meminfo的问题定位

背景最近在做某个需求的性能测试时发现：采集的内存数据时而会跌落到0，导致内存准入无法判断（其实这个问题也同样会影响到线上的内存数据采集）。采集的截图主要就下面2种case：时而跌落到 0，时而又恢

0x264 2024-12-26

Android 动效初探

前言我们知道在 Android 中实现动画效果，可以通过补间动画、帧动画和属性动画。对于一些简单的动画效果，用上述方式实现没啥问题。但是对于复杂的动画，无论从动态效果展示和动画资源大小，还是支持动态

码上搬砖 2024-12-26

【Flutter入门】1. 从零开始的flutter跨平台开发之旅（概述、环境搭建、第一个Flutter应用）

想快速掌握现代移动应用开发吗？本文带你走进Google推出的开源UI工具包——Flutter的世界。你将学会如何在Windows和macOS上搭建开发环境，并创建一个简单的app应用。

西辰Knight 2024-12-26

模仿 SU7 网页特效实现3D旋转地球

随着小米 SU7 的发布，不少网友发现了一个小米su7的展示网页，那是相当的酷炫：当你体验一遍后，会看到各种炫酷的效果，包括隧道穿梭、波浪动画等，并且还有些细节也值得注意，如地面的反射效果。

加减法原则 2024-12-25

从前端到Android：揭秘Fragment与Activity的生命周期

如果你是一位前端开发者，正在探索Android开发的世界，那么你一定会对Android的生命周期管理感到既熟悉又陌生。今天，我们将深入探讨Android中Fragment和Activity的生命周期，

火车叼位 2024-12-26

vue 实现多个关键词高亮显示功能

在现代网页开发中，常常需要实现高亮显示关键词的功能。例如，在一个搜索结果页面，用户可能输入某个关键词，并希望看到该关键词在相关内容中的高亮显示。下面我们将探讨如何通过 JavaScript 来实现这一

婷婷婷婷 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

Flutter Warning: SDK processing. This version only understands SDK XML versions

雪花算法 Snowflake 原理与 Java 实现

js中的事件流

深入理解JDK设计模式，让你的Java开发更高效

Linux内核"bug"导致Android无法获取meminfo的问题定位

Android 动效初探

【Flutter入门】1. 从零开始的flutter跨平台开发之旅（概述、环境搭建、第一个Flutter应用）

模仿 SU7 网页特效实现3D旋转地球

从前端到Android：揭秘Fragment与Activity的生命周期

vue 实现多个关键词高亮显示功能

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响