奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

亚洲小姐组团打卡哈尔滨冰雪大世界：人美雪也美

12月29日消息，据媒体报道，第35届亚洲小姐组团打卡第二十六届哈尔滨冰雪大世界，沉浸式体验冰雪之美。网友纷纷表示，人美雪也美，你永远猜不到会在冰雪大世界偶遇谁。随着北方的持续降温

2024-12-29

盘点抑郁症的6个真相：很多人都误解了抑郁症

12月28日消息，据媒体报道，抑郁症正在成为人类的健康杀手，据统计，全世界有超过3.5亿人受抑郁症困扰。有媒体汇总了6个常见的对“抑郁症”的误解，希望能让我们真正了解抑郁的真相

2024-12-29

HarmonyOS NEXT 实战之元服务：静态案例效果---蜻蜓AI小助手

HarmonyOS NEXT 实战之元服务：静态案例效果---蜻蜓AI小助手HarmonyOS NEXT 实战之元服务：静态案例效果---蜻蜓AI小助手

JasonYin 2024-12-27

Nping: 酷炫图表展示, 多地址, 跨平台终端 Ping 工具

Nping 顾名思义: 牛批的 Ping。支持多地址同时 ping, 实时图表展示, 实时数据展示等等牛批的小玩意儿。

韩数 2024-12-28

🤓这周我又给我的小程序做了哪些有趣实用的功能？

前言 Hello 大家好，我是 oil欧呦，上周写了一篇文章介绍了小程序开发了一个月做的一些功能，有幸上了前端热榜的榜二。这周我又给小程序加了一些新功能。大家一起来看看我这周又整了哪些新活儿。

oil欧哟 2024-12-28

grafana中 rate counter和delta counter的区别

在 Grafana 中，rate() 和 delta() 是常用的 PromQL 函数，用于处理时间序列数据，特别是与计数器（Counter）类型的指标相关的数据。以下是它们的区别和适用场景：

devhg 2024-12-27

Android Camera系列（四）：TextureView+OpenGL ES+Camera

本文介绍了Camera+TextureView+OpenGL ES的基本操作及关键代码。与GLSurfaceView的区别就在于我们需要自己创建EGL环境以及自定义渲染线程。

小智003 2024-12-27

详细讲解vue3中的ref和reactive

在 Vue 3 中，使用 ref 包装一个对象时，ref 会返回一个包含 value 属性的对象。这个 value 属性指向你传递的对象。具体来说，ref 对象的结构如下：基本用法打印结果当你打

姓陈住气 2024-12-27

难怪高铁动车8号9号车厢不通背后原因揭开

12月29日消息，据媒体报道，一列标准动车组一般由8节车厢组成，但大家有时会看到两列动车组“首尾相连”，8节车厢变为16节车厢，这种加长版动车组被称为“重联”，两列独立

2024-12-29

小米15 Pro上手：2024年旗舰手机的标准答案

距离小米15 Pro的正式发布已经过去了很长一段时间，在这段时间里各大品牌的新款旗舰手机也已经纷纷发布，所以我们打算现在来具体聊一聊小米15 Pro这款率先发布的2024年度旗舰手机。延续经

2024-12-29

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

亚洲小姐组团打卡哈尔滨冰雪大世界：人美雪也美

盘点抑郁症的6个真相：很多人都误解了抑郁症

HarmonyOS NEXT 实战之元服务：静态案例效果---蜻蜓AI小助手

Nping: 酷炫图表展示, 多地址, 跨平台终端 Ping 工具

🤓这周我又给我的小程序做了哪些有趣实用的功能？

grafana中 rate counter和delta counter的区别

Android Camera系列（四）：TextureView+OpenGL ES+Camera

详细讲解vue3中的ref和reactive

难怪高铁动车8号9号车厢不通背后原因揭开

小米15 Pro上手：2024年旗舰手机的标准答案

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响