奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

亿通科技：取得一项计算机软件著作权登记证书

金融界12月30日消息，亿通科技于近日取得国家版权局颁发的一项计算机软件著作权登记证书，为亿通基于塑料光纤的Gbit数据传输系统网络管理软件[简称：光纤数据传输系统网络管理软件]V1.0。

金融界 2024-12-30

中信建投：CES 2025开幕在即，消费电子板块有望迎来新机遇

CES是全球科技创新和消费电子行业的风向标，届时，来自世界各地的头部科技玩家将展示最前沿的创新技术和卓越产品。多种创新形态的产品有望在CES2025上展出，包括卷轴屏笔记本电脑，配备摄像头的吊坠等。同时，AI技术的热潮在本届CES上将进一步升温，预计今年的展会将有更多AI应用实例。

每日经济新闻 2024-12-30

鸿海研究院运用 AI 研发碳化硅功率元件，可大幅加速开发进程

IT之家12月30日消息，鸿海科技集团今日通过新闻稿宣布，鸿海研究院半导体研究所、人工智能研究所成功将AI学习模型与强化学习技术融合，大幅加速碳化硅功率半导体的研发进程。

IT之家 2024-12-30

曾遨游太空的五星红旗完成接力传递，在京跑完“最后一棒”

5月底，一面曾遨游太空的五星红旗从位于北京的中国航天员科研训练中心出发，先后走过31个省区市和新疆生产建设兵团，在全国58个重要纪念地和见证地传递，12月30日在北京市育英学校结束全部传递活动。这面五星红旗，曾搭乘神舟十八号载人飞船，抵达中国空间站，并经神舟十七号载人飞船搭载返回地面。

北京日报 2024-12-30

惨！三星集团市值蒸发161.25兆韩元：三星电子是主因

快科技12月30日消息，据媒体报道，全球半导体产业竞争格局下，韩国三星集团今年市值大幅缩水。截至12月26日，三星集团旗下22家上市公司的总市值为548.44兆韩元，较去年年底的709.69兆韩元下降

黑白 2024-12-30

新研究：大脑无法同时学习两种条件反射

新华社耶路撒冷12月30日电（记者王卓伦　陈君清）以色列特拉维夫大学研究人员开展的一项研究发现，大脑无法同时通过经典条件反射和操作性条件反射进行学习，大脑会主动抑制这两种记忆的同时形成，从而解决行为选择的冲突。

光明网 2024-12-30

柯力传感：公司传感器广泛应用于汽车测试等多个行业

12月30日，柯力传感在投资者互动平台上表示，公司的六维力传感器不仅限于传统的工业自动化领域，还广泛应用于航空航天、医疗手术辅助、汽车测试等多个高精度要求的行业。特别是在机器人领域，由于其对环境感知和交互能力的需求增加，六维力传感器的应用规模增速加快，预计成为推动整个行业发展的重要力量。

新京报 2024-12-30

为社区营造浓厚法制氛围，这些大学生们收到了锦旗

武汉学院学子积极投入的奉献精神得到了青石社区的高度肯定，青石社区于12月27日向武汉学院法学院赠送了“党员践初心，弘法传情，播撒法治阳光照青石；法翼担使命，释疑解惑，遍吹普法清风暖社区”的锦旗，以示鼓励。

极目新闻 2024-12-30

技术速递｜调用异步功能 - WinForms 在 .NET 9 中的未来发展

随着.NET的不断发展，WinForms开发者可用的工具也在不断进步，这使得开发更加高效且应用响应更迅速。Control.InvokeAsync–在.NET9中全面发布的API，有助于异步调用调用UI线程。

微软中国MSDN 2024-12-30

广东全面启动万兆智能光网建设

12月29日上午，广东省通信学会智能光网专业委员会成立仪式隆重举行，会上正式宣布启动广东省万兆智能光网建设，这一举措将为广东数字经济发展注入强劲动力，加速推进广东新型信息化基础设施建设步伐，在通信领域具有里程碑意义。

南方新闻网 2024-12-30

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

亿通科技：取得一项计算机软件著作权登记证书

中信建投：CES 2025开幕在即，消费电子板块有望迎来新机遇

鸿海研究院运用 AI 研发碳化硅功率元件，可大幅加速开发进程

曾遨游太空的五星红旗完成接力传递，在京跑完“最后一棒”

惨！三星集团市值蒸发161.25兆韩元：三星电子是主因

新研究：大脑无法同时学习两种条件反射

柯力传感：公司传感器广泛应用于汽车测试等多个行业

为社区营造浓厚法制氛围，这些大学生们收到了锦旗

技术速递｜调用异步功能 - WinForms 在 .NET 9 中的未来发展

广东全面启动万兆智能光网建设

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响