奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

2024年度电视机皇评选揭晓！海信U8N Pro荣获旗舰画质机皇

12月29日，“巅峰画质对决智选电视新王者”2024年度电视机皇评选大会（BestTVAward）在北京举办。

雷科技 2024-12-31

三星One UI 7.0提升以太网速度，Galaxy S24率先支持2.5Gbps速率

IT之家12月31日消息，有用户发现三星在OneUI7.0更新中暗藏了一项重要的网络性能提升——部分GalaxyS24系列手机开始支持更快的以太网速度，从原先的1Gbps提升至2.5Gbps。结果显示，运行OneUI6.1的设备在使用同一适配器时，要么速度受到限制，要么根本无法正常工作。

IT之家 2024-12-31

中国科学院宁波大学成功抑制碘离子迁移提升钙钛矿电池稳定性

中国科学院宁波材料技术与工程研究所的研究团队近日宣布，他们成功抑制了碘离子的迁移，从而显著提升了钙钛矿太阳能电池的稳定性。据测试，这种钙钛矿电池在高温高湿环境下仍能保持85%的初始效率。研究团队在钙钛矿前驱体溶液中引入了一种名为BT2F-2B的化合物，该化合物与碘离子形成强配位作用，有效抑制了碘离子的迁移和转化，减少了碘空位缺陷。

中关村在线 2024-12-31

山东临工取得装载机用制动循环系统专利，解决制动系统缺陷

金融界2024年12月31日消息，国家知识产权局信息显示，山东临工工程机械有限公司取得一项名为“装载机用制动循环系统”的专利，授权公告号CN222224103U，申请日期为2024年5月。专利摘要显示，本实用新型公开了一种装载机用制动循环系统，其属于工程机械技术领域。

金融界 2024-12-31

开发者质疑苹果 iOS 18增强视觉搜索功能：默认启用，泄露用户隐私

12月31日消息，开发者JeffJohnson于12月28日发布博文，曝料称在苹果iOS18和macOS15Sequoia系统中，会默认启用“增强视觉搜索”（EnhancedVisualSearch），会将用户照片数据传输给苹果公司，担忧该功能会泄露用户隐私。

砍柴网 2024-12-31

王化：红米Turbo 4要做2025年新机的冬季续航之王

【CNMO科技消息】12月31日，小米公关部总经理王化发微博称，最近手机圈都流行挑战低温长续航，作为一个北方的手机企业研发的新产品，红米Turbo4要做2025年第一款新机的冬季续航之王。据官方预热消息，红米Turbo4将配备6550mAh最大小米金沙江电池，升级双增压耐寒芯片，-35°C超低温越冷越能打。

手机中国 2024-12-31

国内首个高校“AI禁令”发布

据“首都教育”微信公众号消息，期末已至，在高校读书的同学们正忙着完成各种论文、报告，很多学生会选择利用AI来当帮手，相比翻阅厚重的书籍资料，或者利用互联网搜索引擎查找资料，借助AI完成作业更加方便、实用，但也出现了滥用AI的情况。

新京报 2024-12-31

三部门联合发布实施《加快工业领域清洁低碳氢应用实施方案》

中新网12月31日电据工信部网站消息，为落实《氢能产业发展中长期规划(2021—2035年)》，积极拓展清洁低碳氢在工业领域应用，加快技术装备产品升级，促进氢能产业高质量发展，工业和信息化部、国家发展改革委、国家能源局于2024年12月30日联合发布实施《加快工业领域清洁低碳氢应用实施方案》(以下简称《实施方案》)。

中国新闻网 2024-12-31

服务器设置全攻略：从选择到维护的详细步骤与技巧

设置服务器可能听起来有点复杂，但实际上，只要你掌握了基本步骤，就会发现这并没有你想象中的那么难。物理服务器就是你在某个地方实际拥有的机器，而虚拟服务器则是在云端运行的，可以按需扩展。你需要根据自己的需求来选择，如果只是小型网站或者个人项目，虚拟服务器可能更合适；如果是大型企业应用，可能就需要考虑物理服务器。

新报观察 2024-12-31

Optimus代际更新回顾，看好Gen3发布行情 | 投研报告

华鑫证券近日发布汽车行业周报：Optimus代际更新回顾，看好Gen3发布行情。2023年12月，OptimusGen2发布，可以做深蹲、捏鸡蛋。从2021年开始，特斯拉基本维持每年一次大版本迭代的频率。

中国能源网 2024-12-31

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

2024年度电视机皇评选揭晓！海信U8N Pro荣获旗舰画质机皇

三星One UI 7.0提升以太网速度，Galaxy S24率先支持2.5Gbps速率

中国科学院宁波大学成功抑制碘离子迁移提升钙钛矿电池稳定性

山东临工取得装载机用制动循环系统专利，解决制动系统缺陷

开发者质疑苹果 iOS 18增强视觉搜索功能：默认启用，泄露用户隐私

王化：红米Turbo 4要做2025年新机的冬季续航之王

国内首个高校“AI禁令”发布

三部门联合发布实施《加快工业领域清洁低碳氢应用实施方案》

服务器设置全攻略：从选择到维护的详细步骤与技巧

Optimus代际更新回顾，看好Gen3发布行情 | 投研报告

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响