当前位置：首页|资讯|大语言模型|OpenAI

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

作者：Second_State发布时间：2023-12-19
大语言模型OpenAI

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。 运行 run-llm.sh bash <(curl -sSfL 'https://code.flows.network/webhook/iwY...【查看原文】

chartGPT

相关资讯

告别OpenAI 一个命令行跨设备运行 Dolphin-2.6-Phi-2

轻量 2MB AI 推理APP 可完全跨平台运行，在自己的 Mac 试试吧！ 想要快速开始，只需在自己的设备上运行一个命令[1]即可与 Dolphin-2.6-Phi-2 交互。 这个命令行工具会自动下载并安装 WasmEdge 运行时、模型文件和用于推理的完全可移植 Wasm 应用。 Dolphin 2.6 Phi-2[2] 由 Eric Hartford 和 Fernando Fernandes 开发，是基于 Phi-2 架构的高级大语言模型。 该模型由 Convai 赞助，在最新的 2.6 版本中进

OpenAI大语言模型

Second_State 2024-01-18

在Mac运行 OpenChat 3.5 完全可移植 仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。 这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型ChatGPT

Second_State 2023-12-28

用 ChatGPT 开发一个能听懂人话的命令行工具

本文将通过一个简单的命令行自然语言翻译程序，来展示如何使用 ChatGPT API，更重要的是让前端的你对 Prompt Engineering 有更深的理解。

ChatGPT提示词

字节前端 2023-04-04

我只用一个命令行就跨设备运行了 Nous-Hermes-2-Mixtral-8x7B-SFT

轻量 2MB AI 推理APP 可完全跨平台运行，在自己的 Mac 试试吧！想要快速开始，只需在自己的设备上运行一个命令[1]即可在本地跑 Nous-Hermes-2 大模型。 这个命令行工具会自动下载并安装 WasmEdge 运行时、模型文件和用于推理的完全可移植 Wasm 应用。Nous Hermes 2 Mixtral 8x7B SFT[2] 是 Nous Research 基于 Mixtral 8x7B MoE 大模型上训练的受监督微调模型。 它接受了超过 1,000,000 个主要由 GPT-4

GPT-4

Second_State 2024-01-23

只需4个命令行，就能在Mac上运行Mistral-7B-Instruct大模型

Mistral-7b-Instruct-v0.1 模型[1] 是 Mistral AI 发布的一款 7B 指令调优 LLM。它是一个真正的开源模型，采用 Apache 2.0 许可证。它的上下文长度为 8,000 个token，并且与 13B llama2 模型的性能相当。它非常适合生成散文、总结文档和编写代码。 在这篇文章中，我们将介绍：如何在你自己的设备上运行 mistral-7b-instruct-v0.1如何为 mistral-7b-instruct-v0.1 创建一个与 OpenAI 兼容的

编程OpenAI

Second_State 2023-11-16

近期资讯

小型装修建筑垃圾处理分拣生产线

随着城市化进程的加速，建筑行业蓬勃发展，随之而来的是大量建筑垃圾的产生。这些垃圾若未经妥善处理，将对环境造成严重污染。因此，高效、环保的建筑垃圾处理成为当务之急。在这一背景下，小型装修垃圾分拣设备应运而生，它作为建筑垃圾处理生产线的重要组成部分，发挥着至关重要的作用。 [图片] 一、小型装修垃圾分拣设备的概述 小型装修垃圾分拣设备是一种专门针对建筑装修过程中产生的废弃物进行分类、筛选和初步处理的机械设备。它通过自动化或半自动化的方式，将混合的建筑垃圾按照不同的材质、大小等特征进行有效分离，为后续的资源化利

创合垃圾分选设备 2024-12-25

【水雾环保除尘设备】-山东艾蓝系统-哪家好

【水雾环保除尘设备，现场效果视频】 自主研发设计生产喷雾降尘系统主机、优选国际国内一线品牌配件 智能喷雾降尘系统采用PLC采集粉尘传感器参数，在触摸屏上设置粉尘浓度上下限，粉尘浓度在触摸屏上实时显示，当粉尘浓度超过一定值时自动开启喷雾降尘系统，当粉尘浓度下降到设定值时自动停止喷雾除尘系统。型号：ALDLP-5Z、ALDLP-10Z、ALDLP-15Z。【水雾环保除尘设备，使用场所介绍】 环保行业、大型煤炭堆场、海边堆场、煤炭装运、转运港口粉尘污染、煤炭集运站、露天作业粉尘治理【水雾环保除尘设备，相关地区】

山东艾蓝环保 2024-12-25

ADC/PROTAC Linker | N3-PEG4-NCO | 赛诺邦格

[图片] 一、基本信息英文名：N3-PEG4-NCO外观：通常为粉末状。溶剂：可溶于DMSO等有机溶剂。 二、结构特点N3：表示叠氮基团（-N≡N），具有不稳定性和高度亲电性，可以参与多种化学反应，如重排反应、亲电取代反应、环化反应和氧化反应等。PEG4：代表四个单位的聚乙二醇链（-PEG4-），提供优异的亲水性和生物相容性。聚乙二醇（PEG）是一种常用的高分子材料，广泛应用于生物医学、材料科学等领域。NCO：表示异氰酸酯基团（-NCO），具有活泼的化学性质，可以与多种官能团发生反应，如与

赛诺邦格 2024-12-25

1901年诺贝尔生理学或医学奖：免疫学的奠基与现代医学的黎明

1901年是诺贝尔奖首次颁发的一年，这一划时代的事件标志着科学成就获得了更广泛的社会认可与奖励。诺贝尔奖的设立源于瑞典化学家阿尔弗雷德·诺贝尔的遗愿，他希望通过奖励对人类福祉作出重要贡献的个人或团体，激励更多科学研究与创新。在五个最初设立的奖项中，生理学或医学奖距今（2024年）已经颁发过115次，共有229名获奖者。生理学或医学奖的首个得主是德国医生埃米尔·阿道夫·冯·贝林（Emil Adolf von Behring），"以表彰他在血清疗法方面的工作，特别是针对白喉的应用，据此他为医学科学领域开辟了

它们的clover 2024-12-25

建筑垃圾风选分拣设备：装修垃圾处理生产线的创新与实践

在城市化的快速进程中，建筑垃圾的产生量日益增加，其中装修垃圾作为一种特殊的建筑废弃物，其处理问题尤为突出。装修垃圾不仅包括了废弃的建筑材料，如砖瓦、混凝土、木材和金属等，还夹杂着大量难以分解的有机物质和有害物质。这些垃圾如果得不到妥善处理，将对环境造成严重污染，同时也浪费了大量的可再利用资源。因此，开发高效的装修垃圾处理技术，实现垃圾的资源化利用，已成为当前环保领域的重要课题。 [图片] 建筑垃圾风选分拣设备作为装修垃圾处理生产线的核心组成部分，其作用不可小觑。这种设备采用先进的物理分选技术，通过风力将轻

创合垃圾分选设备 2024-12-24

商用车触控显示屏有何亮点？ 一谷电子

商用车触控屏相比普通屏幕的优点主要包括以下几点： [图片] 操作便捷性：7寸触控显示屏通过直接触摸操作，简化了人机交互过程，无需物理按键，提高了驾驶者操作的直观性和效率。 空间优化：这套带触控的盲区监控系统可以减少或消除传统按钮和旋钮，为驾驶舱节省空间，使得内饰更加简洁、现代化。 灵活性和多功能性：触控屏能够根据需要显示不同的控制界面，实现多功能集成，比如导航、录像回放、实时盲区监测等，一屏多用。 可定制化：从摄像头到触摸显示屏，从硬件芯片到软件UI层面，再到产品外观，支持高度定制的用户界面，适应不同用户

广州泰谷汽车电子公司 2024-12-25

极海基于G32A1445的车载空调控制器应用方案

车载空调控制器作为汽车舒适性系统的核心组件，能够精准调节车内温度、风速和风向，同时集成了空气净化、湿度控制等功能，以确保驾乘人员享有舒适的车内环境。随着汽车制造商和消费者愈发关注驾乘体验，车载空调控制器的功能和智能化程度已成为衡量汽车品质的重要指标之一。 在汽车技术不断进步与环保要求的推动下，高效且智能的车载空调控制器市场需求日益增长。整机系统主要由MCU、电源模块、显示面板、多种传感器模块、执行单元、电机和高低边驱动等模块组成，而MCU作为整个控制器的核心器件，对于保障车载空调控制器的高抗干扰性和可靠性

Geehy极海半导体 2024-12-25

统一钛合能7系ONE独特的全合成技术和低碳环保理念

在机械运动中，润滑油是不可或缺的辅助材料。它不仅能够减少摩擦和磨损，还能提高机械设备的工作效率，延长使用寿命。润滑油的选择对于确保机械系统的正常运行至关重要。统一钛合能7系ONE全合成低碳润滑油作为一款创新产品，以其独特的性能和环保理念，在众多润滑油品牌中脱颖而出，成为全球格斗竞技ONE赛事的指定推荐产品。 统一钛合能7系ONE全合成低碳润滑油凭借先进的全合成技术，为发动机提供卓越的保护。该款润滑油采用了先进的全合成基础油，具备出色的高温稳定性和低温流动性，能够在各种极端条件下保持优良的润滑性能。此外，统

科技新盘点 2024-12-25

建筑装修垃圾碟盘分拣设备-高效环保的建筑垃圾分选生产线

随着城市化的加速发展，建筑行业蓬勃发展的同时，也带来了大量的建筑垃圾。这些废弃物如果处理不当，将对环境造成极大的负担。因此，建筑垃圾的资源化利用和环保处理成为了当下亟需解决的问题。在这一背景下，建筑装修垃圾碟盘分拣设备的出现，为建筑垃圾的处理提供了一个高效、环保的解决方案。 [图片] 建筑装修垃圾碟盘分拣设备是一种专门用于分选建筑垃圾中的有用物质的设备。它通过物理或机械的方式，将建筑垃圾中的金属、塑料、木材、砖石等材料进行有效分离，以便进行后续的资源回收和再利用。这种设备的使用大大提高了建筑垃圾的回收效率

创合垃圾分选设备 2024-12-25

多肽合成定位肽：LyP-1（454487-07-1）

LyP-1 是一种环状 9 个氨基酸的肿瘤的定位肽，在多种肿瘤相关细胞中，选择性结合其 p32 receptor 蛋白。 [图片]   英文名称：LyP-1 CAS号：454487-07-1 分子式：C36H65N17O12S2 分子量：992.14 纯度：≥95% or 98% 货期：现货 性状：白色固体粉末 储存条件：-20℃ 序列缩写：CGNKRTRGC (Disulfide bridge: Cys1-Cys9) LyP-1，全称为环肽LyP-1，是一种具有独特结构和功能的环状九肽，它在肿瘤诊断与治

正肽生化 2024-12-25

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1