当前位置：首页|资讯|大语言模型|OpenAI

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

作者：Second_State发布时间：2023-12-19
大语言模型OpenAI

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。 运行 run-llm.sh bash <(curl -sSfL 'https://code.flows.network/webhook/iwY...【查看原文】

chartGPT

相关资讯

告别OpenAI 一个命令行跨设备运行 Dolphin-2.6-Phi-2

轻量 2MB AI 推理APP 可完全跨平台运行，在自己的 Mac 试试吧！ 想要快速开始，只需在自己的设备上运行一个命令[1]即可与 Dolphin-2.6-Phi-2 交互。 这个命令行工具会自动下载并安装 WasmEdge 运行时、模型文件和用于推理的完全可移植 Wasm 应用。 Dolphin 2.6 Phi-2[2] 由 Eric Hartford 和 Fernando Fernandes 开发，是基于 Phi-2 架构的高级大语言模型。 该模型由 Convai 赞助，在最新的 2.6 版本中进

OpenAI大语言模型

Second_State 2024-01-18

在Mac运行 OpenChat 3.5 完全可移植 仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。 这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型ChatGPT

Second_State 2023-12-28

用 ChatGPT 开发一个能听懂人话的命令行工具

本文将通过一个简单的命令行自然语言翻译程序，来展示如何使用 ChatGPT API，更重要的是让前端的你对 Prompt Engineering 有更深的理解。

ChatGPT提示词

字节前端 2023-04-04

我只用一个命令行就跨设备运行了 Nous-Hermes-2-Mixtral-8x7B-SFT

轻量 2MB AI 推理APP 可完全跨平台运行，在自己的 Mac 试试吧！想要快速开始，只需在自己的设备上运行一个命令[1]即可在本地跑 Nous-Hermes-2 大模型。 这个命令行工具会自动下载并安装 WasmEdge 运行时、模型文件和用于推理的完全可移植 Wasm 应用。Nous Hermes 2 Mixtral 8x7B SFT[2] 是 Nous Research 基于 Mixtral 8x7B MoE 大模型上训练的受监督微调模型。 它接受了超过 1,000,000 个主要由 GPT-4

GPT-4

Second_State 2024-01-23

只需4个命令行，就能在Mac上运行Mistral-7B-Instruct大模型

Mistral-7b-Instruct-v0.1 模型[1] 是 Mistral AI 发布的一款 7B 指令调优 LLM。它是一个真正的开源模型，采用 Apache 2.0 许可证。它的上下文长度为 8,000 个token，并且与 13B llama2 模型的性能相当。它非常适合生成散文、总结文档和编写代码。 在这篇文章中，我们将介绍：如何在你自己的设备上运行 mistral-7b-instruct-v0.1如何为 mistral-7b-instruct-v0.1 创建一个与 OpenAI 兼容的

编程OpenAI

Second_State 2023-11-16

近期资讯

辽宁博芯科申请应用于光电半导体硅片的退火温度控制专利，提高光电半导体硅片退火温度控制的精确度和实时性

金融界2024年12月26日消息，国家知识产权局信息显示，辽宁博芯科半导体材料有限公司申请一项名为“应用于光电半导体硅片的退火温度控制方法”的专利，公开号CN119179354A，申请日期为2024年11月。专利摘要显示，本申请涉及温度控制技术领域，具体涉及一种应用于光电半导体硅片的退火温度控制方法。

金融界 2024-12-26

和而泰申请一种液体温度控制方法专利，提高液体温度控制的准确性

金融界2024年12月26日消息，国家知识产权局信息显示，深圳和而泰智能控制股份有限公司申请一项名为“一种液体温度控制方法、电子设备及存储介质”的专利，公开号CN119179351A，申请日期为2024年8月。

金融界 2024-12-26

广东芬尼克兹申请泳池水温控制专利，用于有效均衡水温分布

金融界2024年12月26日消息，国家知识产权局信息显示，广东芬尼克兹节能设备有限公司申请一项名为“泳池水温控制方法、系统、装置及存储介质”的专利，公开号CN119179352A，申请日期为2024年7月。专利摘要显示，本发明涉及温度控制技术领域，公开了一种泳池水温控制方法、系统、装置及存储介质，用于有效均衡水温分布。

金融界 2024-12-26

耀华（宜宾）玻璃申请浮法玻璃生产线冷却水恒温控制专利，降低环境温度对冷水池冷却水水温影响以提高生产质量

金融界2024年12月26日消息，国家知识产权局信息显示，耀华（宜宾）玻璃有限公司申请一项名为“一种浮法玻璃生产线冷却水的恒温控制方法和系统”的专利，公开号CN119179349A，申请日期为2024年11月。专利摘要显示，本发明公开了一种浮法玻璃生产线冷却水的恒温控制方法和系统，涉及冷却水控制技术领域。

金融界 2024-12-26

高精地基导航授时南京研究院申请一种基于北斗定位的氧气投放控制系统及方法专利，解决现有氧气投放精度不高的问题

金融界2024年12月26日消息，国家知识产权局信息显示，高精地基导航授时南京研究院有限公司申请一项名为“一种基于北斗定位的氧气投放控制系统及方法”的专利，公开号CN119179344A，申请日期为2024年11月。

金融界 2024-12-26

须眉科技取得一种带有放置座的电动剃须刀专利，避免灰尘进入延长使用寿命

金融界2024年12月26日消息，国家知识产权局信息显示，须眉科技（江苏）有限公司取得一项名为“一种带有放置座的电动剃须刀”的专利，授权公告号CN222200639U，申请日期为2024年5月。

金融界 2024-12-26

江苏东成园林机械取得一种用于收纳电动工具的刀套专利，提高用户使用安全性

金融界2024年12月26日消息，国家知识产权局信息显示，江苏东成园林机械有限公司取得一项名为“一种用于收纳电动工具的刀套”的专利，授权公告号CN222200641U，申请日期为2024年4月。

金融界 2024-12-26

宁波奉化吉泰电气申请智能反应器智能温控专利，提高控制精度

金融界2024年12月26日消息，国家知识产权局信息显示，宁波奉化吉泰电气有限公司申请一项名为“智能反应器智能温控系统及控制流程”的专利，公开号CN119179346A，申请日期为2024年11月。

金融界 2024-12-26

陕西孚兰取得打包带生产裁边设备专利，加快打包带生产裁边设备的废料收集的速率

金融界2024年12月26日消息，国家知识产权局信息显示，陕西孚兰包装材料有限公司取得一项名为“一种打包带生产裁边设备”的专利，授权公告号CN222200645U，申请日期为2024年5月。

金融界 2024-12-26

成都莒纳申请电解水槽温度控制管理专利，确保整个过程安全高效运行

金融界2024年12月26日消息，国家知识产权局信息显示，成都莒纳新材料科技有限公司申请一项名为“一种电解水槽的温度控制管理方法、系统、设备及介质”的专利，公开号CN119179348A，申请日期为2024年11月。

金融界 2024-12-26

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1