当前位置:首页|资讯|AI聊天机器人|人工智能|生成式AI|大语言模型

硅基智能免费API+chatbox!打造本地AI聊天机器人,so easy

作者:wwwzhouhui发布时间:2024-08-29

1.什么是硅基智能

硅基智能是一家专注于人工智能基础设施和生成式AI技术的初创公司。硅基智能是致力于构建可扩展、标准化且高性能的生成式AI计算基础设施平台,提供包括SiliconCloud(模型云服务平台)、SiliconLLM(大型语言模型推理引擎)和OneDiff(高性能文本到图像/视频加速库)在内的多种软件解决方案。

公司的网站https://siliconflow.cn

目前公司有三个产品siliconCloud、siliconLLm、OneDiff

该公司提供市面上主流模型,而且最关键是免费。

 免费的模型涵盖文本生成、向量&重排序模型、图片生成、多模态大模型 等各种模型。提供一站式模型服务,这个比较爽。

目前新户注册送14块钱,大家可以通过我提供分析网址连接来感受这个免费的api模型服务。https://cloud.siliconflow.cn/i/e0f6GCrN

2 硅基智能功能介绍

注册登录后我们就可以进入体验中心

 我们可以在右边的模型下拉列表中选择免费或则收费的模型

   文本类模型还是蛮丰富的。

   文生图和图生图 也支持目前市面主流图像生成模型(FLUX.1-dev 、FLUX.1-schnell、stable-diffusion-3-medium、stable-diffusion-xl-base-1.0、stable-diffusion-2-1、sd-turbo、sdxl-turbo、SDXL-Lightning)

 文生视频模型目前支持,智谱清言的CogVideoX-2B

 其他使用方法这里就不过多介绍了。

3  chatbox

Chatbox 是一个开源的 OpenAI API 跨平台桌面客户端,主要用于调试和管理 Prompt,也可以用作 ChatGPT Plus 的替代品。它支持 Windows、macOS 和 Linux 系统,能够帮助用户处理所有底层调用,并在本地保存所有的聊天记录和 prompt,防止在线服务的数据丢失。

Chatbox 的主要功能包括:

  1. 跨平台支持:Chatbox 可以在 Windows、macOS 和 Linux 上运行,适合不同操作系统用户的需求。

  2. Prompt 调试与管理:Chatbox 提供了一个强大的 Prompt 调试和管理工具,用户可以轻松地创建和管理各种 Prompt。

  3. 本地数据存储:所有聊天记录和 prompt 都会保存在本地,确保数据的安全性和隐私性。

  4. 多语言支持:Chatbox 支持多种语言版本,包括中文,适合不同语言环境的用户。

  5. 多功能助理:Chatbox 可以化身各种不同用途的多功能助理,帮助用户提高生产力和工作效率。

这个项目早期在github上开源,目前也是我用的最多的客户端 AI 客户端套壳软件。github 项目地址

https://github.com/Bin-Huang/chatbox, 目前这个项目后期版本没有开源。不过可以到他官方网站上下载最新 软件下载包

https://chatboxai.app/zh

 下载最新的版本。目前最新版本是1.4.0

4  chatbox 模式设置

 下载好的软件包安装即可,这个软件的安装非常简单,这里就不详细展开了。下面重点介绍一下项目的配置

 打开chatbox 软件,点击左下角设置按钮,弹出设置对话框

目前该chatbox 支持不少国内外llm(大语言模型)厂商,比如:openai 、微软Azure openai 、claude、 Google gemini、ollama 、Groq、chatGLM  此外也支持兼容openai 自定义第三方提供商,这样扩展性就更强了。

 下面我们就以硅基智能的配置给大家讲解。

  我们在硅基智能 网站上申请api key

 

在chatbox 设置模型下拉列表中选择“添加自定义提供方”

   名称:随便填写,我这里填写硅基智能

   api 域名:https://api.siliconflow.cn/

   api 路径:/v1/chat/completions

   api 秘钥:填写硅基智能提供的api 秘钥

   模型:internlm/internlm2_5-7b-chat

   这个模型大家可以根据自己的需要到硅基智能提供的模型列表中查找。我这里就以书生浦语的internlm2_5-7b-chat 为例填写。

 

      设置完成后如下图,其他的参数设置大家根据自己需要填写。

       

点击保存按钮完成模型设置。

5 chatbox 测试

点击新建聊天对话窗口,输入聊天对话信息,速度非常快。

 

6 总结

我们通过chatbox 和硅基智能提供的免费的API 这样非常方便实现PC电脑上的 AI聊天客户端工具。通过这个聊天工具帮我我们写代码、写文档、问问题 提高我们的工作效率还是非常方便了。今天的分享就到这里我们下个文章见。



Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1