ILLA Cloud 是一个面向开发者的开源低代码开发平台,平台专注于帮助开发者快速建立企业内部应用,为开发者节约数据调用与页面设计的时间。平台具有面向开发者、数据整合、协同开发、灵活部署等功能与特点,通过少量代码输入以及拖拉拽等形式搭建此类定制化系统,降低开发者、工程师的研发成本。
今天,我们正式与 ILLA Cloud 共同宣布这个新的合作: ILLA Cloud 已经正式支持集成 Hugging Face Hub 上的 AI 模型库和其他相关功能啦!
我们希望通过此次合作共同推进 AIGC / Generative AI 在生产力工具领域的实践和落地,帮助更多团队通过 AI 提升工作效率,以节省更多的时间和精力去应对更具有挑战的工作。从今天开始,你就可以在 ILLA Cloud 中体验 AI 啦!
在 Hugging Face 中,有超过 13 万个机器学习模型可以通过公开的 API 访问,你可以免费使用、测试这些 API。此外,如果你需要用于生产场景,可以使用 Hugging Face 提供的解决方案 Endpoints,部署并使用 Inference Endpoints 访问。
ILLA Cloud 提供了数十种常用的前端组件,支持根据实际需求快速搭建不同的前端界面。同时,ILLA Cloud 也提供了连接到 Hugging Face 的连接方式,可以快速连接到 Hugging Face API,发起请求并拿到返回数据。将 API 和前端组件连接,即可实现用户通过前端填入内容并提交给 API,API 返回生成内容并展示到前端的需求。
我们先来基于我们期望的使用场景搭建前端界面。
例如,如果你的产品是输入文字、输出生成图,那你可以使用输入组件和图片组件;如果你的产品是输入文字、输出生成也是文字,那你可以使用输入组件或文本组件。
下图是一个基于文本内容做问答的应用界面:
点击 Action 列表的「+ 新建」并选择 Hugging Face Inference API:
通过完成下述表单,配置 Hugging Face 资源:
名称: 由你自定义的该资源在 ILLA Cloud 中显示的名称;
Token: 注册并登录 Hugging Face,点击右上角头像,通过 Profile Settings 下的 Access Tokens 页面新建并获取 Token 填入: https://hf.co/settings/tokens
接下来我们配置 Action。首先是确认 Hugging Face 中模型的连接信息,你需要前往 Hugging Face Hub 页面,按需选择模型: https://hf.co/models
本文我们以 luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,进入模型的详情页,点击右上方 Deploy,并选择 Inference API:
https://hf.co/luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
这里在 inputs
参数后面的内容,就是你需要在 ILLA Cloud 中配置的参数内容:
接下来回到 ILLA Cloud 的 Action 配置,需要填入 Model ID 和 Parameter。对于上图的 Model 输入是多个键值对的场景,我们提供了键值对输入和 JSON 输入两种方式,如下图:
此外,ILLA Cloud 还支持输入文本和二进制文件,能够满足 Hugging Face 中现存模型的需求。
将用户前端输入传给 API 的需求: 使用 {{
获取组件里输入的数据,如 input2
组件用于输入 question
、input1
组件用于输入 context
,只需要在 Action 中这两个参数值的位置,填入相关信息即可。下面是使用 JSON 的示例代码:
接下来,我们要在前端组件中展示 Action 的输出数据。
我们需要确认不同模型的输出放在哪个字段,仍以 luhua/chinese_pretrain_mrc_roberta_wwm_ext_large
模型为例,运行结果如下:
因此这里我们可以用 {{ textQuestion.data[0].answer }}
来获取答案 (其中,textQuestion
是 Action 的名称),将 {{ textQuestion.data[0].answer }}
填入用于展示结果的组件的属性配置即可:
以上就是使用 ILLA Cloud 集成 Hugging Face 上的模型快速构建一个智能问答机器人的应用界面。在公司内部使用的场景下,还可以通过类似的模型解决很多具体场景的问题,比如内部资料通过模型训练之后的问答客服,随着不同的内容输入,也可以应用在更多场景。另外,Hungging Face 上还有很多有趣的模型,通过 ILLA Cloud 的调用可以快速地实现一些有趣的功能,比如在极短的时间构建类似 Lite 版本的 ChatGPT 或者图像生成内容的应用等。
如果你做了哪些有趣的、帮助通过 AI 提升团队效率的应用,欢迎你通过留言的方式告诉我们,我们已经迫不及待地看到你使用 ILLA Cloud 和 Hugging Face 构建的应用啦!
即刻体验 ILLA Cloud: https://www.illacloud.com/