Skip to main content

​
接入 Hugging Face 上的开源模型

LangChat Pro 支持 Text-Generation 和 Embeddings，以下是与之对应的 Hugging Face 模型类型： 具体步骤如下：
  1. 你需要有 Hugging Face 账号(注册地址)。
  2. 设置 Hugging Face 的 API key(获取地址)。
  3. 进入 Hugging Face 模型列表页，选择对应的模型类型。
LangChat Pro 支持用两种方式接入 Hugging Face 上的模型：
  1. Hosted Inference API。这种方式是用的 Hugging Face 官方部署的模型。不需要付费。但缺点是，只有少量模型支持这种方式。
  2. Inference Endpoint。这种方式是用 Hugging Face 接入的 AWS 等资源来部署模型，需要付费。

​
接入 Hosted Inference API 的模型

​
1 选择模型

模型详情页右侧有包含 Hosted inference API 的 区域才支持 Hosted inference API 。如下图所： 在模型详情页，可以获得模型的名称。