跳至正文
KeuralDocs
桌面端与设备

连接您自己的模型

将您自己的 API 密钥或内部推理服务器(vLLM、Ollama 等)添加到 Keural 模型列表。

在桌面应用的设置 → 模型 → 网关中连接 OpenAI 兼容或 Anthropic 兼容服务器后,可在输入框模型菜单的网关分组中选择该服务器的模型。

连接方法

  1. 点击连接网关。
  2. 选择预设(vLLM、Ollama、OpenAI、Anthropic 等)并输入名称。选择手动输入时,将以 OpenAI 兼容方式连接。
  3. 按模型提供商的说明输入 Base URL。末尾不要添加 API 端点路径(API Endpoint)。
  4. 输入 API 密钥。对于无需认证的本地或内网服务器,请留空。
  5. 点击检查连接以加载模型列表。选择所需模型,然后点击添加。

保存位置

保存位置根据地址自动决定。公共 https 地址会保存到账户中,同一账户的其他设备也可使用;localhost 和内部网络地址仅保存在此电脑上,并显示 仅此设备保存 标记。

保存后,API 密钥将不再显示。

计费

使用您自己的 API 密钥连接的模型,其费用由该提供商直接收取,不计入 Keural 用量。

已连接服务器中的模型遵循该服务器的政策。若在组织中使用,请先确认该服务器符合贵组织的内部安全政策。

本页目录