跳到內容
KeuralDocs
桌面與裝置

連接自有模型

將你自己的 API 金鑰,或內部推論伺服器(vLLM、Ollama 等),新增到 Keural 模型清單中。

在桌面 App 的 設定 → 模型 → 閘道 中連接相容 OpenAI 或相容 Anthropic 的伺服器後,即可在輸入框模型選單的 閘道 群組中選擇該伺服器的模型。

連接方法

  1. 點擊 連接閘道。
  2. 選擇預設值(vLLM、Ollama、OpenAI、Anthropic 等)並輸入名稱。若選擇直接輸入,則以相容 OpenAI 的方式連接。
  3. 依供應商的說明輸入 Base URL。結尾不要加上 API 端點(API Endpoint)路徑。
  4. 輸入 API 金鑰。沒有 API 驗證的本機或內部網路伺服器,請留空。
  5. 點擊 檢查連線,載入模型清單。選擇要使用的模型,然後點擊 新增。

儲存位置

儲存位置會依位址自動決定。公開的 https 位址會儲存到帳號中,同一帳號的其他裝置也能使用。localhost 與內部網路位址只會儲存在這台電腦上,並會顯示 僅儲存在此裝置。

API 金鑰儲存後不會再次顯示。

計費

使用你自己 API 金鑰連接的模型,費用由該提供者直接收費,不計入 Keural 用量。

已連接伺服器的模型遵循該伺服器的政策。若要在組織內使用,請先確認該伺服器符合內部安全政策。

本頁內容