Conectar sus propios modelos
Añada su propia clave de API o un servidor de inferencia propio (vLLM, Ollama y otros) a la lista de modelos de Keural.
En la aplicación de escritorio, conecte un servidor compatible con OpenAI o con Anthropic en Configuración → Modelos → Gateways. Después, puede elegir los modelos de ese servidor en el grupo Gateway del menú de modelos del cuadro de entrada.
Método de conexión
- Haga clic en Conectar gateway.
- Elija un ajuste predefinido (vLLM, Ollama, OpenAI, Anthropic, etc.) e introduzca un nombre. Si introduce la configuración manualmente, se conecta como compatible con OpenAI.
- Introduzca la Base URL según indique el proveedor del modelo. No añada la ruta del endpoint de la API (API Endpoint).
- Introduzca la clave de API. Deje este campo vacío si el servidor local o de la red interna no requiere autenticación.
- Haga clic en Comprobar conexión para cargar la lista de modelos. Elija el modelo que quiera y haga clic en Añadir.
Dónde se guarda
El lugar de almacenamiento depende de la dirección y no se puede elegir. Una dirección pública https se guarda en la cuenta y puede usarse en otros dispositivos con la misma cuenta. Las direcciones localhost o de la red interna se guardan solo en este ordenador y muestran la etiqueta Guardado solo en este dispositivo.
La clave de API no vuelve a mostrarse después de guardarla.
Facturación
Los cargos por uso de los modelos conectados con su propia clave de API los factura ese proveedor. No se incluyen en su uso de Keural.
Los modelos de un servidor conectado siguen las políticas de ese servidor. Para usarlo en una organización, confirme primero que el servidor cumple la política de seguridad interna.