Connecter vos propres modèles
Ajoutez votre propre clé API ou un serveur d'inférence interne (vLLM, Ollama et autres) à la liste des modèles de Keural.
Dans l'application de bureau, connectez un serveur compatible OpenAI ou compatible Anthropic depuis Paramètres → Modèles → Passerelles. Vous pouvez ensuite sélectionner les modèles de ce serveur dans le groupe Passerelles du menu des modèles de la zone de saisie.
Méthode de connexion
- Cliquez sur Connecter une passerelle.
- Choisissez un préréglage (vLLM, Ollama, OpenAI, Anthropic, etc.) et saisissez un nom. Si vous choisissez la saisie manuelle, la connexion se fait comme pour un serveur compatible OpenAI.
- Saisissez la Base URL indiquée par le fournisseur du modèle. N'ajoutez pas de chemin de point de terminaison d'API (API Endpoint) à la fin.
- Saisissez la Clé API. Pour un serveur local ou du réseau interne sans authentification, laissez ce champ vide.
- Cliquez sur Vérifier la connexion pour charger la liste des modèles. Choisissez le modèle à utiliser, puis cliquez sur Ajouter.
Lieu d'enregistrement
Le lieu d'enregistrement dépend de l'adresse. Une adresse https publique est enregistrée sur votre compte et reste utilisable sur les autres appareils connectés au même compte. Une adresse localhost ou une adresse du réseau interne n'est enregistrée que sur cet ordinateur, avec la mention Enregistré sur cet appareil uniquement.
La clé API n'est plus affichée après l'enregistrement.
Facturation
Les frais des modèles connectés avec votre propre clé API sont facturés par le fournisseur concerné et ne sont pas inclus dans votre utilisation Keural.
Les modèles d'un serveur connecté suivent les politiques de ce serveur. Pour une utilisation au sein d'une organisation, vérifiez d'abord que le serveur respecte votre politique de sécurité interne.