Conecte seus próprios modelos
Adicione sua própria chave de API ou um servidor de inferência interno (vLLM, Ollama e outros) à lista de modelos do Keural.
No app de desktop, em Configurações → Modelos → Gateways, conecte um servidor compatível com OpenAI ou com Anthropic. Depois, selecione os modelos desse servidor no grupo Gateway do menu de modelos da caixa de entrada.
Método de conexão
- Clique em Conectar gateway.
- Escolha um preset (vLLM, Ollama, OpenAI, Anthropic etc.) e informe um nome. Se escolher a entrada manual, a conexão será feita como compatível com OpenAI.
- Informe a Base URL conforme indicado pelo provedor do modelo. Não acrescente o caminho do endpoint da API (API Endpoint).
- Informe a Chave de API. Servidores locais ou da rede interna sem autenticação devem ser deixados em branco.
- Clique em Verificar conexão para carregar a lista de modelos. Escolha o modelo que deseja usar e clique em Adicionar.
Onde é salvo
O local de armazenamento depende do endereço. Endereços https públicos são salvos na sua conta e podem ser usados em outros dispositivos da mesma conta. Endereços localhost ou da rede interna são salvos somente neste computador e exibem Salvo somente neste dispositivo.
A chave de API não é exibida novamente depois que você a salva.
Cobrança
A cobrança do uso de modelos conectados com a sua chave de API é feita diretamente pelo provedor e não está incluída no seu uso do Keural.
Os modelos de um servidor conectado seguem as políticas desse servidor. Para uso em uma organização, confirme antes se o servidor atende à política de segurança interna.