Sambungkan model anda sendiri
Tambahkan kunci API anda sendiri atau pelayan inferens dalaman (vLLM, Ollama, dan lain-lain) ke senarai model Keural.
Dalam aplikasi desktop, buka Tetapan → Model → Gateway untuk menyambungkan pelayan serasi OpenAI atau serasi Anthropic. Model pelayan tersebut kemudian boleh dipilih dari kumpulan Gateway dalam menu model kotak input.
Cara menyambung
- Klik Sambung gateway.
- Pilih pratetap (vLLM, Ollama, OpenAI, Anthropic, dan lain-lain) dan masukkan nama. Jika memilih entri manual, sambungan dibuat sebagai serasi OpenAI.
- Masukkan Base URL mengikut panduan pembekal model. Jangan tambah laluan titik akhir API (API Endpoint) di belakangnya.
- Masukkan Kunci API. Pelayan tempatan atau dalam rangkaian dalaman yang tidak memerlukan pengesahan, biarkan kosong.
- Klik Semak sambungan untuk memuatkan senarai model. Pilih model dan klik Tambah.
Tempat ia disimpan
Tempat simpanan ditentukan oleh alamat. Alamat https awam disimpan pada akaun anda dan boleh digunakan pada peranti lain yang log masuk dengan akaun yang sama. Alamat localhost atau rangkaian dalaman hanya disimpan pada komputer ini dan dipaparkan dengan label Disimpan pada peranti ini sahaja.
Kunci API tidak dipaparkan semula selepas disimpan.
Bil
Yuran model yang disambungkan dengan kunci API sendiri dicaj oleh pembekal tersebut dan tidak termasuk dalam penggunaan Keural.
Model pada pelayan yang disambungkan mengikut dasar pelayan tersebut. Untuk kegunaan organisasi, sahkan dahulu bahawa pelayan itu memenuhi dasar keselamatan dalaman.