உங்கள் சொந்த மாடல்களை இணைக்கவும்
உங்கள் சொந்த API விசையை அல்லது நிறுவனத்தின் உள் inference சேவையகத்தை (vLLM, Ollama மற்றும் பிறவை) Keural மாடல் பட்டியலில் சேர்க்கவும்.
டெஸ்க்டாப் ஆப்பில் அமைப்புகள் → மாடல்கள் → கேட்வே இல் OpenAI-compatible அல்லது Anthropic-compatible சேவையகத்தை இணைக்கலாம். அதன் பின், உள்ளீட்டுப் பெட்டியின் மாடல் மெனுவில் கேட்வே குழுவிலிருந்து அந்தச் சேவையகத்தின் மாடல்களைத் தேர்ந்தெடுக்கலாம்.
இணைப்பு முறை
- கேட்வேயை இணை ஐக் கிளிக் செய்யவும்.
- முன்னமைவை (vLLM, Ollama, OpenAI, Anthropic மற்றும் பிறவை) தேர்ந்தெடுத்து பெயரை உள்ளிடவும். கைமுறையாக உள்ளிடத் தேர்ந்தெடுத்தால், OpenAI-compatible ஆக இணைக்கப்படும்.
- Base URL ஐ வழங்குநர் தரும் வழிகாட்டிப்படி உள்ளிடவும். பின்னால் API எண்ட்பாயிண்ட் பாதையைச் சேர்க்க வேண்டாம்.
- API விசை ஐ உள்ளிடவும். அங்கீகாரம் இல்லாத உள்ளூர் அல்லது உள் வலையமைப்பு சேவையகம் என்றால் காலியாக விடவும்.
- Check connection ஐக் கிளிக் செய்தால் மாடல் பட்டியல் ஏற்றப்படும். விரும்பும் மாடலைத் தேர்ந்தெடுத்து சேர் ஐக் கிளிக் செய்யவும்.
எங்கே சேமிக்கப்படுகிறது
சேமிக்கும் இடம் முகவரியைப் பொறுத்து தானாக முடிவாகும். பொதுவான https முகவரிகள் கணக்கில் சேமிக்கப்பட்டு, அதே கணக்கில் உள்ள பிற சாதனங்களிலும் பயன்படுத்தப்படும். localhost அல்லது உள் நெட்வொர்க் முகவரிகள் இந்தக் கணினியில் மட்டுமே சேமிக்கப்படும், இந்தச் சாதனத்தில் மட்டும் சேமிக்கப்பட்டது என்ற குறி காட்டப்படும்.
API விசை சேமித்த பின் மீண்டும் காட்டப்படாது.
கட்டணம்
உங்கள் API விசையுடன் இணைத்த மாடலின் பயன்பாட்டுக் கட்டணத்தை அந்த வழங்குநரே வசூலிக்கும்; அது Keural பயன்பாட்டில் சேர்க்கப்படாது.
இணைக்கப்பட்ட சேவையகத்தின் மாடல்கள் அந்தச் சேவையகத்தின் கொள்கைகளைப் பின்பற்றும். நிறுவனத்தில் பயன்படுத்த வேண்டுமென்றால், முதலில் அந்தச் சேவையகம் உங்கள் உள் பாதுகாப்புக் கொள்கைக்கு ஏற்றதா என்பதை உறுதிப்படுத்தவும்.