เชื่อมต่อโมเดลของคุณเอง
เพิ่ม API key ของคุณเองหรือเซิร์ฟเวอร์อนุมานภายในองค์กร (vLLM, Ollama และอื่น ๆ) ลงในรายการโมเดลของ Keural
ในแอปเดสก์ท็อป ที่ การตั้งค่า → โมเดล → เกตเวย์ คุณสามารถเชื่อมต่อเซิร์ฟเวอร์ที่รองรับ OpenAI หรือ Anthropic ได้ จากนั้นเลือกโมเดลของเซิร์ฟเวอร์นั้นได้จากกลุ่ม เกตเวย์ ในเมนูโมเดลของช่องป้อนข้อความ
วิธีเชื่อมต่อ
- คลิก เชื่อมต่อเกตเวย์
- เลือกค่าที่ตั้งไว้ล่วงหน้า (vLLM, Ollama, OpenAI, Anthropic ฯลฯ) และกรอกชื่อ หากเลือกกรอกเอง ระบบจะเชื่อมต่อในฐานะเซิร์ฟเวอร์ที่รองรับ OpenAI
- ป้อน Base URL ตามที่ผู้ให้บริการกำหนด ไม่ต้องต่อท้ายเส้นทาง API endpoint (API Endpoint)
- ป้อน API key สำหรับเซิร์ฟเวอร์ที่ไม่มีการยืนยันตัวตน (เช่น เซิร์ฟเวอร์ในเครื่องหรือภายในเครือข่าย) ให้เว้นว่างไว้
- คลิก ตรวจสอบการเชื่อมต่อ เพื่อโหลดรายการโมเดล เลือกโมเดลที่ต้องการแล้วคลิก เพิ่ม
ที่บันทึก
ตำแหน่งที่บันทึกจะกำหนดตามที่อยู่ ที่อยู่ https สาธารณะจะถูกบันทึกในบัญชีและใช้ได้ในอุปกรณ์อื่นที่เข้าสู่ระบบด้วยบัญชีเดียวกัน ส่วนที่อยู่ localhost หรือเครือข่ายภายในจะบันทึกไว้บนคอมพิวเตอร์เครื่องนี้เท่านั้น และแสดงป้าย บันทึกไว้ในอุปกรณ์นี้เท่านั้น
API key จะไม่แสดงอีกหลังจากบันทึกแล้ว
การเรียกเก็บเงิน
ค่าใช้งานของโมเดลที่เชื่อมต่อด้วย API key ของคุณเองจะถูกเรียกเก็บโดยผู้ให้บริการนั้น และไม่รวมอยู่ในการใช้งาน Keural
โมเดลบนเซิร์ฟเวอร์ที่เชื่อมต่อจะเป็นไปตามนโยบายของเซิร์ฟเวอร์นั้น หากต้องการใช้งานในองค์กร ให้ตรวจสอบก่อนว่าเซิร์ฟเวอร์ตรงตามนโยบายความปลอดภัยภายในหรือไม่