데스크톱·내 장비
Spark 장비 연결
사무실의 DGX·RTX 계열 Spark 장비를 팀의 AI 추론 서버로 씁니다.
Spark는 사무실에 두는 GPU 장비입니다. 데스크톱 앱으로 Spark를 연결하고 모델을 설치해 팀 공용 추론 서버로 씁니다. NVIDIA DGX Spark처럼 Linux ARM64 장비는 같은 네트워크의 서버로 연결하고, RTX 계열 Spark PC는 그 PC의 데스크톱 앱에서 로컬 모델로 씁니다.
장비 찾기
설정 → 서버를 열면 같은 네트워크의 Spark를 자동으로 찾습니다. 연결이 끊기면 자동으로 다시 연결합니다.
장비 확인과 모델 설치
연결하면 GPU·메모리·디스크를 확인해 알맞은 모델을 추천합니다. 추론 엔진은 vLLM과 llama.cpp 중에서 고르며, 모델과 엔진은 앱이 설치합니다.
바로 쓰기
Spark에서 실행 중인 모델은 입력창 모델 메뉴의 원격 묶음에 표시됩니다. 모델 상태는 설정 → 모델의 원격 묶음에서 확인합니다.
Spark 드라이브
드라이브 저장 위치로 원격을 고르면 파일이 클라우드 대신 연결한 Spark에 저장되고, 같은 방식으로 질문할 수 있습니다. 대화에 클라우드 모델을 쓰면 질문과 근거 내용이 그 모델로 전송되므로, 자료를 외부로 보내지 않으려면 Spark 모델을 고릅니다.
요구 사항
- Keural 데스크톱 앱 (macOS 또는 Windows), 로그인 상태
- 앱과 같은 네트워크에 있는 Spark 장비
- macOS는 처음 연결할 때 로컬 네트워크 권한 허용