Перейти к содержанию
KeuralDocs
Настольное приложение и устройства

Локальные модели и офлайн-режим

Общение без интернета с моделями на этом компьютере или офисном устройстве.

В настольное приложение встроена среда выполнения локальных моделей: сервер инференса на основе llama.cpp и среда Python. Отдельную программу устанавливать не нужно.

Загрузка локальной модели

В разделе Настройки → Модели загрузите локальную модель и запустите её. Запущенные локальные модели отображаются в меню моделей поля ввода в группе Локально (значок Это устройство). Содержимое диалогов с локальной моделью не передаётся за пределы этого компьютера.

Офлайн-режим

Настольное приложение показывает офлайн-режим, если выполняется хотя бы одно из условий:

  • На этом компьютере установлена локальная модель
  • Подключено устройство Spark (в том числе до запуска модели)

В офлайн-режиме диалоги обрабатывают локальная модель или Spark. Функции, которым требуется интернет (веб-поиск, облачное и удалённое выполнение кода, облачный голос), заблокированы. Работа с папками и расписания выполняются на этом компьютере как обычно.

Без входа можно общаться с локальными моделями, но список диалогов и настройки аккаунта доступны только после входа. Войдите заранее, когда есть подключение к интернету.

Локальный голос

Чтобы диктовку и чтение вслух выполнял этот компьютер, установите On-Device Voice Pack в разделе Настройки → Плагины и переключите голосовой движок на Локально. См. Голос.

Поддерживаемые платформы

Локальные модели и офлайн-режим доступны только в настольном приложении.

На этой странице