Перейти к содержимому

LM Studio

LM Studio — приложение для запуска моделей на своей машине с локальным OpenAI-совместимым сервером. Yttri подключается к нему как к обычному провайдеру.

  1. В LM Studio загрузите модель и на вкладке Developer включите Start Server — по умолчанию она слушает http://localhost:1234.
  2. В Yttri: Настройки → Ассистент → Модели → Добавить провайдера → выберите пресет LM Studio (Base URL и тип API подставятся сами) → «Проверить соединение».
  3. API-ключ не нужен — сервер локальный.

Флаг «Локальный провайдер» выставится автоматически по адресу localhost — от него зависит маскирование персональных данных перед отправкой (см. «Встроенные модели» и «Модели, роутер и приватность»).

Некоторые версии LM Studio отклоняют системное сообщение, если оно не первое в диалоге, и требуют принудительного выбора инструмента при tool calling — Yttri уже обходит оба случая на своей стороне. Если что-то с вызовом инструментов всё же выглядит странно — это скорее особенность конкретной модели или версии LM Studio, чем ошибка Yttri.

  • Убедитесь, что сервер в LM Studio действительно запущен (вкладка Developer, зелёный индикатор) — он не стартует вместе с приложением автоматически.
  • Модель должна быть загружена в память — «Проверить соединение» без загруженной модели не пройдёт.
  • Порт по умолчанию — 1234; если вы меняли его в настройках LM Studio, поправьте Base URL в Yttri вручную.