Перейти к содержимому

Ollama

Ollama — простой способ запускать модели локально одной командой. Yttri поддерживает её отдельно от общего OpenAI-совместимого адаптера: список моделей можно тянуть напрямую из собственного API Ollama, а не только из стандартного OpenAI-эндпоинта.

  1. Установите Ollama и загрузите модель: ollama pull llama3.1 (или любую другую — список на ollama.com/library).
  2. Ollama сама поднимает локальный сервер на http://localhost:11434.
  3. В Yttri: Настройки → Ассистент → Модели → Добавить провайдера → пресет Ollama → «Проверить соединение».

API-ключ не нужен, флаг «Локальный провайдер» выставится автоматически.

  • Убедитесь, что Ollama запущена: ollama serve (обычно стартует сама после установки) или ollama list, чтобы увидеть загруженные модели.
  • Если список моделей в Yttri пустой — проверьте, что хотя бы одна модель загружена (ollama pull ...): пустая библиотека Ollama даст пустой список.