Ollama vs LM Studio: что выбрать для локальных LLM
Введение: два лидера локальных LLM
Вы решили запустить LLM на своём компьютере. Гуглите — и первые два результата: Ollama и LM Studio. Оба инструмента позволяют запустить локальную модель, оба бесплатные, оба поддерживают GPU. Но между ними — принципиально разные философии.
Ollama — это CLI-инструмент. Вы управляете моделями через терминал, строите автоматизацию, разворачиваете серверы.
LM Studio — это GUI-приложение. Вы управляете моделями мышкой, настраиваете параметры слайдерами, видите всё визуально.
В этой статье — детальное сравнение двух инструментов по каждому аспекту: от установки до production, с конкретными рекомендациями для разных сценариев.
Философия: CLI vs GUI
Ollama — CLI-first
# Установка
curl -fsSL https://ollama.com/install.sh | sh
# Запуск модели
ollama run llama3.2
# Всё через командную строку
ollama pull qwen2.5
ollama list
ollama create my-model -f Modelfile
Ollama — это сервер, который работает в фоне. Вы его не видите. Он просто есть. Модель загружена, API доступен, всё работает.
LM Studio — GUI-first
LM Studio — это приложение, которое вы открываете. Вы видите интерфейс, настройки, историю чата. Всё управляется мышкой.
Ключевое отличие: Ollama — это инфраструктура. LM Studio — это приложение.
Установка и первый запуск
Ollama
# macOS
brew install ollama
# Linux
curl -fsSL https://ollama.com/install.sh | sh
# Windows
# Скачайте установщик с ollama.com
Время до первого чата: 30 секунд.
LM Studio
# macOS
brew install --cask lmstudio
# Windows
# Скачайте установщик с lmstudio.ai
# Linux
wget https://download.lmstudio.ai/releases/linux/lmstudio.AppImage
chmod +x lmstudio.AppImage
./lmstudio.AppImage
Время до первого чата: 1 минута (нужно открыть приложение, найти модель, скачать).
Сравнение
| Критерий | Ollama | LM Studio |
|---|---|---|
| Установка | Одна команда | Скачать .dmg/.exe |
| Настройка | Авто | Ручная (слайдеры) |
| Время до чата | 30 сек | 1-2 мин |
| Знания | Базовый CLI | Ноль (мышка) |
| Размер установки | ~150 MB | ~200 MB |
Работа с моделями
Скачивание моделей
Ollama:
ollama pull llama3.2
ollama pull qwen2.5:7b-instruct-q4_K_M
Модели скачиваются в ~/.ollama/models. Каталог — 50+ популярных моделей.
LM Studio:
- Открываете вкладку "Search"
- Вводите название модели
- Выбираете квантование
- Нажимаете "Download"
Модели скачиваются в ~/.cache/lm-studio/models (macOS) или C:\Users\...\AppData\Local\lm-studio (Windows).
Управление моделями
| Действие | Ollama | LM Studio |
|---|---|---|
| Список моделей | ollama list |
Вкладка "My Models" |
| Удалить модель | ollama rm <name> |
Кнопка "Delete" |
| Копировать модель | ollama cp <src> <dst> |
Нет (ручное копирование файлов) |
| Переименовать | Нет (копируете с новым именем) | Нет |
| Импорт GGUF | ollama create + Modelfile |
Перетащить файл в папку |
| Экспорт модели | ollama save <name> |
Нет |
Победа Ollama: управление моделями через CLI проще для автоматизации.
Победа LM Studio: визуальный каталог с рейтингами и фильтрами удобнее для новичков.
Создание кастомных моделей
Ollama (Modelfile):
FROM llama3.2
SYSTEM """Ты — помощник разработчика. Отвечай кратко, с примерами кода.
Если не знаешь ответа — скажи об этом. Не выдумывай API."""
PARAMETER temperature 0.2
PARAMETER num_ctx 8192
PARAMETER stop "### USER:"
PARAMETER stop "### ASSISTANT:"
ollama create my-assistant -f Modelfile
ollama run my-assistant
LM Studio: Нет встроенного механизма создания кастомных моделей. Вы можете:
- Изменить системный промпт в настройках чата
- Загрузить свой GGUF-файл
- Настроить параметры генерации через слайдеры
Победа Ollama: Modelfile — мощный механизм для создания специализированных моделей.
API: OpenAI-совместимость
Ollama API
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "llama3.2",
"messages": [
{"role": "user", "content": "Привет!"}
],
"temperature": 0.7
}'
Порт: 11434
Путь: /v1/chat/completions
Формат: OpenAI-совместимый
LM Studio API
curl http://localhost:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "local-model",
"messages": [
{"role": "user", "content": "Привет!"}
],
"temperature": 0.7
}'
Порт: 1234
Путь: /v1/chat/completions
Формат: OpenAI-совместимый
Сравнение API
| Функция | Ollama | LM Studio |
|---|---|---|
| OpenAI-совместимость | Да | Да |
| Chat Completions | Да | Да |
| Embeddings | Да | Да |
| Streaming | Да | Да |
| Fine-tuning API | Нет | Нет |
| Модерация | Нет | Нет |
| Rate limiting | Нет | Нет |
| CORS | Нет | Да (настраивается) |
| API Key | Нет | Да (опционально) |
Победа LM Studio: поддержка CORS и опционального API key — полезны для браузерных приложений.
Победа Ollama: стабильный API без GUI-зависимостей.
Настройки и конфигурация
Ollama
# Переменные окружения
OLLAMA_HOST=0.0.0.0:11434
OLLAMA_MODELS=/mnt/big/models
OLLAMA_KEEP_ALIVE=24h
OLLAMA_NUM_PARALLEL=4
OLLAMA_MAX_LOADED_MODELS=3
# Modelfile для тонкой настройки
PARAMETER num_ctx 16384
PARAMETER num_gpu_layers 35
PARAMETER num_batch 512
PARAMETER num_thread 8
PARAMETER flash_attention
LM Studio
GPU Layers: -1 (auto) / 0 / 1-40
Thread Count: auto / 1-16
Context Length: 2048-32768
Flash Attention: включено/выключено
Сравнение настроек
| Настройка | Ollama | LM Studio |
|---|---|---|
| GPU Layers | Через Modelfile | Слайдер в GUI |
| Thread Count | Переменная окружения | Слайдер в GUI |
| Context Length | Modelfile / API | Слайдер в GUI |
| Temperature | Modelfile / API | Слайдер в GUI |
| Keep-Alive | Переменная окружения | Нет (всегда в памяти) |
| Параллельные запросы | OLLAMA_NUM_PARALLEL |
Нет |
| Flash Attention | Modelfile | Чекбокс в GUI |
Производительность
Бенчмарк: MacBook Pro M2 Max, 64GB RAM
| Модель | Ollama (tok/s) | LM Studio (tok/s) |
|---|---|---|
| llama3.2 3B | 95 | 88 |
| llama3.1 8B | 45 | 42 |
| qwen2.5 7B | 52 | 48 |
| nemotron 70B (Q4) | 12 | 10 |
Разница в 5-15% в пользу Ollama. Причина: LM Studio тратит ресурсы на GUI и рендеринг интерфейса.
Бенчмарк: NVIDIA RTX 4090, 24GB VRAM
| Модель | Ollama (tok/s) | LM Studio (tok/s) |
|---|---|---|
| llama3.2 3B | 120 | 115 |
| llama3.1 8B | 65 | 60 |
| qwen2.5 7B | 72 | 68 |
| nemotron 70B (Q4) | 18 | 16 |
На NVIDIA GPU разница ещё меньше — 3-10%.
Бенчмарк: CPU-only (Intel i7-12700K, 32GB RAM)
| Модель | Ollama (tok/s) | LM Studio (tok/s) |
|---|---|---|
| llama3.2 3B | 25 | 22 |
| llama3.1 8B | 12 | 10 |
| qwen2.5 7B | 14 | 12 |
На CPU разница больше — 10-20%. LM Studio тратит CPU-ресурсы на GUI.
Вывод: Ollama быстрее на 5-20%. Разница заметна только на CPU и слабых GPU.
Интеграции и экосистема
Ollama
| Инструмент | Описание |
|---|---|
| Open WebUI | Веб-интерфейс типа ChatGPT |
| Continue.dev | AI-ассистент в VS Code |
| Cherry Studio | Desktop-клиент |
| LibreChat | Агрегатор AI-сервисов |
| LangChain | RAG и цепочки |
| LlamaIndex | RAG и индексация |
LM Studio
| Инструмент | Описание |
|---|---|
| Встроенный чат | Готовый интерфейс |
| Continue.dev | AI-ассистент в VS Code |
| Open WebUI | Работает через API |
| LangChain | Работает через API |
Победа Ollama: большая экосистема инструментов, нативная поддержка.
Победа LM Studio: встроенный чат — не нужно устанавливать дополнительное ПО.
Production и серверное развёртывание
Ollama в production
# Docker Compose
services:
ollama:
image: ollama/ollama
ports:
- "11434:11434"
volumes:
- ollama-data:/root/.ollama
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]
restart: unless-stopped
# Systemd
sudo systemctl enable ollama
sudo systemctl start ollama
# Настройка
export OLLAMA_KEEP_ALIVE=24h
export OLLAMA_NUM_PARALLEL=4
export OLLAMA_MAX_LOADED_MODELS=3
LM Studio в production
LM Studio не предназначена для production-развёртывания. Это GUI-приложение, которое работает на локальной машине. Для серверного использования:
- Установите Ollama
- Используйте LM Studio только для локальной разработки
- Для production переключитесь на Ollama или vLLM
Победа Ollama: единственная. LM Studio не подходит для production.
Безопасность и приватность
Ollama
# Всё работает локально
# API по умолчанию доступен только на localhost
# Можно настроить доступ по сети через OLLAMA_HOST
LM Studio
# Всё работает локально
# API по умолчанию доступен только на localhost
# Можно включить CORS для браузерных запросов
# Можно настроить API key для защиты
| Аспект | Ollama | LM Studio |
|---|---|---|
| Локальная работа | Да | Да |
| Данные не уходят в облако | Да | Да |
| API Key | Нет | Да (опционально) |
| CORS | Нет | Да |
| Шифрование трафика | Нет | Нет |
| Аудит логов | Нет | Нет |
Победа LM Studio: опциональный API key — полезная фича для безопасности.
Стоимость
| Инструмент | Стоимость |
|---|---|
| Ollama | Бесплатно (MIT license) |
| LM Studio | Бесплатно (базовая версия), Pro-версия — $9.99/мес |
LM Studio Pro добавляет:
- Приоритетную поддержку
- Ранний доступ к новым моделям
- Расширенные настройки
Победа Ollama: полностью бесплатная.
Итоговая таблица
| Критерий | Ollama | LM Studio |
|---|---|---|
| Интерфейс | CLI | GUI |
| Установка | 1 команда | .dmg/.exe |
| Настройка | Переменные окружения | Слайдеры в GUI |
| API | OpenAI-совместимый | OpenAI-совместимый |
| Производительность | +5-20% | Базовая |
| Production | Да | Нет |
| Экосистема | Большая | Средняя |
| Безопасность | Базовая | API key, CORS |
| Стоимость | Бесплатно | Бесплатно + Pro |
| Для новичков | Средне | Отлично |
| Для разработчиков | Отлично | Средне |
| Для production | Отлично | Не подходит |
Когда выбрать Ollama
Выбирайте Ollama, если вы:
- Разработчик, который хочет автоматизировать работу с LLM
- DevOps-инженер, который разворачивает серверы
- Data Scientist, который строит RAG-системы
- Администратор, который хочет production-решение
- Исследователь, который тестирует много моделей
- Пользователь Docker, который хочет контейнеризацию
# Ваш первый шаг с Ollama
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.2
Когда выбрать LM Studio
Выбирайте LM Studio, если вы:
- Новичок, который хочет попробовать LLM без CLI
- Исследователь, который хочет визуально сравнить модели
- Пользователь Windows, которому неудобно с терминалом
- Дизайнер/маркетолог, которому нужен простой интерфейс
- Учитель, который хочет показать LLM студентам
- Любой, кто хочет "открыл и работает"
# Ваш первый шаг с LM Studio
brew install --cask lmstudio
# Откройте приложение, найдите модель, скачайте, общайтесь
Можно использовать оба
На практике многие используют оба инструмента:
- LM Studio для локальной разработки и тестирования моделей
- Ollama для production-развёртывания и автоматизации
# Локальная разработка (LM Studio)
# 1. Открываете LM Studio
# 2. Пробуете модели, настраиваете параметры
# 3. Тестируете API на localhost:1234
# Production (Ollama)
# 1. Устанавливаете Ollama на сервер
# 2. Загружаете те же модели
# 3. Разворачиваете Docker Compose
# 4. Подключаете фронтенд
Это лучший подход: LM Studio для прототипирования, Ollama для production.
Чек-лист выбора
- Нужно ли вам production-развёртывание? → Ollama
- Вы работаете в команде? → Ollama (легче автоматизировать)
- Вы новичок в LLM? → LM Studio (проще начать)
- Вы хотите максимальную производительность? → Ollama (на 5-20% быстрее)
- Вы работаете на Windows? → LM Studio (удобнее GUI)
- Вы строите RAG-систему? → Ollama (больше интеграций)
- Вы хотите бесплатное решение? → Ollama (полностью бесплатная)
- Вы хотите визуальный интерфейс? → LM Studio
Заключение
Оба инструмента хороши. Но для разных задач:
- Ollama — это инфраструктура. Она для тех, кто строит, автоматизирует, разворачивает.
- LM Studio — это приложение. Она для тех, кто хочет просто общаться с моделью.
Мой совет: начните с LM Studio, чтобы понять, что такое локальные LLM. Когда поймёте, что нужно больше — переходите на Ollama. Или используйте оба: LM Studio для тестов, Ollama для production.
# Быстрый старт
# LM Studio:
brew install --cask lmstudio
# Ollama:
curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.2
Дополнительные ресурсы
- Ollama Documentation — официальный блог
- Ollama API Reference — спецификация API
- LM Studio Documentation — документация
- LM Studio Models — каталог моделей
- Open WebUI — веб-интерфейс для Ollama
- Continue.dev — AI-ассистент в IDE