Системные требования
Минимальные системные требования для работы с LM Studio на декабрь 2026.
LM Studio поддерживается на системах с архитектурами x64 и ARM (Snapdragon X Elite).
Как установить LM Studio?
Сайт, документация и скачивание самой lmstudio могут быть не доступны в России. В таком случае используйте VPN.
LM Studio поддерживает компьютеры с Apple Silicon (Mac), x64/ARM64 на Windows и x64 на Linux.
Для получения более подробной информации ознакомьтесь со страницей системных требований.
LM Studio поддерживает запуск LLM на Mac, Windows и Linux с использованием. На компьютерах Apple Silicon также доступна поддержка моделей через MLX от Apple.
Чтобы установить или управлять LM Runtimes, нажмите ⌘ Shift R на Mac или Ctrl Shift R на Windows/Linux.
Помимо для обычных компьютеров, LM Studio использует еще один движок инференса под названием MLX для современной техники Apple.:
- Это движок, разработанный Apple и интегрированный в LM Studio.
- Оптимизирован для работы на устройствах с Apple Silicon (например, M1, M2, M3).
- Использует аппаратное ускорение Apple для повышения эффективности.
- Поддерживает модели с квантованием (например, 4-bit), что снижает требования к памяти.
- Является open-source проектом под лицензией MIT.
Таким образом, LM Studio предлагает гибкость в выборе движка в зависимости от оборудования: для универсальности и MLX для максимальной производительности на устройствах Apple Silicon.
Для запуска LLM на вашем компьютере сначала нужно получить файл модели. Вы можете скачать его прямо из LM Studio. Для этого ознакомьтесь с разделом «Основы > Загрузка LLM».
LLM — это новая область инженерии и практики. Специалистов в этой сфере пока мало, поэтому ценен практический опыт. Экспериментируйте, чтобы развить интуицию и лучше понять, как работают модели.
Поиск моделей
Вы можете искать модели по ключевым словам (например, llama, gemma, lmstudio) или указать конкретную строку в формате пользователь/модель. Также можно вставить полные URL-адреса Hugging Face в строку поиска!
Совет: вы можете перейти на вкладку «Discover» из любого места, нажав ⌘ + 2 на Mac или Ctrl + 2 на Windows/Linux.
Часто для одной и той же модели вы увидите несколько вариантов с названиями вроде Q3_K_S, Q_8 и т. д. Все эти варианты представляют одну и ту же модель, но с разной степенью точности. Буква «Q» обозначает технику, называемую «квантованием» (Quantization), которая позволяет сжимать файлы модели, жертвуя частью качества.
Выберите вариант с 4-битным или более высоким уровнем, если ваш компьютер достаточно мощный для его работы.
Решение проблем с ошибками
Не удалось загрузить модель Error loading model. (Exit code: 18446744072635812000). Unknown error. Try a different model and/or config.
То с большой вероятностью у вас в runtime стоит CUDA (видеокарта) и либо ваша видеокарта не поддерживает CUDA или в ней не хватает места для размещения модели.
- Включите вывод логов: Developer -> server settings -> verbose logging
- Откройте окно с логами: ctrl + shift + J
- Выполните дейстивя которые не корректно работают
- по ошибке из логов гуглите ее решение
Часто задаваемые вопросы об установке LLM
Вопрос: Что такое LLM и зачем его устанавливать на компьютер?
Ответ: LLM (Large Language Model) — это большая языковая модель, способная генерировать и обрабатывать текст. Установка на компьютер позволяет использовать её локально, без интернета, с полной конфиденциальностью данных.
Вопрос: Какие минимальные системные требования для запуска локальной LLM?
Ответ: Требования сильно зависят от размера модели. Для небольших моделей (7B параметров) желательно иметь минимум 8-16 ГБ ОЗУ и современный процессор. Для крупных моделей необходим мощный GPU с большим объёмом видеопамяти.
Вопрос: Где безопасно скачать программы для работы с LLM, такие как LM Studio?
Ответ: Официальные версии всегда следует скачивать с сайтов разработчиков или их репозиториев на GitHub. Избегайте сторонних сайтов, чтобы не получить вредоносное ПО.
Вопрос: В чём разница между разными форматами моделей (GGUF, GPTQ, AWQ)?
Ответ: Форматы оптимизированы для разных аппаратных конфигураций. GGUF — универсальный формат для работы на CPU и GPU, GPTQ — для высокопроизводительных GPU Nvidia, AWQ — эффективный формат для снижения требований к памяти.
Вопрос: Какую модель LLM лучше выбрать для начала?
Ответ: Начинающим рекомендуется выбирать небольшие модели (7B-13B параметров) в формате GGUF, например, Mistral или Llama 3. Они требуют меньше ресурсов и проще запускаются.
Вопрос: Почему модель после загрузки не запускается и выдаёт ошибку?
Ответ: Частые причины: нехватка оперативной или видеопамяти (VRAM), неподходящий формат модели для вашего ПО, устаревшие драйверы видеокарты или отсутствие необходимых библиотек (например, Visual C++ Redistributable).
Вопрос: Можно ли использовать локальную LLM без видеокарты (только на CPU)?
Ответ: Да, это возможно, особенно с моделями в формате GGUF. Однако скорость генерации текста будет значительно ниже, чем при использовании GPU.
Вопрос: Сколько места на диске нужно для установки LLM?
Ответ: Программы-оболочки (типа LM Studio) занимают несколько сотен мегабайт. Сами модели могут занимать от 4 ГБ (маленькие 7B модели) до 80+ ГБ (крупные модели на 70B параметров).
Вопрос: Что делать, если при запуске вылетает ошибка «Out of Memory»?
Ответ: Нужно уменьшить объём памяти, требуемый модели: загрузить версию с меньшим количеством параметров, выбрать модель с более низким битрейтом (например, q4 вместо q8) или уменьшить контекстное окно в настройках.
Вопрос: Требуются ли специальные знания в программировании для установки?
Ответ: Не обязательно. Современные графические оболочки (GUI), такие как LM Studio или Ollama, позволяют установить и запустить модель в несколько кликов без командной строки.
Чек-лист: шаги к успешной установке LLM
- Проверьте соответствие вашего компьютера системным требованиям (ОЗУ, VRAM, место на диске).
- Определитесь с целью использования, чтобы выбрать подходящий по размеру и возможностям тип модели.
- Скачайте и установите программу-оболочку (например, LM Studio) с официального сайта.
- Запустите программу и убедитесь, что она работает без ошибок.
- Через встроенный браузер моделей найдите подходящую LLM (для начала — небольшую, 7B параметров).
- Скачайте выбранную модель в рекомендованном формате (чаще всего GGUF для совместимости).
- Дождитесь полной загрузки модели на ваш жесткий диск.
- В интерфейсе программы загрузите скачанную модель в память.
- Настройте параметры генерации (температуру, размер контекста) под свои задачи.
- Задайте первый промпт (запрос) и проверьте, что модель отвечает.
- Если возникает ошибка, сверьтесь с её описанием и разделом «Решение проблем».
- Оцените скорость генерации и качество ответов.
- Экспериментируйте с разными моделями и настройками для оптимального результата.
- Обеспечьте регулярное обновление и программы-оболочки, и самих моделей.
- Проверьте наличие резервного места на диске для тестирования новых моделей.
