Локальное развертывание большой языковой модели Qwen3 4B с использованием платформы Ollama

Аннотация

Целью исследования является описание и апробация последовательности установки платформы Ollama и локального запуска компактной большой языковой модели Qwen3 4B на персональном компьютере под управлением Windows. Рассматривается организация каталога хранения модели, загрузка и проверка файлов, запуск взаимодействия в терминале PowerShell и тестирование ответов на русском языке. Эксперимент подтвердил возможность автономного выполнения текстовых запросов после загрузки модели объёмом около 2,5 ГБ. На примере запроса о научной электронной библиотеке eLIBRARY.RU выявлено ограничение: при отсутствии доступа к внешним источникам модель может формировать неопределённые и недостаточно обоснованные ответы. Отмечены преимущества локального развертывания для контроля данных и его зависимость от вычислительных ресурсов компьютера.