Локальная LLM. Глава 1

Mon, 23 Mar 2026 23:53:44 +0100

Всем привет! 🖖

Краткий обзор

Инструмент: llama.cpp
ОС: Windows

1. [Hugging Face Models](https://huggingface.co/models)
2. App: llama.cpp
3. Model: SmolVLM-500M-Instruct-GGUF
4. Win + R -> winget install llama.cpp
5. CMD -> llama-cli -hf ggml-org/SmolVLM-500M-Instruct-GGUF:Q8_0
/// Удаление
1. winget list llama.cpp
2. winget uninstall --id ggml.llamacpp

Развертывание в деталях

Быстрый способ запустить llama.cpp на Windows

Переходим на Hugging Face Models

App: llama.cpp
Model: SmolVLM-500M-Instruct-GGUF

Нажимаем “Use this model” -> “llama.cpp”

В открывшемся окне появятся инструкции по установке llama.cpp и команда для запуска выбранной модели.

Используем WinGet для установки и запуска:

# Нажимаем Win + R и вводим powershell (или используем Терминал)
# 1. Устанавливаем llama.cpp через менеджер пакетов Windows
winget install llama.cpp
# 2. Скачиваем и запускаем модель прямо из Hugging Face в консоли
llama-cli -hf ggml-org/SmolVLM-500M-Instruct-GGUF:Q8_0

Привет Мир!

Wed, 11 Mar 2026 13:10:32 +0100

Всем привет! 🖖

Меня зовут Александр, и я программист.

Почему появился этот блог? Все просто: появились нейросети. И, честно сказать, они произвели на меня огромное впечатление.

Программирование для меня — не только профессия, но и хобби. За долгие годы я испытывал такой «вау-эффект» всего несколько раз:

Когда отец взял меня с братом к себе на работу в компьютерный класс с «Корветами» и запустил игру с 8″ дискеты 😅;
Когда я впервые увидел Windows 95;
Когда по инструкции отца нарисовал снеговика в Quick Basic;
Когда написал первую программу на Delphi, и всё было так «красиво» — почти без усилий;
Когда открыл для себя системы контроля версий (и моя боль с архивацией папочек по датам ушла в прошлое);
И, наконец, когда я попробовал LLM.

Мир нейросетей и инфраструктуры вокруг них настолько быстро меняется, что я не успеваю… В этом блоге я хочу делиться своими мыслями и находками. Я обычный программист, не решаю задачи «ударом ногой с разворота в прыжке», поэтому всё изложенное здесь пропущено через призму моего восприятия и не является истиной в последней инстанции.

Статьи on .NET + Нейросети Песочница

Локальная LLM. Глава 1

Всем привет! 🖖

Краткий обзор

Развертывание в деталях

Быстрый способ запустить llama.cpp на Windows

Привет Мир!

Всем привет! 🖖