Рад видеть вас в Песочнице.
Здесь мы колдуем с нейросетями (LLM, SLM и всё, что между ними) с помощью .NET, делимся кодом и пробуем нестандартные подходы.
Всем добра!
Локальная LLM. Глава 1
Всем привет! 🖖 Краткий обзор Инструмент: llama.cpp ОС: Windows 1. [Hugging Face Models](https://huggingface.co/models) 2. App: llama.cpp 3. Model: SmolVLM-500M-Instruct-GGUF 4. Win + R -> winget install llama.cpp 5. CMD -> llama-cli -hf ggml-org/SmolVLM-500M-Instruct-GGUF:Q8_0 /// Удаление 1. winget list llama.cpp 2. winget uninstall --id ggml.llamacpp Развертывание в деталях Быстрый способ запустить llama.cpp на Windows Переходим на Hugging Face Models App: llama.cpp Model: SmolVLM-500M-Instruct-GGUF Нажимаем “Use this model” -> “llama.cpp” В открывшемся окне появятся инструкции по установке llama.cpp и команда для запуска выбранной модели. Используем WinGet для установки и запуска: # Нажимаем Win + R и вводим powershell (или используем Терминал) # 1. Устанавливаем llama.cpp через менеджер пакетов Windows winget install llama.cpp # 2. Скачиваем и запускаем модель прямо из Hugging Face в консоли llama-cli -hf ggml-org/SmolVLM-500M-Instruct-GGUF:Q8_0 ...
Привет Мир!
Всем привет! 🖖 Меня зовут Александр, и я программист. Почему появился этот блог? Все просто: появились нейросети. И, честно сказать, они произвели на меня огромное впечатление. Программирование для меня — не только профессия, но и хобби. За долгие годы я испытывал такой «вау-эффект» всего несколько раз: Когда отец взял меня с братом к себе на работу в компьютерный класс с «Корветами» и запустил игру с 8″ дискеты 😅; Когда я впервые увидел Windows 95; Когда по инструкции отца нарисовал снеговика в Quick Basic; Когда написал первую программу на Delphi, и всё было так «красиво» — почти без усилий; Когда открыл для себя системы контроля версий (и моя боль с архивацией папочек по датам ушла в прошлое); И, наконец, когда я попробовал LLM. Мир нейросетей и инфраструктуры вокруг них настолько быстро меняется, что я не успеваю… В этом блоге я хочу делиться своими мыслями и находками. Я обычный программист, не решаю задачи «ударом ногой с разворота в прыжке», поэтому всё изложенное здесь пропущено через призму моего восприятия и не является истиной в последней инстанции. ...