Моя рабочая команда запуска Qwen3.6-35B-A3B UD-Q4_K_XL на RTX 3060 12 ГБ и 32 ГБ RAM: что делает каждый флаг, сколько уходит видеопамяти, какая скорость на 8K и 100K и как модель с…
GGUF
Локальные LLM на RTX 3060: какие модели я сравнил для работы с кодом и что выбрал
Я прогнал несколько локальных моделей на RTX 3060 12 ГБ и 32 ГБ RAM на задачах по PHP и чтению большого кода. Рассказываю, как проверял, что получилось по качеству, скорости и конт…