Главная → Статьи → Сколько памяти нужно для ИИ

Сколько памяти нужно, чтобы нейросеть работала на вашем компьютере

18 октября 2026 · 7 минут чтения

Про нейросети пишут много, а на главный вопрос обычного человека отвечают редко: пойдёт ли это у меня. Разбираем без формул — как по размеру модели за полминуты понять, запустится она на вашем компьютере или нет.

Запылённая решётка вентилятора системного блока крупным планом

О чём статья

  1. Что означает 3B, 7B и 70B
  2. Сжатие: почему модель весит меньше, чем кажется
  3. Правило, которое работает всегда
  4. Что пойдёт на 8, 16 и 32 гигабайтах
  5. Зачем видеокарта и можно ли без неё
  6. Что делать, если памяти не хватает
  7. Коротко

Что означает 3B, 7B и 70B

В названии почти любой модели есть число с буквой B: Qwen3-8B, Llama-70B, Gemma-2B. Буква означает billions — миллиарды, а число это количество параметров.

Параметр проще всего представить как одну настройку внутри модели. Их миллиарды, и все вместе они и есть то, что модель «знает». Чем параметров больше, тем модель обычно умнее — и тем больше места она занимает.

Само по себе это число ничего не говорит о том, запустится ли модель у вас. Важно другое: сколько памяти она займёт, когда заработает. Вот это и считаем.

Сжатие: почему модель весит меньше, чем кажется

В исходном виде один параметр занимает два байта. Значит, модель на 7 миллиардов параметров весила бы около 14 гигабайт — на обычном ноутбуке такая не запустится.

Поэтому модели сжимают. Это называют квантизацией, и слово пугает сильнее, чем явление. Смысл простой: вместо точного значения каждой настройки хранят округлённое. Как если бы в таблице вместо 3,14159 записали 3,14 — таблица стала втрое легче, а пользоваться ей можно по-прежнему.

Самый ходовой вариант сжатия — примерно полбайта на параметр, вчетверо меньше исходного. Модель на 7 миллиардов параметров превращается в файл около четырёх гигабайт.

Честно про цену: качество от сжатия падает. Но падает заметно меньше, чем ожидаешь — на обычных задачах разницу между несжатой моделью и сжатой вчетверо человек почти не замечает. А вот сжатие в восемь раз и сильнее уже видно: модель начинает путаться и повторяться.

Планки оперативной памяти в материнской плате
Память — единственное требование, которое нельзя обойти терпением. Медленно работать можно, а не поместиться нельзя

Правило, которое работает всегда

Когда вы скачиваете модель, вы видите размер файла. Это и есть почти вся нужная информация.

Смотрите на вес файла модели и прибавляйте два гигабайта. Столько памяти ей понадобится. Получилось больше, чем у вас есть, — не запустится или будет ползти.

Два гигабайта сверху — это запас на саму операционную систему, на браузер, который вы не закроете, и на рабочие данные модели во время разговора. Чем длиннее переписка, тем больше этих данных: модель держит в памяти весь предыдущий текст.

Правило грубое, зато его не нужно никуда записывать. Для более точного расчёта есть калькуляторы, но в девяти случаях из десяти хватает этого.

Что пойдёт на 8, 16 и 32 гигабайтах

Речь про оперативную память компьютера — ту, что в характеристиках указана как «ОЗУ» или «RAM».

ПамятьЧто реально работает
8 ГБМодели до 7–8 миллиардов параметров в сжатом виде. По одной задаче за раз: запустили модель — закрыли лишние вкладки
16 ГБТе же модели свободно, плюс можно работать параллельно. Распознавание речи, перевод, работа с документами — всё укладывается
32 ГБ и большеМодели на 30 миллиардов параметров и выше. Разница в качестве ответов заметна, особенно на сложных вопросах

Отдельно стоит сказать про задачи, где модель маленькая по определению. Распознавание речи, перевод субтитров, озвучка текста — это не те гигантские языковые модели, о которых пишут в новостях. Они умещаются в один-два гигабайта и работают на чём угодно, включая ноутбуки десятилетней давности.

Зачем видеокарта и можно ли без неё

Видеокарта не обязательна. Без неё всё работает — просто медленнее, иногда в несколько раз.

Причина в устройстве задачи: нейросеть делает миллионы однотипных вычислений одновременно, и видеокарта приспособлена именно к этому, а процессор — нет. Это честный размен: ждёте дольше, зато ничего не покупаете.

Где разница критична, а где нет:

Два числа — память компьютера и память видеокарты — постоянно путают, в том числе продавцы в магазинах. Когда в характеристиках написано «16 ГБ», это почти всегда про первое.

Что делать, если памяти не хватает

По порядку, от бесплатного к дорогому.

1. Взять модель поменьше. Самое очевидное и самое недооценённое. Разница между моделью на 3 и на 7 миллиардов параметров заметна не на всякой задаче. Для перевода, пересказа и работы с готовым текстом маленькой хватает.

2. Взять сжатие посильнее. У одной и той же модели обычно есть несколько вариантов файла разного веса. Более сжатый влезет, где не влез обычный. Качество просядет, но работать будет.

3. Закрыть лишнее. Браузер с двадцатью вкладками съедает несколько гигабайт. Иногда этого достаточно, чтобы модель запустилась.

4. Добавить память. В настольном компьютере это недорого и делается за десять минут. В ноутбуке — как повезёт: во многих тонких моделях память распаяна намертво, сколько куплено, столько и будет навсегда. Это стоит выяснить до покупки, а не через год.

Чего делать не стоит — надеяться на файл подкачки. Формально модель запустится, фактически будет работать так медленно, что пользоваться этим невозможно.

Коротко

«Капсай · Голос» рассчитан как раз на обычный компьютер. Распознавание речи, субтитры и озвучка работают без видеокарты — эталоном при разработке был ноутбук 2016 года с 16 гигабайтами памяти.

Скачать и проверить на своём железе можно бесплатно, до покупки.

Скачать и попробовать