Главная → Статьи → Сколько памяти нужно для ИИ
Сколько памяти нужно, чтобы нейросеть работала на вашем компьютере
Про нейросети пишут много, а на главный вопрос обычного человека отвечают редко: пойдёт ли это у меня. Разбираем без формул — как по размеру модели за полминуты понять, запустится она на вашем компьютере или нет.

О чём статья
Что означает 3B, 7B и 70B
В названии почти любой модели есть число с буквой B: Qwen3-8B, Llama-70B, Gemma-2B. Буква означает billions — миллиарды, а число это количество параметров.
Параметр проще всего представить как одну настройку внутри модели. Их миллиарды, и все вместе они и есть то, что модель «знает». Чем параметров больше, тем модель обычно умнее — и тем больше места она занимает.
Само по себе это число ничего не говорит о том, запустится ли модель у вас. Важно другое: сколько памяти она займёт, когда заработает. Вот это и считаем.
Сжатие: почему модель весит меньше, чем кажется
В исходном виде один параметр занимает два байта. Значит, модель на 7 миллиардов параметров весила бы около 14 гигабайт — на обычном ноутбуке такая не запустится.
Поэтому модели сжимают. Это называют квантизацией, и слово пугает сильнее, чем явление. Смысл простой: вместо точного значения каждой настройки хранят округлённое. Как если бы в таблице вместо 3,14159 записали 3,14 — таблица стала втрое легче, а пользоваться ей можно по-прежнему.
Самый ходовой вариант сжатия — примерно полбайта на параметр, вчетверо меньше исходного. Модель на 7 миллиардов параметров превращается в файл около четырёх гигабайт.
Честно про цену: качество от сжатия падает. Но падает заметно меньше, чем ожидаешь — на обычных задачах разницу между несжатой моделью и сжатой вчетверо человек почти не замечает. А вот сжатие в восемь раз и сильнее уже видно: модель начинает путаться и повторяться.

Правило, которое работает всегда
Когда вы скачиваете модель, вы видите размер файла. Это и есть почти вся нужная информация.
Смотрите на вес файла модели и прибавляйте два гигабайта. Столько памяти ей понадобится. Получилось больше, чем у вас есть, — не запустится или будет ползти.
Два гигабайта сверху — это запас на саму операционную систему, на браузер, который вы не закроете, и на рабочие данные модели во время разговора. Чем длиннее переписка, тем больше этих данных: модель держит в памяти весь предыдущий текст.
Правило грубое, зато его не нужно никуда записывать. Для более точного расчёта есть калькуляторы, но в девяти случаях из десяти хватает этого.
Что пойдёт на 8, 16 и 32 гигабайтах
Речь про оперативную память компьютера — ту, что в характеристиках указана как «ОЗУ» или «RAM».
| Память | Что реально работает |
|---|---|
| 8 ГБ | Модели до 7–8 миллиардов параметров в сжатом виде. По одной задаче за раз: запустили модель — закрыли лишние вкладки |
| 16 ГБ | Те же модели свободно, плюс можно работать параллельно. Распознавание речи, перевод, работа с документами — всё укладывается |
| 32 ГБ и больше | Модели на 30 миллиардов параметров и выше. Разница в качестве ответов заметна, особенно на сложных вопросах |
Отдельно стоит сказать про задачи, где модель маленькая по определению. Распознавание речи, перевод субтитров, озвучка текста — это не те гигантские языковые модели, о которых пишут в новостях. Они умещаются в один-два гигабайта и работают на чём угодно, включая ноутбуки десятилетней давности.
Зачем видеокарта и можно ли без неё
Видеокарта не обязательна. Без неё всё работает — просто медленнее, иногда в несколько раз.
Причина в устройстве задачи: нейросеть делает миллионы однотипных вычислений одновременно, и видеокарта приспособлена именно к этому, а процессор — нет. Это честный размен: ждёте дольше, зато ничего не покупаете.
Где разница критична, а где нет:
- Текст и расшифровка записей. Без видеокарты терпимо. Час записи превращается в текст примерно за полчаса на старом ноутбуке — результат приходит в фоне, пока вы занимаетесь другим.
- Генерация изображений. Без видеокарты практически бессмысленно: одна картинка может считаться десятки минут. И тут важна не общая память компьютера, а память самой видеокарты — от шести гигабайт, иначе половина программ просто не запустится.
- Видео. Нужна видеокарта, и не любая. Большинство открытых проектов работают только с NVIDIA и только начиная с относительно свежих серий.
Два числа — память компьютера и память видеокарты — постоянно путают, в том числе продавцы в магазинах. Когда в характеристиках написано «16 ГБ», это почти всегда про первое.
Что делать, если памяти не хватает
По порядку, от бесплатного к дорогому.
1. Взять модель поменьше. Самое очевидное и самое недооценённое. Разница между моделью на 3 и на 7 миллиардов параметров заметна не на всякой задаче. Для перевода, пересказа и работы с готовым текстом маленькой хватает.
2. Взять сжатие посильнее. У одной и той же модели обычно есть несколько вариантов файла разного веса. Более сжатый влезет, где не влез обычный. Качество просядет, но работать будет.
3. Закрыть лишнее. Браузер с двадцатью вкладками съедает несколько гигабайт. Иногда этого достаточно, чтобы модель запустилась.
4. Добавить память. В настольном компьютере это недорого и делается за десять минут. В ноутбуке — как повезёт: во многих тонких моделях память распаяна намертво, сколько куплено, столько и будет навсегда. Это стоит выяснить до покупки, а не через год.
Чего делать не стоит — надеяться на файл подкачки. Формально модель запустится, фактически будет работать так медленно, что пользоваться этим невозможно.
Коротко
- Число с буквой B в названии — миллиарды параметров. Само по себе ничего не решает.
- Модели сжимают, и в сжатом виде один параметр занимает примерно полбайта.
- Правило: вес файла модели плюс два гигабайта — столько нужно памяти.
- 8 ГБ — модели до 7–8 миллиардов. 16 ГБ — то же свободнее. 32 ГБ — модели покрупнее.
- Видеокарта не обязательна для текста и речи, обязательна для картинок и видео.
- Памяти меньше нужного не обойти ничем: медленно работать можно, не поместиться — нельзя.
«Капсай · Голос» рассчитан как раз на обычный компьютер. Распознавание речи, субтитры и озвучка работают без видеокарты — эталоном при разработке был ноутбук 2016 года с 16 гигабайтами памяти.
Скачать и проверить на своём железе можно бесплатно, до покупки.