gpu-unlock снимает лимит FP16/BF16 на RTX 20/30/40 без перепрошивки VBIOS

⚡ Главное за 5 секунд

• Модуль ядра gpu-unlock снимает программный потолок тензорных ядер BF16/FP16 на GeForce RTX 20/30/40 — по README до +100% TFLOPS на RTX 4090.
• Ставится в initramfs (mkinitcpio, initramfs-tools, dracut) и грузится раньше драйвера NVIDIA; VBIOS не трогают, драйвер не патчат.
• RTX 30 — заявлена стабильная работа, RTX 20 и 40 — экспериментально, RTX 50 не поддерживается.

🔍 Что случилось

На Хабре вышел разбор проекта gpu-unlock от разработчика с ником Zagitta: статья DmNep на Хабре. Речь о модуле ядра Linux, который убирает искусственное урезание математики FP16/BF16/TF32 с накоплением в FP32 на потребительских GeForce. У профессиональных карт (Tesla, A100, H100) те же тензорные ядра выдают полную скорость, у GeForce тот же режим чаще всего порезан вдвое. Для игр это неважно, а для локальных LLM, файнтюнинга и генерации картинок это как раз тот счёт, который крутится во время prefill и обучения.

Механика такая: модуль встраивается в initramfs и загружается до того, как система привяжет штатный nvidia. Дальше он пишет в карту регистры-селекторы скорости — SS0 = 0x88888888 (полная скорость BF16) и 4-битный SS1 = 0x8 (режим IMLA4), — делает FLR (Function-Level Reset) и отпускает карту. К ней спокойно цепляется немодифицированный оригинальный драйвер NVIDIA. Подход склеен из техники старого cmpunlocker (регистры V67/PLM) и идеи перехвата до загрузки драйвера через UEFI. Архив драйвера качают только ради прошивки, от которой зависит разблокировка; привязки к версии драйвера, по словам автора, нет.

Цифры из README — чистый BF16 matmul на стоковых лимитах мощности:

• RTX 3060 12 ГБ: 27 → 51 TFLOPS (+87%)
• RTX 3080 10 ГБ: 65 → 113 TFLOPS (+73%)
• RTX 3090: 75 → 125 TFLOPS (+65%)
• RTX 4080: 104 → 193 TFLOPS (+87%)
• RTX 4090: 165 → 329 TFLOPS (+100%)

По отчётам сообщества (это не независимый бенчмарк): prefill LLM +25–55%, время до первого токена ниже на 25–30%, LoRA и full-finetuning +25–50%, генерация картинок +30–55%, FlashAttention/SDPA +50–60%, видео (Wan 2.2, BF16) +15–20%. В llama.cpp и Ollama с GGUF — 0–15%, заметнее на длинном контексте. Без изменений остаются decode LLM (упирается в память), модели в INT8/FP8/INT4, игры и FP32 CUDA.

🧠 Наш разбор

Ставлю на то, что новость выстрелила не из-за самого модуля, а из-за момента. Локальные модели на 24–48 ГБ видеопамяти перестали быть экзотикой, и люди упёрлись в потолок, который нельзя обойти покупкой ещё одной карты. Им продают одно и то же железо дважды — как GeForce и как профессиональную карту, — и теперь между этими ценниками стоит строчка в реестре.

Что это меняет на практике. Если заявленные цифры хотя бы наполовину подтвердятся, владелец RTX 3090 получает prefill уровня карты на класс выше, ничего не докупая. Для fine-tuning это часы, для инференса — секунды ожидания первого токена. Но обратная сторона: decode не ускоряется вообще, потому что там всё держится на памяти. То есть gpu-unlock не «делает из 4090 H100», он вытягивает только ту часть работы, где считают тензорные ядра. Кто гоняет INT4-кванты через ollama, может вообще не заметить разницы — и это честно написано в README.

Выигрывают владельцы 30-й серии: у них статус стабильный, карты дешёвые, а прирост по TFLOPS самый предсказуемый. Проигрывают, по нашей оценке, те, кто купил профессиональную карту ради урезанного режима, — их аргумент «мне нужен полный BF16» стал слабее. NVIDIA пока не сказала ничего, и я не жду, что скажет. Официального ответа на такое обычно нет, а закрытие лазейки делают молча в следующей ветке драйвера, если вообще сочтут нужным.

⚠️ Чего мы не знаем

Сам автор статьи на Хабре прямо пишет, что модуль не тестировал, и все цифры — заявления автора проекта и коммьюнити. Независимых замеров нет, как нет и данных про энергопотребление, тепловой режим и стабильность под многочасовой нагрузкой. Отдельно неясно, что с гарантией и с поведением карты после FLR на разных вендорах — в README этого нет. Проверять придётся самому и на своей шкуре, а ссылку на kernel/gpu_unlock/recipes.c с точными PCI device ID стоит прочитать до, а не после.