Повод — репозиторий Zagitta/gpu-unlock, который всплыл на Hacker News с формулировкой «FP/BF16 instruction issue rate on Nvidia 3000's cards». Речь про видеокарты Nvidia поколения RTX 30 на архитектуре Ampere и про то, с какой скоростью чип выдаёт (issue) инструкции в форматах FP и BF16 — то есть про пропускную способность на уровне планировщика SM, а не про разгон по частоте. Это не официальный релиз Nvidia: проект живёт на GitHub, компания к нему отношения не имеет.
Что именно делает код, из повода не следует — ни номеров версий, ни списка поддерживаемых моделей, ни флагов сборки, ни замеров «до/после» в описании нет. Всё это придётся вычитывать в README и исходниках. Точно известен только предмет: FP/BF16 и consumer-карты RTX 30, где половина линейки исторически урезана по ряду вычислительных параметров относительно профессиональных ускорителей.
RTX 30 давно не флагман, но именно эти карты массово стоят в домашних сборках под локальный инференс — а FP16/BF16 там один из ключевых форматов. Любая попытка поднять issue rate обещает бесплатный прирост там, где обычно советуют просто купить новое железо. Только радоваться рано: официальной поддержки нет, стабильность и корректность вычислений никто не гарантировал, а цифры из комментариев на Hacker News — это мнения, а не бенчмарки. Проверять на своей карте и на свой риск.
Источник: github.com · пост в Telegram