Qwen 3.8 27B угадала игру по сырым весам нейросети — без кода и калькулятора

⚡ Главное за 5 секунд

• Simon Willison проверил на Qwen 3.8 27B трюк из статьи Sparks of Weight-Space Programming: модель читает сырые веса чужой сети.
• Задача — по голому массиву чисел понять, в какую игру на сетке 10×10 учили эту сеть. Без кода, калькулятора и запуска самой сети.
• Qwen 3.8 27B весит 17 ГБ и живёт на ноутбуке; запись в блоге датирована 3 ноября 2026 года.

🔍 Что случилось

Вчера гуляла работа «Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights» — Rikiya Takehi, Jayden Teoh, Alex Zhang и Omar Khattab. Сами авторы честно зовут текст «blog post», хотя по виду это статья. Главный герой — GPT-6 Astra: по их словам, она читает веса и говорит, чему сеть учили, а потом правит числа.

Механика простая. Авторы натренировали четыре сети играть в упрощённые Breakout, Pong, Pac-Man и Freeway (Atari 2600, 1981) на сетке 10×10. Дальше — текстовый файл с числами и вопрос: «Ниже веса одной policy-сети, обученной с подкреплением. Какая игра? Работай по весам. Инструментов нет: ни кода, ни калькулятора». Промпты выложены в репозитории RikiyaT/lm_understand-logs, папка exp1_which_game, файлы breakout/prompt.txt, pong/prompt.txt, pacman/prompt.txt, freeway/prompt.txt. Между собой они отличаются только весами.

Запуск — одна строка: llm -f https://raw.githubusercontent.com/RikiyaT/lm_understand-logs/refs/heads/main/exp1_which_game/runs/breakout/prompt.txt -m openrouter/moonshotai/kimi-k3.1-pro. Нужен плагин llm-openrouter. Kimi K3.1 Pro угадал Breakout за 9 минут 41 секунду и 19 493 токена рассуждений.

А потом Willison прогнал тот же промпт на Qwen 3.8 27B — своей любимой локальной модели на 17 ГБ. Она тоже справляется.

🧠 Наш разбор

Самое интересное в этой истории — не «модель угадала игру». Интересно, что задача вообще решается без запуска кода. Похоже, веса RL-политики для сетки 10×10 — это не чёрный ящик, а довольно шумный, но читаемый текст для того, кто видел много такого текста. Удивляться тут стоит не «магии», а тому, что масштаб модели для этого хватает ноутбучного.

Отдельно авторы хвастаются фокусом с Qwen3.5-0.8B: Astra находит в весах причину «петель рассуждения» и правит 0.016% чисел. MATH-500 подскакивает с 7.9% до 48.1%, IFEval — втрое. Мы считаем, что именно этот абзац и выстрелил: он обещает правку модели без градиентов и без датасета, то есть без самой дорогой части ML.

Но и критика по делу. Автор spaCy Мэтью Хоннибал назвал работу вводящей в заблуждение: она смешивает два разных вопроса — что модель делает с числами сама и что она делает, когда ей дают код и цикл обучения. Шон Гёдеке разобрал пример с Qwen3.5-0.8B и показал те же шаги, что делает живой ML-исследователь. Кто выигрывает при таком раскладе? Точно не тот, кто продаёт «ИИ чинит модели». Выигрывает локальный запуск: 17 ГБ на ноутбуке против облачных гигантов — это аргумент для тех, кто не хочет гонять веса через чужой сервер.

⚠️ Чего мы не знаем

В доступном фрагменте блога ответ Qwen 3.8 27B обрывается на полуслове: есть «она тоже так может», но нет ни названия игры, ни времени, ни числа токенов. Неясно и то, сколько прогонов делал Willison и был ли это один удачный ответ из нескольких. Считать это независимой проверкой статьи нельзя: один блог, один энтузиаст, выборка неизвестна. Промпты открыты — хотите, прогоните сами, это честнее любого пересказа.

Прогноз: в течение квартала появится минимум одна открытая попытка повторить эксперимент с правкой весов на модели размером до 1B — с опубликованными логами и прогонами, а не одним скриншотом.

Дисклеймер: один источник — запись в блоге; официально статья не рецензировалась.

Источник: Simon Willison's Weblog