Claude Opus поправил 165 весов медицинской модели: AUPRC 0,939 → 0,975

⚡ Главное за 5 секунд

• Claude Opus 5.5 за час с небольшим поменял 165 весов из почти 700 тысяч в медицинской OpenSpliceAI — без обучения.
• На скрытом тесте AUPRC вырос с 0,939 до 0,975: 90% опасных мутаций вместо 76% при том же числе ложных срабатываний.
• 86% прироста дала одна правка — температура softmax; обычное дообучение тех же весов выдало почти то же самое.

🔍 Что случилось

2 ноября MIT выложили работу «Sparks of Weight-Space Programming». Смысл простой: даёшь LLM файл с весами чужой сети и просишь либо объяснить, что она делает, либо поменять её поведение. Без градиентов и без обучения — только чтение и правки. Продакт из RnD MedTech повторила эксперимент на Хабре на модели из клинической генетики OpenSpliceAI: открытая версия SpliceAI, 699 тысяч параметров, считает на ноутбуке без GPU.

Модель смотрит на участок ДНК и говорит, где ген разрезается при сборке белка. Чтобы оценить мутацию, её прогоняют дважды — по исходной ДНК и по изменённой — и сравнивают ответ. Этот скор берут в международные рекомендации ClinGen, так что речь не об игрушке. Тест собрали из ClinVar: разметка «опасная / безвредная», правки на одних хромосомах, проверка на других. Обучать модель и перебирать значения автоматически нельзя. Писать код и заглядывать внутрь — можно.

Внутри сети уверенность в настоящей точке разреза падала с 0,999 до 0,982, а наружу выходило почти ничего — 0,017. Кривая на выходе плоская, сигнал не доходит. Лечится температурой softmax: Claude умножил последний слой на 0,35 и вдвое усилил сигнал от участка ДНК рядом с точкой разреза. Всего две правки. В общей шине 32 канала: ответ «акцептор» последний слой берёт почти только из канала 28, «донор» — из 29.

🧠 Наш разбор

Почему это всплыло сейчас: MIT показали сам принцип, и за пару недель повторы полезли один за другим — Qwen, мини-игры Atari, клеточные автоматы. Медицинский кейс выбивается из этого ряда тем, что здесь у ошибки есть цена в реальных заключениях лабораторий. Но шум вокруг «LLM понимает веса» бежит впереди результата. В той же работе MIT у Qwen было 7,9% → 48,1%, а если просто выключить режим рассуждений, она сама выдаёт около 46%. Правка убирает зацикливание, а не учит математике.

Похожая история и здесь. Наша оценка: 86% прироста дала одна температура softmax, то есть половина «магии» — это багфикс, до которого просто не доходили руки. Для прикладной разработки это важнее, чем красивая цифра AUPRC. Обычное дообучение тех же весов дало почти тот же результат — значит, Opus отработал как очень дорогой, но толковый аналитик, а не как замена градиентному спуску.

Кто выигрывает? Те, у кого маленькие модели на CPU и много размеченных данных для проверки. Плюс те, кто читает лицензии: у оригинального SpliceAI веса некоммерческие, у OpenSpliceAI — открытые, и на ноутбуке это принципиально. Проигрывает сценарий «LLM сама улучшит любую сеть, лишь дай ей веса».

⚠️ Чего мы не знаем

Один кейс, один автор, снаружи цифры никто не перепроверил. Сколько прогонов сжёг Claude, пока нашёл 165 весов из 700 тысяч, в тексте нет. Непонятно, как правка держится на другой популяции: ClinVar, по опыту, база с перекосом в сторону изученных вариантов. И главное — поведёт ли температура 0,35 так же на другом чекпойнте. Проверять это читателю придётся самому, желательно до того, как цифры уедут в чей-нибудь слайд.

Прогноз: в течение квартала появится хотя бы один публичный репозиторий, который автоматически ищет «температуру последнего слоя» для чужих чекпойнтов, — и он же покажет, на скольких моделях этот трюк не сработал.

Дисклеймер: один источник и один авторский кейс; работа MIT официальная, но результаты на OpenSpliceAI снаружи не воспроизведены.

Источник: Хабр