Магнус Линч, практикующий дерматолог, собрал 200 кожных образований, у каждого — диагноз, подтверждённый биопсией. Этот набор он прогнал через три системы: GPT-6 Astra, Claude Fable 5.1 и дообученную свёрточную сеть Inception v3 2015 года. Итог: узкоспециализированная CNN десятилетней давности обошла обе свежие мультимодальные модели.
Механика теста — классический приём «узкая задача против универсала». Inception v3 дообучали именно под дерматологические снимки, тогда как GPT-6 Astra и Claude Fable 5.1 работают как модели общего назначения. Полные цифры по каждому классу образований и разбор ошибок — в переводе на Habr, ссылка в источнике.
Спор «большая мультимодальная модель против маленькой специализированной» идёт ровно там, где ошибка стоит дорого — в диагностике по изображениям. Тест Линча показывает, что дообученная CNN на узком домене всё ещё держит планку, и общий бенчмарк мультимодальности не заменяет проверку на конкретной клинической задаче. Ждать ли такой же картины на других наборах данных — источник не утверждает, выборка здесь одна и ограничена 200 случаями.
Источник: habr.com · пост в Telegram