Raschka выпустил 11-часовой видеокурс по сборке reasoning-моделей на PyTorch

⚡ Главное за 5 секунд

• Sebastian Raschka выложил 8 видео и больше 11 часов кода по сборке reasoning-модели с нуля на Python и PyTorch.
• Стартовая точка — маленькая предобученная Qwen3; ранние примеры идут на CPU, обучение уже требует GPU.
• Нужны базовые Python и PyTorch; предыдущий курс по LLM советуют, но prerequisite он не обязательный.

🔍 Что случилось

24 октября Sebastian Raschka, PhD, опубликовал в Ahead of AI полный видеокурс «Building Reasoning Models from the Ground Up»: восемь роликов, 11+ часов программирования, темы — оценка модели, inference-time scaling, обучение с подкреплением и дистилляция. Материал идёт в паре с его книгой Build A Reasoning Model (From Scratch) и продолжает прошлогодний курс Coding LLMs from the Ground Up. На Hacker News пост набрал 598 баллов и 85 комментариев.

Механика простая и от этого приятная: вы не начинаете с пустого файла, а берёте готовую небольшую Qwen3 и дообучаете её руками. Сначала — генерация текста и метрики оценки, потом масштабирование на инференсе, затем RL с верифицируемыми наградами и дистилляция. По железу: ранние главы спокойно идут на процессоре, для тренировочных экспериментов нужна видеокарта. В тексте Raschka даёт и понятийную рамку: reasoning-модель — это обычная LLM плюс посттренировка через RL с проверяемыми наградами, опционально с inference-time scaling. Дальше — аналогия с двигателем: сама модель это мотор, а agent harness добавляет контекст-менеджмент и доступ к инструментам. Полный анонс и ссылки на видео — в статье Ahead of AI.

🧠 Наш разбор

Курс выходит в момент, когда объяснять reasoning-модели стало сложнее, чем ими пользоваться. Почти любая актуальная LLM либо сама reasoning-модель, либо имеет режим размышлений — так пишет и сам автор. Мы считаем, что дефицит сместился: раньше не хватало доступа к сильным моделям, теперь не хватает людей, которые понимают, что крутит ручку «reasoning effort» и почему от неё зависит счёт за токены.

Практическая ценность здесь в масштабе. 11 часов кода на маленькой Qwen3 — это не про то, как обогнать фронтир, а про то, как устроен цикл RL с проверяемой наградой: где считается reward, как выглядит сэмплирование, почему дистилляция иногда дешевле прямого обучения. Такие штуки обычно объясняют на слайдах, а не в редакторе. По опыту, именно ручная сборка пайплайна лучше всего снимает иллюзию, что «модель просто думает дольше».

Кто выигрывает: студенты, инженеры без ML-бэкграунда и небольшие команды, которым нужно объяснить заказчику, за что платят GPU-часы. Кто проигрывает: те, кто продаёт «магию» вокруг reasoning. Наша оценка — курс бьёт по инфопродуктам, которые обещают то же самое за деньги, без возможности запустить код. Проигравших в смысле технологий тут нет: чем понятнее механика, тем меньше шума на рынке.

⚠️ Чего мы не знаем

В анонсе нет ни числа параметров взятой Qwen3, ни требований к объёму видеопамяти, ни того, сколько времени займёт один тренировочный прогон. Не сказано, на каких датасетах строятся RL-эксперименты и сходятся ли результаты на слабой видеокарте. Отдельно: дата в шапке статьи — 24 октября 2026 года, это странно, и мы не берёмся утверждать, опечатка это или нет. Ссылки на сами ролики в присланном фрагменте обрезаны — открывайте первоисточник и проверяйте состав плейлиста сами.

Прогноз: в течение квартала вокруг курса появятся форки репозитория и минимум один перевод на русский; часть форков будет с другими базовыми моделями вместо Qwen3.

Источник: Ahead of AI (Sebastian Raschka)