Материал на Habr — перевод разбора от Cerebras. Компания отвечает на самый частый вопрос читателей: как вообще большие модели раскладываются по чипам размером с целую кремниевую пластину. В качестве примера взяли Kimi K3 и пластину Cerebras WSE-3T.
Дальше гайд идёт по шагам развёртывания: что происходит с моделью, когда она целиком уезжает на одну пластину, и как собрать рабочую конфигурацию под такой запуск. Точные параметры, конфиги и команды — в самой статье, в превью их нет. Читать целиком: habr.com/ru/articles/1098132.
Wafer-scale подход Cerebras — это ставка на то, что гигантскую модель можно держать на одном куске кремния и не резать её по кластеру из тысяч ускорителей. Для тех, кто выбирает железо под инференс, такой разбор — редкая возможность посмотреть на механику изнутри, а не на маркетинговые графики. Когда ждать чего-то большего, чем гайд, источник не сообщает.
Источник: habr.com · пост в Telegram