
Atlas 300I Duo — серверный ускоритель Huawei для внутреннего китайского рынка: на одной тонкой плате стоят два чипа Ascend, по 48 ГБ памяти LPDDR4X на каждый, суммарный TDP 150 Вт, корпус однослотовый. Память здесь не HBM, а энергоэффективная LPDDR4X — именно за счёт этого удалось уложиться в 150 Вт и один слот.
Отдельно стоит медиадвижок: карта декодирует до 256 каналов Full HD при 30 FPS одновременно и обрабатывает 4K JPEG со скоростью до 1024 кадров в секунду. В Китае её берут под «умный город», распознавание лиц, модерацию видео, рекомендательные системы и анализ медицинских снимков — там медиадвижок окупается без всяких языковых моделей.
Наша оценка, без маркетинга: 96 ГБ — это не один общий пул, а два независимых чипа по 48 ГБ. Модель должна влезать в один чип либо её придётся резать под схему параллелизма CANN. И сравнивать карту с NVIDIA H100 по цене бессмысленно: у H100 HBM и зрелый CUDA-стек, у Atlas — LPDDR4X и CANN, который вы сейчас будете поднимать руками. «В 10 раз дешевле» — это про цену платы, а не про цену токена.
Поэтому сценарии такие: инференс моделей, которые не помещаются в 24 ГБ обычной видеокарты, и видеоаналитика. Для обучения с нуля — нет.

Что сделать: установить карту в слот x16, загрузиться и посмотреть список PCIe-устройств.
lspci | grep -i d100
Зачем: пока система не видит оба чипа Ascend, ставить драйвер бессмысленно — вы будете отлаживать софт вместо железа.
Как проверить: в выводе должны появиться две строки с Huawei Technologies Co., Ltd. Device d100 (в зависимости от ревизии — d500).
3b:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100
3c:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100
Если строк нет или видна только одна — выключите Above 4G Decoding, проверьте питание и переставьте карту в другой слот x16.
Что сделать: обновить пакеты, поставить компиляторы, заголовки ядра и утилиты, затем создать системного пользователя стека Ascend.
sudo apt update
sudo apt install -y gcc g++ make cmake zlib1g-dev libsqlite3-dev openssl \
libssl-dev libffi-dev unzip pciutils net-tools dkms linux-headers-$(uname -r)
Зачем: драйвер NPU собирает модуль ядра (нужны headers и dkms), а демоны управления Huawei запускаются от отдельного пользователя HwHiAiUser. Многие ошибки «npu-smi ничего не видит» — это как раз отсутствие пользователя.
sudo groupadd -g 1000 HwHiAiUser
sudo useradd -g HwHiAiUser -u 1000 -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash
Как проверить:
id HwHiAiUser
Ожидаемый вывод: uid=1000(HwHiAiUser) gid=1000(HwHiAiUser) groups=1000(HwHiAiUser).
Что сделать: скачать с портала Huawei два .run-файла — драйвер (Ascend-hdk-310p-npu-driver) и прошивку (Ascend-hdk-310p-npu-firmware) — и установить сначала драйвер, потом прошивку.
chmod +x Ascend-hdk-310p-npu-driver_*.run Ascend-hdk-310p-npu-firmware_*.run
sudo ./Ascend-hdk-310p-npu-driver_*.run --full --install-for-all
sudo ./Ascend-hdk-310p-npu-firmware_*.run --full
sudo reboot
Зачем: драйвер загружает модули ядра и поднимает устройства, прошивка обновляет микрокод самих чипов. --install-for-all ставит пакет так, чтобы им могли пользоваться все пользователи, а не только root.
Как проверить: после перезагрузки — фирменная утилита, аналог nvidia-smi.
npu-smi info
В таблице должно быть два чипа (Chip 0 и Chip 1) со статусом OK, температурой и объёмом памяти примерно по 48 ГБ каждый. Если таблица пустая — смотрите dmesg на ошибки загрузки модулей и проверьте, что ядро не обновилось после установки драйвера (тогда headers и модуль надо пересобрать).
Что сделать: скачать Ascend-cann-toolkit совместимой версии (например, 8.0.RC1 или новее) и установить его, затем добавить переменные окружения.
chmod +x Ascend-cann-toolkit_*.run
sudo ./Ascend-cann-toolkit_*.run --install --install-for-all
echo "source /usr/local/Ascend/ascend-toolkit/set_env.sh" >> ~/.bashrc
source ~/.bashrc
Зачем: CANN — это аналог CUDA от Huawei: компилятор, операторы и рантайм, без которых ни PyTorch, ни vLLM на чипах Ascend не поедут.
Как проверить:
echo $ASCEND_TOOLKIT_HOME
Ожидается путь /usr/local/Ascend/ascend-toolkit/latest.
Что сделать: установить PyTorch и официальное расширение torch_npu строго совместимых версий.
pip install torch==2.1.0 torch-npu==2.1.0.post3 numpy decorator sympy cffi \
pyyaml pathlib2 psutil protobuf scipy requests
Зачем: torch_npu перенаправляет вычисления PyTorch на чипы Huawei: без него torch увидит только CPU, а код с device="npu" упадёт.
Как проверить:
python3 -c "import torch, torch_npu; print(torch.npu.is_available(), torch.npu.device_count())"
Успех — True 2: два чипа доступны. Если False — почти всегда несовпадение версий torch, torch-npu и CANN.

Что сделать: запустить простой тензорный тест на NPU и параллельно смотреть за картой.
python3 - <<'PY'
import torch, torch_npu
x = torch.randn(4096, 4096, dtype=torch.float16).npu()
y = torch.randn(4096, 4096, dtype=torch.float16).npu()
print((x @ y).sum().item())
print(torch.npu.memory_allocated() / 1024**2, "MB на устройстве npu:0")
PY
watch -n 1 npu-smi info
Зачем: это проверка не «ставится ли пакет», а «считает ли карта». Заодно видно, как растёт память и температура под нагрузкой.
Как проверить: тест печатает число и ненулевой объём памяти в мегабайтах, npu-smi показывает рост Memory-Usage и температуру, которая стабилизируется, а не уползает вверх. Дальше можно ставить vLLM или ComfyUI — чипы Ascend они поддерживают, но версию форка берите из официальной документации под вашу версию CANN.
Проблема. lspci не показывает карту. npu-smi info при этом печатает device not found.
npu-smi info → пустая таблица или device not found.lspci | grep -i d100.Проблема. После обновления ядра пропал NPU.
npu-smi info работает до перезагрузки и перестаёт после apt upgrade.linux-headers-$(uname -r), переустановить драйвер тем же .run-пакетом и перезагрузиться.Проблема. Карта троттлит в обычном корпусе.
npu-smi info температура растёт, частоты и производительность падают через несколько минут нагрузки.Проблема. import torch_npu падает или is_available() возвращает False.
RuntimeError при импорте либо False в проверке.torch/torch-npu парами и заново выполнить source /usr/local/Ascend/ascend-toolkit/set_env.sh.Карта заводится за пять шагов: проверка на шине, пользователь HwHiAiUser, драйвер и прошивка, CANN, torch_npu. Дальше решайте честно: если задача — инференс модели, которая не влезает в 24 ГБ, или видеопотоки, карта имеет смысл; если обучение или «поставил и заработало» — это не сюда.
Atlas 300I Duo работает в Windows?
Нет. Карта работает только в Linux, официально — Ubuntu 22.04 LTS или openEuler.
96 ГБ — это одна видеокарта на 96 ГБ?
Нет. Это два чипа по 48 ГБ на одной плате; npu-smi info показывает их как Chip 0 и Chip 1, и распределять модель нужно с учётом этого.
Потянет ли карта большую языковую модель?
Да, если модель помещается в 48 ГБ одного чипа или вы готовы резать её под параллелизм CANN. Но LPDDR4X медленнее HBM, поэтому рассчитывайте на инференс, а не на обучение.
Можно ли поставить карту в обычный ПК-корпус?
Можно, но обязательно с направленным продувом радиатора турбиной: охлаждение пассивное, серверное.
Статус: практическое руководство. Часть утверждений — заявления вендоров и проектов; проверяйте на своей среде.
Пошаговый запуск китайского ИИ-ускорителя Huawei Atlas 300I Duo на 96 ГБ: Above 4G, пользователь HwHiAiUser, npu-driver и прошивка, CANN Toolkit, torch_npu, проверка npu-smi и разбор типичных ошибок. Время выполнения: 60–90 минут плюс скачивание пакетов (драйвер, прошивка и CANN вместе весят гигабайты). Уровень сложности: Advanced.
Машинные данные публикации: Citation Map JSON · JSON-LD · Semantic Embeddings — отдельный этап.
| Сущность | Тип | Роль в публикации |
|---|---|---|
| Huawei Atlas 300I Duo | продукт/модель | упоминается в заголовке, TL;DR или разделах гайда |
| Ascend | тема/инструмент | упоминается в заголовке, TL;DR или разделах гайда |
| CANN | тема/инструмент | упоминается в заголовке, TL;DR или разделах гайда |
| torch_npu | тема/инструмент | упоминается в заголовке, TL;DR или разделах гайда |
| npu-smi | тема/инструмент | упоминается в заголовке, TL;DR или разделах гайда |
| ИИ-ускоритель | тема/инструмент | упоминается в заголовке, TL;DR или разделах гайда |
| Windows | платформа/технология | упоминается в заголовке, TL;DR или разделах гайда |
| Linux | платформа/технология | упоминается в заголовке, TL;DR или разделах гайда |
| CUDA | платформа/технология | упоминается в заголовке, TL;DR или разделах гайда |
| Python | платформа/технология | упоминается в заголовке, TL;DR или разделах гайда |
В материале нет отдельного независимого подтверждения; ниже разделены заявления источников и редакционные выводы.
| Источник | Тип | Роль |
|---|---|---|
| Внешние ссылки в материале не указаны | — | — |
Как цитировать: AI Release. Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu. ai-release.org.
Коротко: Пошаговый запуск китайского ИИ-ускорителя Huawei Atlas 300I Duo на 96 ГБ: Above 4G, пользователь HwHiAiUser, npu-driver и прошивка, CANN Toolkit, torch_npu, проверка npu-smi и разбор типичных ошибок.