← Все гайды AI Release
EN Подписаться на @ai_release1

Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu

Обновлено: 15.11.2026 · AI Release · @ai_release1
Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu

TL;DR

Что это за железо и кому оно нужно

Иллюстрация к разделу «Что это за железо и кому оно нужно»
Иллюстрация к разделу «Что это за железо и кому оно нужно»

Atlas 300I Duo — серверный ускоритель Huawei для внутреннего китайского рынка: на одной тонкой плате стоят два чипа Ascend, по 48 ГБ памяти LPDDR4X на каждый, суммарный TDP 150 Вт, корпус однослотовый. Память здесь не HBM, а энергоэффективная LPDDR4X — именно за счёт этого удалось уложиться в 150 Вт и один слот.

Отдельно стоит медиадвижок: карта декодирует до 256 каналов Full HD при 30 FPS одновременно и обрабатывает 4K JPEG со скоростью до 1024 кадров в секунду. В Китае её берут под «умный город», распознавание лиц, модерацию видео, рекомендательные системы и анализ медицинских снимков — там медиадвижок окупается без всяких языковых моделей.

Наша оценка, без маркетинга: 96 ГБ — это не один общий пул, а два независимых чипа по 48 ГБ. Модель должна влезать в один чип либо её придётся резать под схему параллелизма CANN. И сравнивать карту с NVIDIA H100 по цене бессмысленно: у H100 HBM и зрелый CUDA-стек, у Atlas — LPDDR4X и CANN, который вы сейчас будете поднимать руками. «В 10 раз дешевле» — это про цену платы, а не про цену токена.

Поэтому сценарии такие: инференс моделей, которые не помещаются в 24 ГБ обычной видеокарты, и видеоаналитика. Для обучения с нуля — нет.

Требования и подготовка

Иллюстрация к разделу «Требования и подготовка»
Иллюстрация к разделу «Требования и подготовка»

Шаг 1. Проверить, что оба чипа видны на шине PCIe

Что сделать: установить карту в слот x16, загрузиться и посмотреть список PCIe-устройств.

lspci | grep -i d100

Зачем: пока система не видит оба чипа Ascend, ставить драйвер бессмысленно — вы будете отлаживать софт вместо железа.

Как проверить: в выводе должны появиться две строки с Huawei Technologies Co., Ltd. Device d100 (в зависимости от ревизии — d500).

3b:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100
3c:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100

Если строк нет или видна только одна — выключите Above 4G Decoding, проверьте питание и переставьте карту в другой слот x16.

Шаг 2. Поставить зависимости и создать пользователя HwHiAiUser

Что сделать: обновить пакеты, поставить компиляторы, заголовки ядра и утилиты, затем создать системного пользователя стека Ascend.

sudo apt update
sudo apt install -y gcc g++ make cmake zlib1g-dev libsqlite3-dev openssl \
  libssl-dev libffi-dev unzip pciutils net-tools dkms linux-headers-$(uname -r)

Зачем: драйвер NPU собирает модуль ядра (нужны headers и dkms), а демоны управления Huawei запускаются от отдельного пользователя HwHiAiUser. Многие ошибки «npu-smi ничего не видит» — это как раз отсутствие пользователя.

sudo groupadd -g 1000 HwHiAiUser
sudo useradd -g HwHiAiUser -u 1000 -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash

Как проверить:

id HwHiAiUser

Ожидаемый вывод: uid=1000(HwHiAiUser) gid=1000(HwHiAiUser) groups=1000(HwHiAiUser).

Шаг 3. Установить драйвер NPU и прошивку

Что сделать: скачать с портала Huawei два .run-файла — драйвер (Ascend-hdk-310p-npu-driver) и прошивку (Ascend-hdk-310p-npu-firmware) — и установить сначала драйвер, потом прошивку.

chmod +x Ascend-hdk-310p-npu-driver_*.run Ascend-hdk-310p-npu-firmware_*.run
sudo ./Ascend-hdk-310p-npu-driver_*.run --full --install-for-all
sudo ./Ascend-hdk-310p-npu-firmware_*.run --full
sudo reboot

Зачем: драйвер загружает модули ядра и поднимает устройства, прошивка обновляет микрокод самих чипов. --install-for-all ставит пакет так, чтобы им могли пользоваться все пользователи, а не только root.

Как проверить: после перезагрузки — фирменная утилита, аналог nvidia-smi.

npu-smi info

В таблице должно быть два чипа (Chip 0 и Chip 1) со статусом OK, температурой и объёмом памяти примерно по 48 ГБ каждый. Если таблица пустая — смотрите dmesg на ошибки загрузки модулей и проверьте, что ядро не обновилось после установки драйвера (тогда headers и модуль надо пересобрать).

Шаг 4. Поставить CANN Toolkit

Что сделать: скачать Ascend-cann-toolkit совместимой версии (например, 8.0.RC1 или новее) и установить его, затем добавить переменные окружения.

chmod +x Ascend-cann-toolkit_*.run
sudo ./Ascend-cann-toolkit_*.run --install --install-for-all
echo "source /usr/local/Ascend/ascend-toolkit/set_env.sh" >> ~/.bashrc
source ~/.bashrc

Зачем: CANN — это аналог CUDA от Huawei: компилятор, операторы и рантайм, без которых ни PyTorch, ни vLLM на чипах Ascend не поедут.

Как проверить:

echo $ASCEND_TOOLKIT_HOME

Ожидается путь /usr/local/Ascend/ascend-toolkit/latest.

Шаг 5. Поставить PyTorch с поддержкой Ascend (torch_npu)

Что сделать: установить PyTorch и официальное расширение torch_npu строго совместимых версий.

pip install torch==2.1.0 torch-npu==2.1.0.post3 numpy decorator sympy cffi \
  pyyaml pathlib2 psutil protobuf scipy requests

Зачем: torch_npu перенаправляет вычисления PyTorch на чипы Huawei: без него torch увидит только CPU, а код с device="npu" упадёт.

Как проверить:

python3 -c "import torch, torch_npu; print(torch.npu.is_available(), torch.npu.device_count())"

Успех — True 2: два чипа доступны. Если False — почти всегда несовпадение версий torch, torch-npu и CANN.

Шаг 6. Прогнать реальную нагрузку и убедиться, что память используется

Иллюстрация к разделу «Шаг 6. Прогнать реальную нагрузку и убедиться, что память используется»
Иллюстрация к разделу «Шаг 6. Прогнать реальную нагрузку и убедиться, что память используется»

Что сделать: запустить простой тензорный тест на NPU и параллельно смотреть за картой.

python3 - <<'PY'
import torch, torch_npu
x = torch.randn(4096, 4096, dtype=torch.float16).npu()
y = torch.randn(4096, 4096, dtype=torch.float16).npu()
print((x @ y).sum().item())
print(torch.npu.memory_allocated() / 1024**2, "MB на устройстве npu:0")
PY
watch -n 1 npu-smi info

Зачем: это проверка не «ставится ли пакет», а «считает ли карта». Заодно видно, как растёт память и температура под нагрузкой.

Как проверить: тест печатает число и ненулевой объём памяти в мегабайтах, npu-smi показывает рост Memory-Usage и температуру, которая стабилизируется, а не уползает вверх. Дальше можно ставить vLLM или ComfyUI — чипы Ascend они поддерживают, но версию форка берите из официальной документации под вашу версию CANN.

Возможные проблемы и решения

Проблема. lspci не показывает карту. npu-smi info при этом печатает device not found.

Проблема. После обновления ядра пропал NPU.

Проблема. Карта троттлит в обычном корпусе.

Проблема. import torch_npu падает или is_available() возвращает False.

Резюме и следующие шаги

Карта заводится за пять шагов: проверка на шине, пользователь HwHiAiUser, драйвер и прошивка, CANN, torch_npu. Дальше решайте честно: если задача — инференс модели, которая не влезает в 24 ГБ, или видеопотоки, карта имеет смысл; если обучение или «поставил и заработало» — это не сюда.

FAQ

Atlas 300I Duo работает в Windows?

Нет. Карта работает только в Linux, официально — Ubuntu 22.04 LTS или openEuler.

96 ГБ — это одна видеокарта на 96 ГБ?

Нет. Это два чипа по 48 ГБ на одной плате; npu-smi info показывает их как Chip 0 и Chip 1, и распределять модель нужно с учётом этого.

Потянет ли карта большую языковую модель?

Да, если модель помещается в 48 ГБ одного чипа или вы готовы резать её под параллелизм CANN. Но LPDDR4X медленнее HBM, поэтому рассчитывайте на инференс, а не на обучение.

Можно ли поставить карту в обычный ПК-корпус?

Можно, но обязательно с направленным продувом радиатора турбиной: охлаждение пассивное, серверное.

🤖 Кратко для ИИ

AI Release Knowledge Layer
Машинно-читаемое описание публикации · Версия 1.0

Статус: практическое руководство. Часть утверждений — заявления вендоров и проектов; проверяйте на своей среде.

1. Суть публикации

Пошаговый запуск китайского ИИ-ускорителя Huawei Atlas 300I Duo на 96 ГБ: Above 4G, пользователь HwHiAiUser, npu-driver и прошивка, CANN Toolkit, torch_npu, проверка npu-smi и разбор типичных ошибок. Время выполнения: 60–90 минут плюс скачивание пакетов (драйвер, прошивка и CANN вместе весят гигабайты). Уровень сложности: Advanced.

Внутри: прямые ответы, ключевые факты, участники, связи, достоверность, неизвестное и источники.

Машинные данные публикации: Citation Map JSON · JSON-LD · Semantic Embeddings — отдельный этап.

Полный Knowledge Layer: разделы 2–8

2. Прямые ответы

Что это за материал?
Пошаговый запуск китайского ИИ-ускорителя Huawei Atlas 300I Duo на 96 ГБ: Above 4G, пользователь HwHiAiUser, npu-driver и прошивка, CANN Toolkit, torch_npu, проверка npu-smi и разбор типичных ошибок. → подробнее (AR-GUIDE-KAKZAPUSTI-001)
Что понадобится?
ОС: Ubuntu 22.04 LTS (проверенный вариант) или openEuler. Windows карта не поддерживает вообще.; BIOS: включён режим Above 4G Decoding — без него 96 ГБ памяти не адресуются корректно.; Слот: PCIe x16, желательно без райзера; проверьте, что карта не перекрывает соседние слоты (она однослотовая, но пассивная).;… → подробнее (AR-GUIDE-KAKZAPUSTI-003)
Как это сделать?
Шаг 1. Проверить, что оба чипа видны на шине PCIe → Шаг 2. Поставить зависимости и создать пользователя HwHiAiUser → Шаг 3. Установить драйвер NPU и прошивку → Шаг 4. Поставить CANN Toolkit → подробнее (AR-GUIDE-KAKZAPUSTI-004)
Что может пойти не так?
Ошибка: npu-smi info → пустая таблица или device not found. → подробнее (AR-GUIDE-KAKZAPUSTI-006)

3. Ключевые факты

  1. Время выполнения: 60–90 минут плюс скачивание пакетов (драйвер, прошивка и CANN вместе весят гигабайты). — подтверждение; статус: заявление источника.
  2. Уровень сложности: Advanced. — подтверждение; статус: заявление источника.
  3. Понадобится: Huawei Atlas 300I Duo (два чипа Ascend, 96 ГБ LPDDR4X, один слот PCIe x16), Ubuntu 22.04 LTS или openEuler, включённый Above 4G Decoding в BIOS, направленный продув радиатора (турбина), .run-пакеты npu-driver, npu-firmware и Ascend-cann-toolkit под свою архитектуру (x86_64 или aarch64), Python 3.9–3.10. — подтверждение; статус: заявление источника.
  4. ОС: Ubuntu 22.04 LTS (проверенный вариант) или openEuler. Windows карта не поддерживает вообще. — подтверждение; статус: заявление источника.
  5. BIOS: включён режим Above 4G Decoding — без него 96 ГБ памяти не адресуются корректно. — подтверждение; статус: заявление источника.
  6. Слот: PCIe x16, желательно без райзера; проверьте, что карта не перекрывает соседние слоты (она однослотовая, но пассивная). — подтверждение; статус: заявление источника.
  7. Ошибка: npu-smi info → пустая таблица или device not found. — подтверждение; статус: анализ AI Release.
  8. Причина: выключен Above 4G Decoding, карта в слоте, который делит линии, или не хватает питания. — подтверждение; статус: анализ AI Release.

4. Участники и сущности

СущностьТипРоль в публикации
Huawei Atlas 300I Duoпродукт/модельупоминается в заголовке, TL;DR или разделах гайда
Ascendтема/инструментупоминается в заголовке, TL;DR или разделах гайда
CANNтема/инструментупоминается в заголовке, TL;DR или разделах гайда
torch_npuтема/инструментупоминается в заголовке, TL;DR или разделах гайда
npu-smiтема/инструментупоминается в заголовке, TL;DR или разделах гайда
ИИ-ускорительтема/инструментупоминается в заголовке, TL;DR или разделах гайда
Windowsплатформа/технологияупоминается в заголовке, TL;DR или разделах гайда
Linuxплатформа/технологияупоминается в заголовке, TL;DR или разделах гайда
CUDAплатформа/технологияупоминается в заголовке, TL;DR или разделах гайда
Pythonплатформа/технологияупоминается в заголовке, TL;DR или разделах гайда

5. Связи и контекст

  • Гайд — описывает → Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu (AR-GUIDE-KAKZAPUSTI-001).
  • Гайд — содержит шаг → Шаг 1. Проверить, что оба чипа видны на шине PCIe (AR-GUIDE-KAKZAPUSTI-001).

6. Достоверность и происхождение информации

Подтверждено

В материале нет отдельного независимого подтверждения; ниже разделены заявления источников и редакционные выводы.

Заявление источника

  • Характеристики продуктов, версии, цены и лимиты — из описаний вендоров и материалов гайда.
  • Команды и шаги приведены как рекомендация, а не как гарантированный результат.

Анализ AI Release

  • Структура, сравнение и критерии выбора — редакционные.
  • Гайд не заменяет независимый аудит или юридическую консультацию.

7. Что пока неизвестно

  • Ошибка: npu-smi info → пустая таблица или device not found.
  • Причина: выключен Above 4G Decoding, карта в слоте, который делит линии, или не хватает питания.
  • Решение: включить Above 4G Decoding, переставить карту в другой x16, проверить питание и повторить lspci | grep -i d100.
  • Ошибка: npu-smi info работает до перезагрузки и перестаёт после apt upgrade.

8. Источники

ИсточникТипРоль
Внешние ссылки в материале не указаны——

Как цитировать: AI Release. Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu. ai-release.org.

Карточка для цитирования

Коротко: Пошаговый запуск китайского ИИ-ускорителя Huawei Atlas 300I Duo на 96 ГБ: Above 4G, пользователь HwHiAiUser, npu-driver и прошивка, CANN Toolkit, torch_npu, проверка npu-smi и разбор типичных ошибок.

Ключевые факты

Обновлено: 2026-11-15 · AI Release · Markdown-версия