# Как запустить Huawei Atlas 300I Duo в Linux: драйвер NPU, CANN и torch_npu

> AI Release · @ai_release1 · https://ai-release.org/guides/kak-zapustit-huawei-atlas-300i-duo-v-linux.html

## TL;DR
- Время выполнения: 60–90 минут плюс скачивание пакетов (драйвер, прошивка и CANN вместе весят гигабайты).
- Уровень сложности: Advanced.
- Понадобится: Huawei Atlas 300I Duo (два чипа Ascend, 96 ГБ LPDDR4X, один слот PCIe x16), Ubuntu 22.04 LTS или openEuler, включённый Above 4G Decoding в BIOS, направленный продув радиатора (турбина), .run-пакеты npu-driver, npu-firmware и Ascend-cann-toolkit под свою архитектуру (x86_64 или aarch64), Python 3.9–3.10.

## Что это за железо и кому оно нужно
![Иллюстрация к разделу «Что это за железо и кому оно нужно»](https://ai-release.org/guides/img/kak-zapustit-huawei-atlas-300i-duo-v-linux-ru-1.jpg?v=1794734436)

Atlas 300I Duo — серверный ускоритель Huawei для внутреннего китайского рынка: на одной тонкой плате стоят два чипа Ascend, по 48 ГБ памяти LPDDR4X на каждый, суммарный TDP 150 Вт, корпус однослотовый. Память здесь не HBM, а энергоэффективная LPDDR4X — именно за счёт этого удалось уложиться в 150 Вт и один слот.

Отдельно стоит медиадвижок: карта декодирует до 256 каналов Full HD при 30 FPS одновременно и обрабатывает 4K JPEG со скоростью до 1024 кадров в секунду. В Китае её берут под «умный город», распознавание лиц, модерацию видео, рекомендательные системы и анализ медицинских снимков — там медиадвижок окупается без всяких языковых моделей.

Наша оценка, без маркетинга: 96 ГБ — это не один общий пул, а два независимых чипа по 48 ГБ. Модель должна влезать в один чип либо её придётся резать под схему параллелизма CANN. И сравнивать карту с NVIDIA H100 по цене бессмысленно: у H100 HBM и зрелый CUDA-стек, у Atlas — LPDDR4X и CANN, который вы сейчас будете поднимать руками. «В 10 раз дешевле» — это про цену платы, а не про цену токена.

Поэтому сценарии такие: инференс моделей, которые не помещаются в 24 ГБ обычной видеокарты, и видеоаналитика. Для обучения с нуля — нет.

## Требования и подготовка
![Иллюстрация к разделу «Требования и подготовка»](https://ai-release.org/guides/img/kak-zapustit-huawei-atlas-300i-duo-v-linux-ru-2.jpg?v=1794734436)

- **ОС**: Ubuntu 22.04 LTS (проверенный вариант) или openEuler. Windows карта не поддерживает вообще.
- **BIOS**: включён режим Above 4G Decoding — без него 96 ГБ памяти не адресуются корректно.
- **Слот**: PCIe x16, желательно без райзера; проверьте, что карта не перекрывает соседние слоты (она однослотовая, но пассивная).
- **Охлаждение**: у карты пассивный серверный радиатор. В обычном корпусе нужен направленный продув турбиной, иначе чипы уйдут в троттлинг за считанные минуты.
- **Прошивки и драйверы**: только с портала поддержки Huawei Ascend (Ascend Community → Firmware & Drivers, серия Atlas 300I Duo), строго под вашу архитектуру. Версии драйвера, прошивки, CANN и torch-npu должны совпадать по матрице совместимости — это главный источник боли в этом стеке.
- **Доступ**: root или sudo.

## Шаг 1. Проверить, что оба чипа видны на шине PCIe
**Что сделать:** установить карту в слот x16, загрузиться и посмотреть список PCIe-устройств.

```bash
lspci | grep -i d100
```

**Зачем:** пока система не видит оба чипа Ascend, ставить драйвер бессмысленно — вы будете отлаживать софт вместо железа.

**Как проверить:** в выводе должны появиться две строки с `Huawei Technologies Co., Ltd. Device d100` (в зависимости от ревизии — `d500`).

```text
3b:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100
3c:00.0 Processing accelerators: Huawei Technologies Co., Ltd. Device d100
```

Если строк нет или видна только одна — выключите Above 4G Decoding, проверьте питание и переставьте карту в другой слот x16.

## Шаг 2. Поставить зависимости и создать пользователя HwHiAiUser
**Что сделать:** обновить пакеты, поставить компиляторы, заголовки ядра и утилиты, затем создать системного пользователя стека Ascend.

```bash
sudo apt update
sudo apt install -y gcc g++ make cmake zlib1g-dev libsqlite3-dev openssl \
  libssl-dev libffi-dev unzip pciutils net-tools dkms linux-headers-$(uname -r)
```

**Зачем:** драйвер NPU собирает модуль ядра (нужны headers и dkms), а демоны управления Huawei запускаются от отдельного пользователя `HwHiAiUser`. Многие ошибки «npu-smi ничего не видит» — это как раз отсутствие пользователя.

```bash
sudo groupadd -g 1000 HwHiAiUser
sudo useradd -g HwHiAiUser -u 1000 -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash
```

**Как проверить:**

```bash
id HwHiAiUser
```

Ожидаемый вывод: `uid=1000(HwHiAiUser) gid=1000(HwHiAiUser) groups=1000(HwHiAiUser)`.

## Шаг 3. Установить драйвер NPU и прошивку
**Что сделать:** скачать с портала Huawei два `.run`-файла — драйвер (`Ascend-hdk-310p-npu-driver`) и прошивку (`Ascend-hdk-310p-npu-firmware`) — и установить сначала драйвер, потом прошивку.

```bash
chmod +x Ascend-hdk-310p-npu-driver_*.run Ascend-hdk-310p-npu-firmware_*.run
sudo ./Ascend-hdk-310p-npu-driver_*.run --full --install-for-all
sudo ./Ascend-hdk-310p-npu-firmware_*.run --full
sudo reboot
```

**Зачем:** драйвер загружает модули ядра и поднимает устройства, прошивка обновляет микрокод самих чипов. `--install-for-all` ставит пакет так, чтобы им могли пользоваться все пользователи, а не только root.

**Как проверить:** после перезагрузки — фирменная утилита, аналог `nvidia-smi`.

```bash
npu-smi info
```

В таблице должно быть два чипа (`Chip 0` и `Chip 1`) со статусом OK, температурой и объёмом памяти примерно по 48 ГБ каждый. Если таблица пустая — смотрите `dmesg` на ошибки загрузки модулей и проверьте, что ядро не обновилось после установки драйвера (тогда headers и модуль надо пересобрать).

## Шаг 4. Поставить CANN Toolkit
**Что сделать:** скачать `Ascend-cann-toolkit` совместимой версии (например, 8.0.RC1 или новее) и установить его, затем добавить переменные окружения.

```bash
chmod +x Ascend-cann-toolkit_*.run
sudo ./Ascend-cann-toolkit_*.run --install --install-for-all
echo "source /usr/local/Ascend/ascend-toolkit/set_env.sh" >> ~/.bashrc
source ~/.bashrc
```

**Зачем:** CANN — это аналог CUDA от Huawei: компилятор, операторы и рантайм, без которых ни PyTorch, ни vLLM на чипах Ascend не поедут.

**Как проверить:**

```bash
echo $ASCEND_TOOLKIT_HOME
```

Ожидается путь `/usr/local/Ascend/ascend-toolkit/latest`.

## Шаг 5. Поставить PyTorch с поддержкой Ascend (torch_npu)
**Что сделать:** установить PyTorch и официальное расширение `torch_npu` строго совместимых версий.

```bash
pip install torch==2.1.0 torch-npu==2.1.0.post3 numpy decorator sympy cffi \
  pyyaml pathlib2 psutil protobuf scipy requests
```

**Зачем:** `torch_npu` перенаправляет вычисления PyTorch на чипы Huawei: без него `torch` увидит только CPU, а код с `device="npu"` упадёт.

**Как проверить:**

```bash
python3 -c "import torch, torch_npu; print(torch.npu.is_available(), torch.npu.device_count())"
```

Успех — `True 2`: два чипа доступны. Если `False` — почти всегда несовпадение версий torch, torch-npu и CANN.

## Шаг 6. Прогнать реальную нагрузку и убедиться, что память используется
![Иллюстрация к разделу «Шаг 6. Прогнать реальную нагрузку и убедиться, что память используется»](https://ai-release.org/guides/img/kak-zapustit-huawei-atlas-300i-duo-v-linux-ru-3.jpg?v=1794734436)

**Что сделать:** запустить простой тензорный тест на NPU и параллельно смотреть за картой.

```bash
python3 - <<'PY'
import torch, torch_npu
x = torch.randn(4096, 4096, dtype=torch.float16).npu()
y = torch.randn(4096, 4096, dtype=torch.float16).npu()
print((x @ y).sum().item())
print(torch.npu.memory_allocated() / 1024**2, "MB на устройстве npu:0")
PY
```

```bash
watch -n 1 npu-smi info
```

**Зачем:** это проверка не «ставится ли пакет», а «считает ли карта». Заодно видно, как растёт память и температура под нагрузкой.

**Как проверить:** тест печатает число и ненулевой объём памяти в мегабайтах, `npu-smi` показывает рост `Memory-Usage` и температуру, которая стабилизируется, а не уползает вверх. Дальше можно ставить vLLM или ComfyUI — чипы Ascend они поддерживают, но версию форка берите из официальной документации под вашу версию CANN.

## Возможные проблемы и решения
**Проблема. `lspci` не показывает карту.** `npu-smi info` при этом печатает `device not found`.
- Ошибка: `npu-smi info` → пустая таблица или `device not found`.
- Причина: выключен Above 4G Decoding, карта в слоте, который делит линии, или не хватает питания.
- Решение: включить Above 4G Decoding, переставить карту в другой x16, проверить питание и повторить `lspci | grep -i d100`.

**Проблема. После обновления ядра пропал NPU.**
- Ошибка: `npu-smi info` работает до перезагрузки и перестаёт после `apt upgrade`.
- Причина: модуль драйвера собран под старое ядро, headers нового не подхватились.
- Решение: поставить `linux-headers-$(uname -r)`, переустановить драйвер тем же `.run`-пакетом и перезагрузиться.

**Проблема. Карта троттлит в обычном корпусе.**
- Ошибка: в `npu-smi info` температура растёт, частоты и производительность падают через несколько минут нагрузки.
- Причина: пассивный серверный радиатор без продува.
- Решение: поставить турбину с направленным потоком вдоль радиатора (или серверный корпус с воздушным каналом) и повторить тест из шага 6.

**Проблема. `import torch_npu` падает или `is_available()` возвращает False.**
- Ошибка: `RuntimeError` при импорте либо `False` в проверке.
- Причина: несовпадение версий CANN, torch и torch-npu.
- Решение: сверить тройку версий по матрице совместимости Huawei, переустановить `torch`/`torch-npu` парами и заново выполнить `source /usr/local/Ascend/ascend-toolkit/set_env.sh`.

## Резюме и следующие шаги
Карта заводится за пять шагов: проверка на шине, пользователь HwHiAiUser, драйвер и прошивка, CANN, torch_npu. Дальше решайте честно: если задача — инференс модели, которая не влезает в 24 ГБ, или видеопотоки, карта имеет смысл; если обучение или «поставил и заработало» — это не сюда.

## FAQ
**Atlas 300I Duo работает в Windows?**
Нет. Карта работает только в Linux, официально — Ubuntu 22.04 LTS или openEuler.

**96 ГБ — это одна видеокарта на 96 ГБ?**
Нет. Это два чипа по 48 ГБ на одной плате; `npu-smi info` показывает их как Chip 0 и Chip 1, и распределять модель нужно с учётом этого.

**Потянет ли карта большую языковую модель?**
Да, если модель помещается в 48 ГБ одного чипа или вы готовы резать её под параллелизм CANN. Но LPDDR4X медленнее HBM, поэтому рассчитывайте на инференс, а не на обучение.

**Можно ли поставить карту в обычный ПК-корпус?**
Можно, но обязательно с направленным продувом радиатора турбиной: охлаждение пассивное, серверное.
