{
  "schema_version": "1.0",
  "publisher": "AI Release",
  "article": {
    "title": "Как запустить локальную LLM на ноутбуке с Ryzen 9 8940HX и RTX 5060: настройка, VRAM и скорость",
    "canonical_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
    "language": "ru",
    "article_type": "руководство",
    "published_at": null,
    "updated_at": "2026-11-17T00:00:00+00:00"
  },
  "summary": "Пошаговая настройка локальной генерации текста на игровом ноутбуке: выбор модели под 8 ГБ видеопамяти, квантизация, offload в RAM и замер реальной скорости. Время выполнения: 40–60 минут (первый запуск и замер) Уровень сложности: Intermediate",
  "topics": [
    "как запустить llm на rtx 5060",
    "локальная нейросеть на ноутбуке настройка",
    "сколько vram нужно для локальной модели",
    "llama.cpp настройка на ноутбуке"
  ],
  "entities": [
    {
      "id": "E1",
      "name": "как запустить llm на rtx 5060",
      "type": "продукт/модель",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E2",
      "name": "локальная нейросеть на ноутбуке настройка",
      "type": "тема/инструмент",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E3",
      "name": "сколько vram нужно для локальной модели",
      "type": "тема/инструмент",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E4",
      "name": "llama.cpp настройка на ноутбуке",
      "type": "тема/инструмент",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E5",
      "name": "Windows",
      "type": "платформа/технология",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E6",
      "name": "Linux",
      "type": "платформа/технология",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E7",
      "name": "CUDA",
      "type": "платформа/технология",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E8",
      "name": "NVIDIA",
      "type": "компания",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E9",
      "name": "RTX 5060",
      "type": "продукт/модель",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    },
    {
      "id": "E10",
      "name": "llama.cpp",
      "type": "тема/инструмент",
      "description": "упоминается в заголовке, TL;DR или разделах гайда",
      "url": null
    }
  ],
  "claims": [
    {
      "id": "AR-GUIDE-KAKZAPUSTI-001",
      "statement": "Время выполнения: 40–60 минут (первый запуск и замер)",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#tldr",
      "evidence_excerpt": "Время выполнения: 40–60 минут (первый запуск и замер)"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-002",
      "statement": "Уровень сложности: Intermediate",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#tldr",
      "evidence_excerpt": "Уровень сложности: Intermediate"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-003",
      "statement": "Понадобится: Windows 11 или Linux, драйвер NVIDIA с поддержкой RTX 5060 (версию сверьте с сайтом NVIDIA), Ollama актуальной версии с ollama.com, сборка llama.cpp под CUDA, PowerShell, ~30 ГБ свободного места на SSD",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#tldr",
      "evidence_excerpt": "Понадобится: Windows 11 или Linux, драйвер NVIDIA с поддержкой RTX 5060 (версию сверьте с сайтом NVIDIA), Ollama актуальной версии с ollama.com, сборка llama.cpp под CUDA, PowerShell, ~30 ГБ свободного места на SSD"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-004",
      "statement": "Ключевой вопрос гайда: влезет ли модель целиком в VRAM — считаем бюджет до скачивания, а не после первой ошибки out of memory",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#tldr",
      "evidence_excerpt": "Ключевой вопрос гайда: влезет ли модель целиком в VRAM — считаем бюджет до скачивания, а не после первой ошибки out of memory"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-005",
      "statement": "Критерий успеха: в логе видно offloaded N/N layers to GPU, а memory.used не дотягивает до memory.total",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#tldr",
      "evidence_excerpt": "Критерий успеха: в логе видно offloaded N/N layers to GPU, а memory.used не дотягивает до memory.total"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-006",
      "statement": "ОС: Windows 11 (все команды ниже — PowerShell) или Linux; права администратора для установки драйвера и рантайма",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#requirements",
      "evidence_excerpt": "ОС: Windows 11 (все команды ниже — PowerShell) или Linux; права администратора для установки драйвера и рантайма"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-007",
      "statement": "Драйвер NVIDIA, поддерживающий RTX 5060 — если nvidia-smi его не видит, дальше идти бессмысленно",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#requirements",
      "evidence_excerpt": "Драйвер NVIDIA, поддерживающий RTX 5060 — если nvidia-smi его не видит, дальше идти бессмысленно"
    },
    {
      "id": "AR-GUIDE-KAKZAPUSTI-008",
      "statement": "Ollama — рантайм, который сам скачивает модель и раскладывает слои по GPU/CPU",
      "claim_type": "guide_fact",
      "confidence": "not_assessed",
      "source_type": "заявление источника",
      "verification_status": "reported_unverified",
      "source_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
      "article_anchor": "#requirements",
      "evidence_excerpt": "Ollama — рантайм, который сам скачивает модель и раскладывает слои по GPU/CPU"
    }
  ],
  "relationships": [
    {
      "subject": "Гайд",
      "predicate": "описывает",
      "object": "Как запустить локальную LLM на ноутбуке с Ryzen 9 8940HX и RTX 5060: настройка, VRAM и скорость",
      "claim_id": "AR-GUIDE-KAKZAPUSTI-001"
    },
    {
      "subject": "Гайд",
      "predicate": "содержит шаг",
      "object": "Шаг 1. Инвентаризация: сколько VRAM реально свободно",
      "claim_id": "AR-GUIDE-KAKZAPUSTI-001"
    }
  ],
  "questions_and_answers": [
    {
      "question": "Что это за материал?",
      "answer": "Пошаговая настройка локальной генерации текста на игровом ноутбуке: выбор модели под 8 ГБ видеопамяти, квантизация, offload в RAM и замер реальной скорости.",
      "claim_ids": [
        "AR-GUIDE-KAKZAPUSTI-001"
      ],
      "article_anchor": "#suschnost"
    },
    {
      "question": "Что понадобится?",
      "answer": "ОС: Windows 11 (все команды ниже — PowerShell) или Linux; права администратора для установки драйвера и рантайма; Драйвер NVIDIA, поддерживающий RTX 5060 — если nvidia-smi его не видит, дальше идти бессмысленно; Ollama — рантайм, который сам скачивает модель и раскладывает слои по GPU/CPU; llama.cpp — сборка под CUDA,…",
      "claim_ids": [
        "AR-GUIDE-KAKZAPUSTI-003"
      ],
      "article_anchor": "#requirements"
    },
    {
      "question": "Как это сделать?",
      "answer": "Шаг 1. Инвентаризация: сколько VRAM реально свободно → Шаг 2. Установка рантайма и запуск с контролем вытеснения слоёв → Шаг 3. Замер скорости и фиксация результата",
      "claim_ids": [
        "AR-GUIDE-KAKZAPUSTI-004"
      ],
      "article_anchor": "#step-1"
    },
    {
      "question": "Что может пойти не так?",
      "answer": "Ошибка: CUDA error: out of memory или ggml_backend_cuda_buffer_type_alloc_buffer: allocating <N> MiB failed в логе llama.cpp",
      "claim_ids": [
        "AR-GUIDE-KAKZAPUSTI-006"
      ],
      "article_anchor": "#problems"
    }
  ],
  "limitations": [
    "Ошибка: CUDA error: out of memory или ggml_backend_cuda_buffer_type_alloc_buffer: allocating <N> MiB failed в логе llama.cpp",
    "Причина: веса + KV-кэш + буферы больше свободной VRAM. Часто виноват завышенный -c: контекст 8192 вместо 4096 почти удваивает кэш.",
    "Решение: понизить -ngl (например, с 99 до 24) и/или -c до 2048–4096, включить -fa, затем поднимать -ngl обратно, пока не появится ошибка — шаг назад и есть рабочее значение. Для Ollama те же меры: OLLAMA_KV_CACHE_TYPE=q8_0 и модель меньшего размера.",
    "Ошибка: в логе сервера no compatible GPUs were discovered, в логе модели offloaded 0/<M> layers to GPU"
  ],
  "citation": {
    "preferred_citation": "AI Release. Как запустить локальную LLM на ноутбуке с Ryzen 9 8940HX и RTX 5060: настройка, VRAM и скорость. https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
    "canonical_url": "https://ai-release.org/guides/kak-zapustit-lokalnuyu-llm-na-noutbuke-s-ryzen-9-8940hx.html",
    "publisher": "AI Release"
  }
}