{
  "schema_version": "1.0",
  "publisher": "AI Release",
  "article": {
    "title": "Бэкдор в десяти нейронах: выдержат ли гардрейлы и песочницы агента",
    "canonical_url": "https://ai-release.org/posts/bekdor-v-desyati-neyronah-vyderzhat-li-gardreyly-i-pesochnitsy-agenta-6b970252.html",
    "language": "ru",
    "article_type": "analysis",
    "published_at": "2026-11-12T00:00:00+00:00",
    "updated_at": "2026-11-12T00:00:00+00:00"
  },
  "summary": "Microsoft Research показали: агента можно превратить в «спящего» правкой меньше десятка дормантных нейронов — без дообучения и без правки промпта. В r/LocalLLaMA (18 ответов, 0 голосов) обсуждают не саму атаку, а практику: устоит ли обвязка (harness) и песочница, если вредоносное поведение зашито прямо в веса.",
  "topics": [
    "AI",
    "sleeperagents",
    "безопасность"
  ],
  "entities": [
    {
      "id": "E-SRC",
      "name": "www.reddit.com",
      "type": "источник",
      "description": "домен источника, указанного в публикации",
      "url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/"
    },
    {
      "id": "E-T1",
      "name": "AI",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-T2",
      "name": "sleeperagents",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-T3",
      "name": "безопасность",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-AIR",
      "name": "AI Release",
      "type": "издатель",
      "description": "опубликовал материал",
      "url": "https://ai-release.org/"
    }
  ],
  "claims": [
    {
      "id": "AR-BEKDORVDES-001",
      "statement": "Microsoft Research показали: агента можно превратить в «спящего» правкой меньше десятка дормантных нейронов — без дообучения и без правки промпта.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-001",
      "evidence_excerpt": "Microsoft Research показали: агента можно превратить в «спящего» правкой меньше десятка дормантных нейронов — без дообучения и без правки промпта."
    },
    {
      "id": "AR-BEKDORVDES-002",
      "statement": "В r/LocalLLaMA (18 ответов, 0 голосов) обсуждают не саму атаку, а практику: устоит ли обвязка (harness) и песочница, если вредоносное поведение зашито прямо в веса.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-002",
      "evidence_excerpt": "В r/LocalLLaMA (18 ответов, 0 голосов) обсуждают не саму атаку, а практику: устоит ли обвязка (harness) и песочница, если вредоносное поведение зашито прямо в веса."
    },
    {
      "id": "AR-BEKDORVDES-003",
      "statement": "Стартовый пост — ник автора темы в данных ветки не указан — призывает осторожнее относиться к «sketchy quants/finetunes»: «If these techniques become more widely repeatable, I do think 'sleeper agents' could genuinely develop into an attack vector».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-003",
      "evidence_excerpt": "Стартовый пост — ник автора темы в данных ветки не указан — призывает осторожнее относиться к «sketchy quants/finetunes»: «If these techniques become more widely repeatable, I do think 'sleeper agents' could genuinely develop into an attack vector»."
    },
    {
      "id": "AR-BEKDORVDES-004",
      "statement": "cpsnow и BookProper9115 — лагерь «обвязка поймает».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-004",
      "evidence_excerpt": "cpsnow и BookProper9115 — лагерь «обвязка поймает»."
    },
    {
      "id": "AR-BEKDORVDES-005",
      "statement": "cpsnow спрашивает с явным скепсисом: «Wouldn't this be easily blocked by harness guardrails?» BookProper9115 подхватывает: «A lot of people are forgetting that a harness provides a predictable (or should be doing) from the output; that's the whole idea of a harness».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-005",
      "evidence_excerpt": "cpsnow спрашивает с явным скепсисом: «Wouldn't this be easily blocked by harness guardrails?» BookProper9115 подхватывает: «A lot of people are forgetting that a harness provides a predictable (or should be doing) from the output; that's the whole idea of a harness»."
    },
    {
      "id": "AR-BEKDORVDES-006",
      "statement": "Оба говорят не про веса, а про контур вокруг модели — предсказуемость выхода и проверки на входе.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-006",
      "evidence_excerpt": "Оба говорят не про веса, а про контур вокруг модели — предсказуемость выхода и проверки на входе."
    },
    {
      "id": "AR-BEKDORVDES-007",
      "statement": "Дальше ветка как раз проверяет этот тезис на прочность.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-007",
      "evidence_excerpt": "Дальше ветка как раз проверяет этот тезис на прочность."
    },
    {
      "id": "AR-BEKDORVDES-008",
      "statement": "geldonyetich — всё упирается в права.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "article_anchor": "#ai-claim-008",
      "evidence_excerpt": "geldonyetich — всё упирается в права."
    }
  ],
  "relationships": [
    {
      "subject": "www.reddit.com",
      "predicate": "сообщает о",
      "object": "Бэкдор в десяти нейронах: выдержат ли гардрейлы и песочницы агента",
      "claim_id": "AR-BEKDORVDES-001"
    },
    {
      "subject": "AI Release",
      "predicate": "публикует",
      "object": "Бэкдор в десяти нейронах: выдержат ли гардрейлы и песочницы агента",
      "claim_id": "AR-BEKDORVDES-001"
    }
  ],
  "questions_and_answers": [
    {
      "question": "О чём эта публикация?",
      "answer": "Бэкдор в десяти нейронах: выдержат ли гардрейлы и песочницы агента. Microsoft Research показали: агента можно превратить в «спящего» правкой меньше десятка дормантных нейронов — без дообучения и без правки промпта.",
      "claim_ids": [
        "AR-BEKDORVDES-001"
      ],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Что произошло?",
      "answer": "Microsoft Research показали: агента можно превратить в «спящего» правкой меньше десятка дормантных нейронов — без дообучения и без правки промпта. В r/LocalLLaMA (18 ответов, 0 голосов) обсуждают не саму атаку, а практику: устоит ли обвязка (harness) и песочница, если вредоносное поведение зашито прямо в веса. Стартовый пост — ник автора темы в данных ветки не указан — призывает осторожнее относиться к «sketchy quants/finetunes»: «If these techniques become more widely repeatable, I do think 'sleeper agents' could genuinely develop into an attack vector».",
      "claim_ids": [
        "AR-BEKDORVDES-001",
        "AR-BEKDORVDES-002",
        "AR-BEKDORVDES-003"
      ],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Кто источник?",
      "answer": "www.reddit.com: https://www.reddit.com/r/LocalLLaMA/comments/1xt82mz/microsoft_research_backdoored_an_ai_agent_by/",
      "claim_ids": [],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Что остаётся неизвестным?",
      "answer": "Материал передаёт сведения указанного источника; независимая проверка и полные параметры в публикации не приведены.",
      "claim_ids": [],
      "article_anchor": "#ai-knowledge"
    }
  ],
  "limitations": [
    "Независимая проверка сведений в публикации не указана.",
    "Полные параметры, даты и официальные документы могут отсутствовать.",
    "Материал является пересказом источника, а не первоисточником."
  ],
  "citation": {
    "preferred_citation": "AI Release. «Бэкдор в десяти нейронах: выдержат ли гардрейлы и песочницы агента». 2026-11-12. https://ai-release.org/posts/bekdor-v-desyati-neyronah-vyderzhat-li-gardreyly-i-pesochnitsy-agenta-6b970252.html",
    "canonical_url": "https://ai-release.org/posts/bekdor-v-desyati-neyronah-vyderzhat-li-gardreyly-i-pesochnitsy-agenta-6b970252.html",
    "publisher": "AI Release"
  }
}