{
  "schema_version": "1.0",
  "publisher": "AI Release",
  "article": {
    "title": "Провенанс против выдумки: как не пустить придуманное значение в реальный вызов",
    "canonical_url": "https://ai-release.org/posts/provenans-protiv-vydumki-kak-ne-pustit-pridumannoe-znachenie-v-realnyy-41cf2c0a.html",
    "language": "ru",
    "article_type": "analysis",
    "published_at": "2026-11-12T00:00:00+00:00",
    "updated_at": "2026-11-12T00:00:00+00:00"
  },
  "summary": "Ветку открыл Jang-woo: подтверждения, схемы и гардрейлы смотрят на значение уже после того, как оно пришло, и только на само значение — номер счёта, набранный человеком, и номер, придуманный моделью, это одна и та же строка. Пока модель и агент считаются одним целым, вопрос звучит как «насколько можно доверять модели», и ответ уводит к более сильной модели или более строгому промпту.",
  "topics": [
    "AI",
    "агенты",
    "провенанс"
  ],
  "entities": [
    {
      "id": "E-SRC",
      "name": "discuss.huggingface.co",
      "type": "источник",
      "description": "домен источника, указанного в публикации",
      "url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452"
    },
    {
      "id": "E-T1",
      "name": "AI",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-T2",
      "name": "агенты",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-T3",
      "name": "провенанс",
      "type": "тема",
      "description": "тег публикации",
      "url": null
    },
    {
      "id": "E-AIR",
      "name": "AI Release",
      "type": "издатель",
      "description": "опубликовал материал",
      "url": "https://ai-release.org/"
    }
  ],
  "claims": [
    {
      "id": "AR-PROVENANSP-001",
      "statement": "Ветку открыл Jang-woo: подтверждения, схемы и гардрейлы смотрят на значение уже после того, как оно пришло, и только на само значение — номер счёта, набранный человеком, и номер, придуманный моделью, это одна и та же строка.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-001",
      "evidence_excerpt": "Ветку открыл Jang-woo: подтверждения, схемы и гардрейлы смотрят на значение уже после того, как оно пришло, и только на само значение — номер счёта, набранный человеком, и номер, придуманный моделью, это одна и та же строка."
    },
    {
      "id": "AR-PROVENANSP-002",
      "statement": "Пока модель и агент считаются одним целым, вопрос звучит как «насколько можно доверять модели», и ответ уводит к более сильной модели или более строгому промпту.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-002",
      "evidence_excerpt": "Пока модель и агент считаются одним целым, вопрос звучит как «насколько можно доверять модели», и ответ уводит к более сильной модели или более строгому промпту."
    },
    {
      "id": "AR-PROVENANSP-003",
      "statement": "Участники обсуждают, можно ли вообще развести источник значения и его исполнителя.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-003",
      "evidence_excerpt": "Участники обсуждают, можно ли вообще развести источник значения и его исполнителя."
    },
    {
      "id": "AR-PROVENANSP-004",
      "statement": "Повод — не гипотеза: в посте приводится работа OpenAI и Georgia Tech «Why Language Models Hallucinate», где модель трижды спросили дату рождения в формате DD-MM и получили три разных неверных ответа.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-004",
      "evidence_excerpt": "Повод — не гипотеза: в посте приводится работа OpenAI и Georgia Tech «Why Language Models Hallucinate», где модель трижды спросили дату рождения в формате DD-MM и получили три разных неверных ответа."
    },
    {
      "id": "AR-PROVENANSP-005",
      "statement": "SalutefaceAAC называет принцип «значения берутся из источников» цепочкой провенанса и соглашается, что агентские фреймворки её в основном пропускают.",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-005",
      "evidence_excerpt": "SalutefaceAAC называет принцип «значения берутся из источников» цепочкой провенанса и соглашается, что агентские фреймворки её в основном пропускают."
    },
    {
      "id": "AR-PROVENANSP-006",
      "statement": "По его словам, structured outputs и JSON mode заставляют модель выдавать значения в рамках схемы, но не отслеживают, откуда эти значения взялись: «your \"check the source\" step is the missing piece».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-006",
      "evidence_excerpt": "По его словам, structured outputs и JSON mode заставляют модель выдавать значения в рамках схемы, но не отслеживают, откуда эти значения взялись: «your \"check the source\" step is the missing piece»."
    },
    {
      "id": "AR-PROVENANSP-007",
      "statement": "Он же отсылает к OWASP LLM Top 10 — в переданном тексте упоминание обрывается на слове «excessi».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-007",
      "evidence_excerpt": "Он же отсылает к OWASP LLM Top 10 — в переданном тексте упоминание обрывается на слове «excessi»."
    },
    {
      "id": "AR-PROVENANSP-008",
      "statement": "Timothy-rogers поддерживает мысль, что задача агента должна определяться вне модели, но предлагает другую рамку: «a stability problem rather than a problem of determinative control».",
      "claim_type": "reported_fact",
      "confidence": "not_assessed",
      "source_type": "источник публикации",
      "verification_status": "reported_unverified",
      "source_url": "https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "article_anchor": "#ai-claim-008",
      "evidence_excerpt": "Timothy-rogers поддерживает мысль, что задача агента должна определяться вне модели, но предлагает другую рамку: «a stability problem rather than a problem of determinative control»."
    }
  ],
  "relationships": [
    {
      "subject": "discuss.huggingface.co",
      "predicate": "сообщает о",
      "object": "Провенанс против выдумки: как не пустить придуманное значение в реальный вызов",
      "claim_id": "AR-PROVENANSP-001"
    },
    {
      "subject": "AI Release",
      "predicate": "публикует",
      "object": "Провенанс против выдумки: как не пустить придуманное значение в реальный вызов",
      "claim_id": "AR-PROVENANSP-001"
    }
  ],
  "questions_and_answers": [
    {
      "question": "О чём эта публикация?",
      "answer": "Провенанс против выдумки: как не пустить придуманное значение в реальный вызов. Ветку открыл Jang-woo: подтверждения, схемы и гардрейлы смотрят на значение уже после того, как оно пришло, и только на само значение — номер счёта, набранный человеком, и номер, придуманный моделью, это одна и та же строка.",
      "claim_ids": [
        "AR-PROVENANSP-001"
      ],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Что произошло?",
      "answer": "Ветку открыл Jang-woo: подтверждения, схемы и гардрейлы смотрят на значение уже после того, как оно пришло, и только на само значение — номер счёта, набранный человеком, и номер, придуманный моделью, это одна и та же строка. Пока модель и агент считаются одним целым, вопрос звучит как «насколько можно доверять модели», и ответ уводит к более сильной модели или более строгому промпту. Участники обсуждают, можно ли вообще развести источник значения и его исполнителя.",
      "claim_ids": [
        "AR-PROVENANSP-001",
        "AR-PROVENANSP-002",
        "AR-PROVENANSP-003"
      ],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Кто источник?",
      "answer": "discuss.huggingface.co: https://discuss.huggingface.co/t/how-to-keep-what-the-model-makes-up-out-of-the-agent/190452",
      "claim_ids": [],
      "article_anchor": "#ai-knowledge"
    },
    {
      "question": "Что остаётся неизвестным?",
      "answer": "Материал передаёт сведения указанного источника; независимая проверка и полные параметры в публикации не приведены.",
      "claim_ids": [],
      "article_anchor": "#ai-knowledge"
    }
  ],
  "limitations": [
    "Независимая проверка сведений в публикации не указана.",
    "Полные параметры, даты и официальные документы могут отсутствовать.",
    "Материал является пересказом источника, а не первоисточником."
  ],
  "citation": {
    "preferred_citation": "AI Release. «Провенанс против выдумки: как не пустить придуманное значение в реальный вызов». 2026-11-12. https://ai-release.org/posts/provenans-protiv-vydumki-kak-ne-pustit-pridumannoe-znachenie-v-realnyy-41cf2c0a.html",
    "canonical_url": "https://ai-release.org/posts/provenans-protiv-vydumki-kak-ne-pustit-pridumannoe-znachenie-v-realnyy-41cf2c0a.html",
    "publisher": "AI Release"
  }
}