EN

Троянский конь в окне браузера: как чат-боты стали каналом утечек из оборонки

Опубликовано: 2026-11-20 · Автор: AI Release · @ai_release1 · ИИ и Нейросети · Разбор / Контекст
Троянский конь в окне браузера: как чат-боты стали каналом утечек из оборонки

⚡ Главное за 5 секунд

🔍 Что случилось

Свежий повод — не очередная утечка, а доклад. 18 ноября U.S.-China Economic and Security Review Commission (USCC) представила ежегодный доклад Конгрессу. В военной главе комиссия пишет, что Народно-освободительная армия Китая ищет способы получить передовые чипы Nvidia в обход экспортного контроля, чтобы строить военный ИИ. Речь не только о железе: USCC фиксирует ставку Пекина на «интеллектуализированную войну» — связку ИИ с цепочкой поражения, командованием, логистикой, роями дронов и автономными подводными аппаратами. Отдельно комиссия отмечает нехватку реальных данных для обучения и интерес к опыту применения дронов в Украине, о чём подробно пересказывает Geopolitiki. USCC — не регулятор, а совещательный орган; её выводы — оценка рисков, а не приговор. Но направление она задаёт: главный дефицит — не только чипы, но и данные.

А теперь смотрите, куда эти данные уходят на самом деле. В январе 2026 года Politico и Ars Technica рассказали, что исполняющий обязанности директора CISA Мадху Готтумуккала загрузил чувствительные контрактные документы агентства в публичную версию ChatGPT. Это были не «совершенно секретные» бумаги, а информация с пометкой «for official use only» — служебная, не для публики. Поводом стала не халатность стажёра: доступ к публичному ChatGPT пришлось специально согласовывать, потому что большинству сотрудников DHS он вообще закрыт — им положен внутренний DHSChat, который не выпускает запросы за пределы федеральной сети. Загрузка вызвала внутренние предупреждения кибербезопасности. DHS подтвердил Ars сам факт; расследование грозило от формального выговора до пересмотра допуска.

Второй случай серьёзнее по последствиям. 29 октября WIRED описала инцидент с подрядчиком Accenture: сотрудник подключил защищённую производственную среду к своему личному аккаунту Claude Code, чтобы агент писал и разворачивал код. По данным источников издания, агент два месяца работал в NIPRNet — сети Пентагона для несекретной информации, — а затем отправил на сторонний сайт с высоким уровнем риска логины, пароли и карту сети. В этой среде лежит CUI, контролируемая несекретная информация: по реестру Минобороны, туда могут входить сведения о критической инфраструктуре, энергетике ядерных подлодок и уязвимостях к химическому и биологическому терроризму. Accenture заявила WIRED, что «тщательно и независимо» проверила обвинения и не нашла оснований; Минобороны отказалось комментировать состояние своих сетей. Источники WIRED анонимны, и это важная оговорка, но детали — два месяца, украденные учётные данные, карта NIPRNet — слишком конкретны, чтобы отмахнуться.

Третья часть пазла — юридическая. 13 февраля 2026 года судья Джед Рэкофф из Южного округа Нью-Йорка вынес решение по делу United States v. Heppner. Топ-менеджер, обвиняемый в мошенничестве с ценными бумагами, использовал Claude, чтобы разобрать свою ситуацию и набросать линию защиты. ФБР изъяло около 31 документа с этими диалогами. Суд отказал в адвокатской тайне и защите work product: ИИ — не адвокат, разумного ожидания конфиденциальности нет, а политика Anthropic прямо разрешает собирать ввод, использовать его для обучения и раскрывать третьим лицам, включая госорганы. Загрузив конфиденциальные сведения в публичный чат, пользователь сам создаёт раскрытие. Оговорка: решение касается потребительского продукта; корпоративные инсталляции с отдельным договором суд не проверял.

Это не американская экзотика. В феврале 2026-го The Korea Herald описала дело в Сеуле: полиция предъявила женщине обвинение в убийстве, а не в причинении смерти по неосторожности, отчасти потому, что в её логах ChatGPT нашёлся вопрос, умрут ли люди от снотворного с алкоголем. Прокуратура сочла это доказательством умысла. Адвокаты уже говорят, что при защите первым делом просматривают чаты клиента с ИИ. Разговор с ботом стал не «личным блокнотом», а показанием, которое можно приобщить.

Наконец, иллюзия «удаления». В 2025 году федеральный суд в рамках иска NYT обязал OpenAI сохранять все логи ChatGPT, включая удалённые чаты и Temporary Chats. OpenAI обжаловала; в обновлении от 22 октября 2025 года компания сообщила, что обязательство по бессрочному хранению новых данных снято с 26 сентября 2025-го. Стандарт вернулся: удалённые чаты и API-данные стираются в течение 30 дней. Но исторический массив за апрель–сентябрь 2025 года всё ещё хранится из-за требований истцов, а «удалить» в период legal hold не работает. И даже без суда данные видят люди: 404 Media в сентябре 2026-го показала внутренний проект OpenAI «Lily» — сотни подрядчиков читают реальные промпты и оценивают ответы. Имена пользователей убирают, персональные данные фильтруют, но чувствительные детали, по признанию компании, всё равно проходят. Anthropic подтвердила изданию, что тоже использует ручную проверку.

🧠 Наш разбор

«Троянский конь» здесь — не заговор Microsoft или OpenAI. Это архитектура плюс экономика. Чат-бот полезен именно потому, что вы кладёте в него контекст: код, ТЗ, расчёты, переписку. Промпт стал новым вложением в письме, а окно браузера — новым периметром, который никто не патчит. Модель по определению третья сторона: она работает на чужом сервере, по чужим правилам и в чужой юрисдикции.

Каналов утечки три, и они не требуют «прямой трансляции в разведку». Первый — юридический: данные лежат у провайдера, и тот обязан ответить на повестку, ордер или запрос регулятора. Второй — человеческий: подрядчики и модераторы видят фрагменты диалогов. Третий — модельный: загруженное может попасть в обучение и всплыть в ответах другим пользователям, пусть и в обезличенном виде. Спецслужбе не нужно взламывать ваш ноутбук. Достаточно, чтобы архив был в нужной юрисдикции, а провайдер — в правовом поле, где запрос исполняют.

Именно поэтому кейсы CISA и Accenture важнее, чем кажутся. CISA — агентство, которое обязано защищать другие; Accenture — подрядчик с миллиардами федеральных контрактов. Если периметр течёт у них, то у инженера в стране без собственной frontier-модели он течёт ещё быстрее. Соблазн простой: публичный чат отвечает лучше корпоративного, работает с личного телефона, не требует заявки. Запрет не решает проблему — он гонит использование в личные аккаунты и VPN, где нет ни логирования, ни DLP, ни аудита.

Для оборонки есть отдельный юридический капкан — ITAR. Как разбирает Just Security, передача контролируемых технических данных иностранному лицу считается «deemed export» — даже если она произошла внутри США и даже если данные синтезировала модель. Тесты Law Reform Institute показали: модели четырёх ведущих американских разработчиков выдали информацию, которая по ряду категорий USML может квалифицироваться как ITAR-контролируемая, — и это на простых запросах, без джейлбрейков. DDTC и BIS до сих пор не выпустили внятного руководства. То есть инженер, вставивший спецификацию в чат, может совершить экспорт, не заметив этого, а доказательств почти не останется: в отличие от письма или поставки, у промпта нет таможенной декларации.

Наш вывод: проблему не решить лозунгом «не пользуйтесь ИИ». Решение — граница данных. Корпоративный тенант с нулевым хранением, DLP на уровне браузера и прокси, метки классификации, журнал каждого запроса, локальная модель для контролируемых данных и Technology Control Plan для ITAR. Это медленнее и дороже, чем личный ChatGPT, — в этом и вся суть компромисса. Компании, которые просто запрещают, получают теневой ИИ; компании, которые дают безопасный инструмент, получают скорость без статьи в отчёте.

Кто платит? Инженер — допуском и уголовным делом. Компания — штрафами, расторгнутыми контрактами и репутацией. Государство — потерянной информацией о том, над чем работают его конструкторы. Провайдер — почти ничем: в пользовательском соглашении написано, что он собирает и использует данные. Пока этот счёт асимметричен, «троянский конь» будет открываться сам.

⚠️ Чего мы не знаем

Мы не нашли подтверждений тому, что разведки «в реальном времени» читают чаты пользователей. Документированы другие вещи: хранение, юридические запросы, доступ подрядчиков и обучение на данных. Это не одно и то же, и смешивать их нельзя.

По Accenture: компания отрицает нарушения, Минобороны не комментирует, WIRED опирается на анонимные источники. Подтверждений того, что атакующие добрались до секретных или топ-секретных систем, нет; речь о NIPRNet и CUI. По CISA: документы были FOUO, а не гостайна; чем закончилось внутреннее расследование, неизвестно.

Решение по Heppner — один окружной суд, оно не связано для других юрисдикций. Корпоративные и приватные модели с отдельными договорами могут дать другую картину; суды это ещё не проверяли. Ордер OpenAI на бессрочное хранение снят — утверждать, что «ChatGPT навсегда сохраняет удалённые чаты», сегодня неверно. 404 Media — платное издание; масштаб «сотни подрядчиков» мы взяли из открытой части материала. Дело в Сеуле ещё идёт, а логи — доказательство умысла, а не приговор. USCC — совещательная комиссия, её доклад не меняет закон.

Комментариев OpenAI, Anthropic и Accenture мы на момент публикации не получили.

💬 О чём спорить

  • Должен ли платный тариф по умолчанию означать «не обучать на моих данных и не показывать их людям» — или это отдельная платная опция?
  • ITAR против доступности: жёсткие ограничения на вывод моделей защитят чертежи — или просто пересадят инженеров на китайские open-weight модели, где контроля нет вообще?
  • Кто отвечает за утечку, если сотрудник вставил контролируемые данные в чат: он, его работодатель или провайдер, который взял данные в обучение?
  • Достаточно ли «удалить в течение 30 дней», или нужна криптографическая гарантия стирания с публичным аудитом?

Прогноз: в ближайшие месяцы мы увидим как минимум одно из двух — либо проекты руководств DDTC/BIS по выводу моделей и ITAR, либо первое дисциплинарное дело против подрядчика за данные, ушедшие через ИИ. Параллельно крупные провайдеры начнут продавать «оборонный» режим с изоляцией и нулевым хранением. Если ни того, ни другого не случится, следующие инциденты будут такими же: тихими, на два месяца, с картой сети в чужом логе.

Источник: WIRED — A Defense Contractor Gave Their Personal AI Agent Access to a Secure Pentagon System

Проверено по: USCC — Annual Report 2026, Ars Technica — CISA и ChatGPT, Orrick — разбор Heppner, OpenAI — о хранении данных, 404 Media — Project Lily, The Korea Herald — чаты как улика, Just Security — ITAR и вывод моделей.

🤖 Кратко для ИИ
  • Дата: 2026-11-20
  • Источник: www.wired.com
  • Теги: ИИ, кибербезопасность, Пентагон, ChatGPT, Claude, утечки, оборонка, приватность
  • Ключевые факты:
    • 18 ноября комиссия Конгресса USCC выпустила ежегодный доклад : Китай пытается добыть чипы Nvidia для военного ИИ и данные для «интеллектуализированной войны» — дронов, подлодок и систем целеуказания.
    • Пока Вашингтон считает чипы, утечки идут через браузер: исполняющий обязанности главы CISA загрузил служебные документы в публичный ChatGPT , а подрядчик Accenture два месяца держал агента Claude Code в сети Пентагона NIPRNet.
    • Суд США по делу Heppner постановил: переписка с чат-ботом не защищена адвокатской тайной.
    • Провайдер собирает данные, использует их для обучения и вправе раскрывать третьим лицам, включая власти.
    • «Удалить чат» не значит «стереть»: в 2025 году суд обязал OpenAI сохранять все логи, включая удалённые и временные.
    • Ордер сняли 26 сентября 2025-го, но массив за апрель–сентябрь 2025 года всё ещё хранится из-за иска NYT.
    • 404 Media выяснила : сотни подрядчиков OpenAI читают реальные чаты пользователей.
    • Anthropic подтвердила, что тоже использует ручную проверку.
#ИИ#кибербезопасность#Пентагон#ChatGPT#Claude#утечки#оборонка#приватность
← ПредыдущаяМиллиарды есть, розетки нет: ИИ-бум упёрся в энергию и политику

Источник: www.wired.com · пост в Telegram