INFERA AI.SafeCode строит карту поверхности атаки и бьёт по LLM до релиза

⚡ Главное за 5 секунд

• INFERA AI.SafeCode собирает поверхность атаки проекта из SAST, SCA, поиска секретов, DAST и разведки работающего приложения.
• Карта показывает, из какой API-точки входа реально добраться до опасного sink'а: SQL-инъекции, командной инъекции, небезопасной десериализации, утечки чувствительных данных.
• Отдельный режим AI Red Team атакует уже запущенное LLM-приложение и отслеживает регрессии между версиями.

🔍 Что случилось

INFERA Security выложила в свой блог на Хабре разбор двух режимов продукта AI.SafeCode — материал на 8 минут чтения. К моменту публикации статья набрала 4.5K просмотров, рейтинг 25.3 при 11 подписчиках канала. Это вендорский текст про собственный продукт, а не независимое исследование, и читать его стоит с этой поправкой.

Механика такая. Раньше AppSec жил контрольными точками: статический анализ кода, проверка зависимостей, ручной пентест перед релизом, иногда динамическое сканирование. Отчёт выходил списком: CWE, файл, строка, критичность, рекомендация. AI.SafeCode склеивает результаты SAST, SCA, поиска секретов, DAST и разведки работающего приложения в один граф, добавляет граф вызовов и данные о покрытии сканерами. Дальше команда смотрит три среза: сводку рисков (сколько узлов, точек входа и sink'ов, сколько high и critical, какие данные устарели), инвентарь узлов — фильтруемый список файлов, символов, endpoint'ов, внешних адресов и технологий, и главную карту: API-входы, связанные путями с уязвимыми операциями. Для LLM-приложений добавлен второй слой — атака на живой AI-интерфейс: устойчивость модели к нежелательным запросам, качество ответов, регрессии между версиями.

🧠 Наш разбор

Логика простая и, честно, давно напрашивалась. Уязвимость в экспериментальном модуле, до которого снаружи не достучаться, и та же уязвимость в публичном endpoint'е — это два разных риска, а сканер ставит им один severity. Наша оценка: главный товар здесь не «ещё один сканер», а приоритизация по достижимости. Именно её обычно доклеивают руками, часов за восемь, если повезёт.

Что это меняет для команд. Разговор с бизнесом переезжает с «у нас 340 находок» на «до критичного sink'а ведут три публичных endpoint'а, вот они». Это аргумент, который можно проверить и оспорить. По опыту, хуже всего в AppSec живётся не там, где мало сканеров, а там, где отчётов много и непонятно, за что хвататься первым.

Кто выигрывает — AppSec-команды со зрелым CI, у которых сканы уже бегут и есть что склеивать. Кто проигрывает — наша оценка: не конкуренты, а привычка открывать отчёт сканера и читать сверху вниз. Второй риск посерьёзнее: «единая карта проекта» выглядит убедительно ровно до первого вопроса, насколько она полная. Про это в статье ни слова.

⚠️ Чего мы не знаем

В тексте нет ни одного числа про качество: сколько ложных срабатываний, на каком датасете мерили устойчивость модели, какие атаки генерирует AI Red Team, сколько стоит продукт и как он ведёт себя на монорепозитории с сотнями сервисов. Сводка рисков сама по себе, как честно пишет вендор, — «не оценка безопасности одним числом», и это правильная оговорка. Только вот проверить, где граница между картой и реальностью, читателю пока нечем. Цифры просмотров на Хабре — не бенчмарк.

Прогноз: в течение квартала хотя бы один крупный AppSec-вендор (Snyk, Checkmarx или GitLab) выкатит встроенный AI Red Team-модуль или режим атаки на LLM-интерфейс. Если этого не случится, ниша останется за небольшими игроками вроде INFERA.

Дисклеймер: Материал — вендорская статья INFERA Security о собственном продукте AI.SafeCode, поэтому заявленные возможности карты поверхности атаки и AI Red Team официально не подтверждены независимыми тестами, а цифр о ложных срабатываниях и качестве проверок в источнике нет.

Источник: Хабр, блог INFERA Security