ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ИНСТРУМЕНТ И ОБЪЕКТ КИБЕРАТАК: ВЫЗОВЫ ДЛЯ МОНИТОРИНГА ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИ В SOC

Abstract

Генеративный искусственный интеллект (ИИ) за 2024–2026 годы превратился из вспомогательного средства злоумышленников в исполнителя атак, а ИИ-агенты в корпоративной среде сами стали объектом атак. В статье на основе анализа отраслевых отчётов, задокументированных инцидентов и экспериментальных исследований предложена классификация ИИ-угроз по роли ИИ в атаке: ИИ как ускоритель (поиск и эксплуатация уязвимостей, генерация вредоносного кода), ИИ как средство обмана (персонализированный фишинг, дипфейки) и ИИ как цель (prompt injection, перехват агентов, атаки на цепочку поставок ИИ). Для каждого класса определено влияние на группы показателей эффективности мониторинга SOC и предложены меры адаптации. С помощью имитационной модели обработки оповещений показано, что сокращение времени атаки до 15 мин снижает долю истинных оповещений, квалифицированных до завершения атаки, с 99,9 % до 20,8 % в базовой конфигурации SOC; комбинация мер автоматизации повышает эту долю до 68,3 %. Сделан вывод, что ответ на ИИ-угрозы требует не только новых правил обнаружения, но и сокращения времени реакции до машинного масштаба, а также включения ИИ-агентов в периметр мониторинга как нечеловеческих учётных записей.