Агентный ИИ в критической инфраструктуре: новые угрозы безопасности

kirilljsx

Искусственный интеллект перестал быть просто инструментом — он стал инфраструктурой. И если раньше мы волновались о том, как внедрить ИИ в бизнес-процессы, то сейчас нужно думать о том, как защитить критические системы, которые его используют. Потому что сейчас ИИ проникает в энергосети, транспорт, водоснабжение и здравоохранение, создавая новый уровень уязвимостей, о которых мы раньше даже не подозревали.

Когда ИИ становится частью критической инфраструктуры, одна успешная кибератака может одновременно поразить несколько секторов экономики и вызвать каскадные сбои. И это уже не просто финансовые потери — это угроза безопасности людей. Давайте разберёмся, что на самом деле происходит и как к этому подготовиться.

Как ИИ встраивается в критическую инфраструктуру

В 2026 году ИИ-агенты и модели встраиваются в саму основу работы критических систем. Они анализируют данные, принимают решения и влияют на управление ресурсами в режиме реального времени. Например, ИИ может оптимизировать распределение электроэнергии в сети, контролировать работу водопровода или управлять потоками транспорта на городских магистралях. Всё это значительно повышает эффективность, но одновременно расширяет поверхность атаки для киберпреступников.

Проблема в том, что традиционные подходы к безопасности просто не справляются с новой реальностью. Когда система управления энергосетью использует ИИ для предсказания спроса и балансировки нагрузки, безопасность становится критически важной на каждом уровне архитектуры. Уязвимость в модели ИИ может быть использована для манипуляции данными, которые ИИ анализирует, или для прямого вмешательства в его работу.

Вот что здесь происходит на практике:

Встроенные ИИ-системы в инфраструктуре не отключаются просто так, как обычные приложения. Если ИИ-агент управляет электроснабжением, его невозможно остановить без сбоев в работе системы
Сложность обнаружения атак растёт экспоненциально. Киберпреступники могут использовать технику “варёной лягушки” - незаметно ухудшая производительность ИИ-систем в течение месяцев, и это будет сложно заметить до тех пор, пока не накопится значительный ущерб
Каскадные эффекты означают, что компрометация одной системы может повлиять на другие. Если хакеры взломают ИИ-систему управления водоснабжением, это может повлиять на здравоохранение, которое зависит от водоснабжения

Новый класс киберугроз для инфраструктурного ИИ

Когда ИИ становится частью инфраструктуры, появляются угрозы, которых не было раньше. Это не просто вирусы или фишинг — это целенаправленные атаки на модели, данные и сами архитектуры систем, которые эти модели используют.

Первая большая проблема — отравление данных. ИИ-системы критической инфраструктуры работают с потоками данных в реальном времени. Если киберпреступники смогут внедрить поддельные данные в эти потоки, ИИ будет принимать неправильные решения на основе скомпрометированной информации. Например, если они внедрят в датчики энергосети информацию о якобы избыточной нагрузке, система может начать отключать питание на территориях, где оно на самом деле критически необходимо.

Вторая угроза — манипуляция самими моделями. ИИ-модели обучаются, и они продолжают обновляться во время работы. Если киберпреступники смогут получить доступ к процессу обновления модели или к весам нейросети, они смогут заложить в неё троян, который будет выполнять вредоносные команды при определённых условиях.

Вот основные категории новых угроз:

Отравление данных в реальном времени - внедрение поддельных сигналов датчиков или данных о состоянии систем
Атаки на модели через входные данные - использование так называемых adversarial примеров, которые выглядят нормально для людей, но заставляют ИИ выдавать опасные решения
Компрометация инфраструктуры ИИ - получение доступа к GPU-серверам, хранилищам моделей или системам управления
Социальная инженерия для доступа к системам - традиционные атаки, но нацеленные на специалистов, которые управляют ИИ-инфраструктурой
Долгоживущие угрозы - техника “варёной лягушки”, когда система деградирует так медленно, что никто не замечает критичного момента

Как переходит подход к безопасности

Традиционная кибербезопасность строилась вокруг периметра - защита границы между внутренней сетью и внешним миром. Но когда ИИ встраивается в инфраструктуру, этот подход уже не работает. Нужна встроенная безопасность на всех уровнях архитектуры.

Регулирование уже начинает это отражать. В 2026-2028 годах большинство требований будут формироваться не на уровне пользовательских приложений, а на уровне самой инфраструктуры. Это означает обязательную сертификацию моделей, вычислительных сред и датасетов, особенно в государственном секторе и критических областях. Компании, предоставляющие доступ к большим языковым моделям, будут нести ответственность за безопасность, и это будут не просто требования, а санкции за нарушения.

Новый подход к безопасности включает несколько ключевых изменений:

Локальная инфраструктура вместо облака - организации переходят на собственные вычислительные центры для критических систем, чтобы иметь контроль над всем процессом и не зависеть от облачных провайдеров
ИИ для управления ИИ-инфраструктурой - компании внедряют ИИ-агентов, которые анализируют сбои в системах, находят причины и предлагают решения в режиме реального времени
Измеримые метрики безопасности - вместо просто наличия брандмауэра нужны конкретные показатели: время обнаружения атак, скорость восстановления, уровень защиты моделей
Встроенные механизмы контроля - ограничения на уровне инфраструктуры, которые не позволяют системе выйти за рамки безопасного поведения, даже если модель была скомпрометирована

Практические шаги по защите ИИ-систем в критической инфраструктуре

Если вы отвечаете за безопасность критической инфраструктуры, которая использует ИИ, нужно начать подготовку уже сейчас. Потому что большинство организаций всё ещё рассматривают ИИ как отдельный проект, а не как встроенную часть системы.

Первое, что нужно сделать — переосмыслить архитектуру безопасности. ИИ-модель не должна быть чёрным ящиком. Вам нужна видимость того, как модель принимает решения, какие данные она использует, как она реагирует на аномальные входные данные. Это означает, что вы должны инвестировать в интерпретируемость моделей и в системы мониторинга.

Второе — изолировать критические системы. Если ИИ-система управляет энергосетью, она должна работать на отдельной инфраструктуре, с отдельным доступом и отдельными процедурами безопасности. Локальная инфраструктура (on-premises) здесь даёт вам преимущество - вы контролируете всё физическое оборудование и сетевые каналы.

Третье — внедрить ИИ-агентов для мониторинга и управления. Сложность современной ИИ-инфраструктуры уже не позволяет человеческим операторам вовремя заметить и отреагировать на все проблемы. Специализированные ИИ-агенты могут анализировать поведение системы, находить отклонения и предлагать решения автоматически.

Практические меры защиты:

Сегментация сети и доступа - критические системы должны быть отделены от остальной инфраструктуры, с минимальным количеством точек входа и выхода
Мониторинг в реальном времени - постоянное наблюдение за поведением ИИ-моделей, их входными данными и выходными решениями
Версионирование моделей - сохранение всех версий моделей, чтобы быстро откатиться на предыдущую безопасную версию при обнаружении проблемы
Тестирование на adversarial примеры - регулярное тестирование моделей на способность противостоять целенаправленным атакам
Процедуры инцидентов - четкий план действий при обнаружении компрометации или странного поведения системы
Аудиты и сертификация - регулярная проверка соответствия требованиям безопасности, особенно в государственном секторе
Обучение персонала - люди, которые управляют ИИ-инфраструктурой, должны понимать специфику безопасности в этой области

Уровень защиты	Вид угрозы	Механизм защиты	Инструменты
Данные	Отравление, манипуляция	Валидация входных данных, обнаружение аномалий	SIEM, системы мониторинга
Модель	Adversarial атаки, компрометация	Тестирование устойчивости, версионирование	Специализированные фреймворки, локальное хранилище
Инфраструктура	Несанкционированный доступ, DDoS	Segmentation, аутентификация, rate limiting	Локальные ЦОД, фаерволы, ИИ-агенты для управления
Оркестрация	Каскадные сбои	Встроенные ограничения, отказоустойчивость	ИИ-агенты, системы контроля, резервные каналы

Вопрос инфраструктуры и энергетики

Ещё один аспект, который часто упускают из виду - это сама физическая инфраструктура, на которой работают ИИ-системы. Потому что сейчас узким местом в развитии ИИ становится не столько доступность GPU или CPU, сколько энергия, охлаждение и каналы связи.

Критическая инфраструктура требует стабильности и предсказуемости затрат. Облачные сервисы хороши для экспериментов, но когда ИИ-система управляет реальными системами, вам нужна собственная инфраструктура с гарантированными ресурсами, надёжным электроснабжением и избыточными каналами связи. Потому что если у вас отключится электричество в ЦОД, отключится и ИИ-система, которая управляет энергосетью - вы получите мертвую петлю.

Это ещё одна причина, почему организации всё больше переходят на локальную инфраструктуру. Вам нужен полный контроль над:

Электроснабжением и резервными генераторами
Охлаждением оборудования
Каналами передачи данных между системами
Физической безопасностью серверных помещений
Планами восстановления при сбоях

Именно стоимость и скорость работы моделей будут определять, какие ИИ-решения смогут стать частью реальных критических систем. Дорогостоящие облачные вычисления просто не подходят для систем, которые должны работать 24/7 с минимальными задержками и максимальной надёжностью.

Что остаётся за кадром

Мы говорим о защите, о регулировании, о технических решениях - но есть ещё много вопросов, которые остаются нерешёнными. Как быстро должны развиваться стандарты безопасности? Кто несёт ответственность, если ИИ-система выходит из строя - разработчики, организация-владелец, или поставщик инфраструктуры? Как обучать специалистов, если вся область меняется каждые несколько месяцев?

Одно ясно - если вы работаете с критической инфраструктурой, вам уже пора переходить от режима экспериментирования к режиму ответственного управления ИИ-системами. Потому что если что-то пойдёт не так, пострадают люди, а не просто данные в базе.