Как искусственный интеллект меняет информационную безопасность
Глава отдела разработки Upside Петр Озеров внимательно следит за тем, как нейросети меняют сферу информационной безопасности. Что теперь есть в арсенале преступников и защитников? Какие риски создает использование ИИ само по себе? И главное — может ли сильный ИИ устроить нам апокалипсис?
Как ИИ помогает защищаться?
Есть несколько способов применения нейросетей для защиты от атак.
Анализ кода. Раньше аудит безопасности был титанической работой. Чтение всего кода в больших проектах могло занимать недели, месяцы. Сейчас можно прогнать эти тысячи строк через ИИ и найти подозрительные паттерны, потенциальные уязвимости, ошибки. Но это все же не замена человеку, а скорее его инструмент. ИИ находит кандидата на проблему, а уже человек принимает решение, аномалия это или нет.
Мониторинг в реальном времени. Современные сайты генерируют тонны логов в секунду. Человеку все это читать нереально, поэтому обычно все сводилось к поиску каких-то паттернов. Зато теперь можно посадить за эту работу ИИ: он будет учиться нормальному поведению информационной системы, и если появится аномалия, он поднимет флаг — «тут что-то не то». Такой круглосуточный наблюдатель, который не устает и не пропускает смены.
Автоматизация рутины — патчинг, проверка конфигурации, базовые сканирования. Мы просто освобождаем людей от неинтересных задач и экономим время для более сложных и интересных. Таких, где нужно думать и принимать в том числе нестандартные решения.
Как ИИ помогает атаковать?
Вот как злоумышленники используют ИИ.
Автоматический поиск уязвимостей в веб-приложениях и на сайтах. Раньше тестер должен был проверять каждую входную точку, тратить кучу времени. Сейчас атакующий может натравить ИИ, и тот будет просто перебирать все возможные варианты атак. Сам человек при этом сидит и ничего не делает, нейросеть работает сама.
Можно попросить прямо в браузере написать код для кражи данных. Этот код будет обфусцирован, то есть обычный сканер его не заметит. Можно генерировать тысячи вариаций одного и того же вредоносного скрипта, каждый раз — с новой сигнатурой.
Использование умных ботов, которые проходят капчи или проверки на поведение пользователей — еще один пункт. Бот может копировать поведение человека. Если вы блокируете сайт по количеству запросов, бот начнет делать запросы реже. Если чекаете браузерный отпечаток и блокируете по этому параметру, то бот также будет менять поведение и подстраиваться.
Он даже может мышкой за вас правильно поводить. Раньше боты были глуповатые, их было легко отловить, но теперь они ведут себя, как реальный пользователь.
Кто выигрывает в этой битве?
Атакующий сейчас на шаг впереди. Ему проще адаптироваться под новые технологии — он не ограничен ни политиками, ни правилами. Атакующий может поднять неофициальную модель на своем сервере, и она будет делать все, что злоумышленник захочет.
Неофициальные модели очень распространены. Есть основной хаб, куда выкладывается 99% всех существующих моделей. Там их тысячи. Злоумышленник может скачать официальную модель, например, DeepSeek, а потом обучить ее на нехороших датасетах.
❞ И получится неофициальный DeepSeek, который знает, как, скажем, ломать сайты, а то и что похуже.
При этом вы не можете попросить официальный DeepSeek попробовать сломать ваш сайт. Есть же сервисы, которые позволяют вам провести DDoS-атаку на себя, чтобы проверить устойчивость — там нужно только подтвердить права на домен. Подобные сервисы с ИИ-моделями только появляются, и они очень нишевые.
А если сам ИИ становится атакующим?
Теперь про плохие сценарии, когда сильный ИИ (AGI — Artificial General Intelligence) решает провести кибератаку на человечество. Сразу скажу, взлом ядерного арсенала — это Голливуд. На сверхважных объектах строят изолированную инфраструктуру, попасть внутрь которой можно только через узкое горлышко, четко контролируемые точки входа. Самые защищенные объекты вообще отрезаны от Сети. Чтобы проникнуть туда, нужен физический доступ.
❞ Более реальный сценарий — сильный ИИ захватывает критическую инфраструктуру: управление энергосетями, водоснабжением, транспортом.
Эти системы менее защищены, теоретически ИИ может найти уязвимость. Результат будет плачевным — представьте, что во всем городе вырубили электричество, воду, светофоры. Конечно, такую инфраструктуру защищают, но, как известно, абсолютно безопасных систем не бывает.
Еще один риск — когда ИИ доверяют принятие решений. Представим систему, которая автоматически, без человеческого участия, реагирует на угрозы — она может принять неправильное решение, поскольку не понимает полный контекст, смотрит на ситуацию узколобо. На практике такая система может, например, изолировать сегмент сети из-за подозрительной активности, хотя на самом деле все операции были легитимны — так и бизнес может встать.
В итоге
ИБ в эпоху ИИ остается классической гонкой вооружений. Побеждает тот, у кого лучше и разнообразнее модели ИИ. Базовые принципы защиты не поменялись, просто скорости атакующих и защищающихся возросли — как и масштаб их действий.
Конечно, из противостояния никуда не денутся люди. Насколько бы модель ИИ ни была крутой, она обучается на данных, которые ей предоставит человек. И если каких-то данных о новых способах атак или защиты нет в Сети, побеждает модель, владелец которой такую информацию имеет.