ИИ нашёл тысячи уязвимостей, но хакеры пока не спешат ими пользоваться
Искусственный интеллект уже научился находить уязвимости в программном обеспечении в масштабах, недоступных обычным исследователям. Однако массового превращения этих находок в реальные кибератаки пока не произошло: подавляющее большинство обнаруженных ИИ проблем злоумышленники не используют.
Искусственный интеллект всё активнее применяется для поиска ошибок в программном коде. Современные модели способны анализировать огромные объёмы исходников, находить подозрительные участки и выявлять потенциальные уязвимости значительно быстрее человека.
На этом фоне специалисты по кибербезопасности ожидали, что хакеры получат практически неисчерпаемый источник новых возможностей для атак. Но статистика показывает более сложную картину: обнаружить уязвимость с помощью ИИ гораздо проще, чем превратить её в работающий инструмент взлома.
ИИ уже обнаруживает десятки тысяч потенциальных проблем
Показательным примером стал проект Anthropic Project Glasswing. В ходе анализа программного обеспечения с помощью ИИ было обнаружено более 23 тысяч потенциальных уязвимостей.
На первый взгляд такая цифра выглядит пугающе. Если искусственный интеллект способен находить тысячи проблем практически автоматически, можно предположить, что злоумышленники получат огромное количество новых вариантов для атак.
Однако дальнейший анализ показывает, что между обнаружением ошибки и её реальной эксплуатацией существует огромная разница.
До реальных атак доходит лишь небольшая часть находок
Согласно анализу VulnCheck, среди 1061 уязвимости, обнаруженной с помощью ИИ, подтверждённое использование в реальных атаках было зафиксировано лишь для 14 случаев.
Это примерно 1,3% от рассмотренных уязвимостей.
Причём подобная ситуация характерна не только для ИИ. Значительная часть всех известных уязвимостей никогда не становится инструментом массовых атак.
Причина заключается в том, что наличие ошибки в коде ещё не означает существование простого способа её эксплуатации.
Найти ошибку проще, чем создать рабочий эксплойт
ИИ может обнаружить подозрительный участок программы и предположить возможный сценарий атаки. Но после этого исследователю или злоумышленнику необходимо проделать ещё большую работу.
Нужно подтвердить наличие проблемы в конкретной версии программного обеспечения, определить условия её эксплуатации, разобраться с ограничениями и защитными механизмами, а затем создать работоспособный способ использования уязвимости.
Некоторые обнаруженные ИИ проблемы также оказываются ложными срабатываниями, дубликатами уже известных уязвимостей или настолько сложными для эксплуатации, что практической ценности для атакующего они практически не имеют.
ИИ пока лучше ищет проблемы, чем использует их
Именно поэтому нынешний эффект искусственного интеллекта в кибербезопасности оказался несколько иным, чем ожидалось.
ИИ значительно увеличивает масштаб поиска, но это не приводит к пропорциональному росту количества успешных атак.
Для специалистов по безопасности в этом есть и положительная сторона. Если искусственный интеллект способен обнаруживать ошибки до того, как их найдут злоумышленники, компании получают возможность быстрее исправлять проблемы и закрывать потенциальные точки входа.
Фактически ИИ может превратить поиск уязвимостей из ручной работы нескольких специалистов в постоянно работающий автоматизированный процесс.
Но ситуация может измениться
При этом считать нынешнюю ситуацию гарантией безопасности было бы преждевременно.
ИИ уже используется не только для поиска потенциальных проблем, но и в различных этапах кибератак. По мере развития автономных ИИ-агентов они смогут самостоятельно выполнять всё больше последовательных операций: от анализа программного обеспечения и поиска слабого места до подготовки инструментов для его эксплуатации.
Если этот технологический барьер будет преодолён, количество обнаруживаемых уязвимостей и количество реально используемых проблем могут начать расти гораздо быстрее.
Пока же статистика показывает другое: огромное количество найденных ИИ уязвимостей не превращается автоматически в огромное количество успешных взломов.
Вывод
Искусственный интеллект уже серьёзно меняет сферу информационной безопасности, сделав поиск уязвимостей значительно быстрее и масштабнее. Но между обнаружением ошибки и её эксплуатацией по-прежнему существует большая дистанция.
Сегодня ИИ скорее увеличивает количество потенциальных проблем, которые можно обнаружить и исправить, чем создаёт поток готовых инструментов для хакеров. Однако дальнейшее развитие автономных ИИ-агентов может постепенно сократить этот разрыв — и именно этот этап станет одним из наиболее важных испытаний для кибербезопасности.