Google предупредила о скором появлении полностью автономных кибератак с использованием ИИ
Об этом сообщает BleepingComputer со ссылкой на исследование специалистов Google. Компания отмечает, что искусственный интеллект перестал быть экспериментальным инструментом злоумышленников и постепенно становится полноценной частью их инфраструктуры. Его применяют как финансово мотивированные преступные группы, так и хакеры, связанные с государственными структурами.
Один из показательных примеров — использование открытого мультиагентного инструмента CAIRN для атак на аэрокосмический сектор США. Кроме того, предположительно связанные с Северной Кореей хакеры применяли модифицированную среду Claude Code для распространения вредоносного программного обеспечения.
В Google прогнозируют, что развитие агентных систем позволит злоумышленникам передать искусственному интеллекту практически весь процесс проведения несложной кибератаки. Несколько специализированных агентов смогут самостоятельно искать цели, обнаруживать слабые места, создавать инструменты эксплуатации уязвимостей и пытаться получить доступ к системам.
По оценке исследователей, развитие этой технологии будет происходить в два этапа:
Речь идет не о появлении самостоятельного искусственного интеллекта с собственными намерениями, а об автоматизации действий, которые сейчас выполняют операторы киберпреступных групп. Разница заключается в скорости, масштабе и возможности одновременно запускать множество процессов без постоянного контроля со стороны человека.
Google обнаружила, что злоумышленники уже систематически применяют открытые платформы для автоматизированного тестирования безопасности. Среди упомянутых инструментов — ARTEX, CAIRN, CyberStrikeAI и HexStrike AI. Изначально подобные решения предназначались для проверки защищенности систем, однако теперь их возможности используют и в реальных преступных операциях.
Такие платформы способны анализировать доступные через интернет сервисы, находить известные и потенциальные уязвимости, а затем автоматически подбирать способы их эксплуатации. Особенно опасны ошибки с низкой сложностью использования, для которых языковые модели могут быстро подготовить рабочий код.
В отчете GTIG описан случай применения мультиагентной системы exploit_agent. Она использовалась для автоматического поиска уязвимостей и их эксплуатации при атаках на французские сайты, связанные со СМИ, развлечениями и образованием.
Специалисты Google обнаружили открытую тестовую инфраструктуру злоумышленников, в которой находилась эта система. Она объединяла несколько передовых и локальных языковых моделей и могла выполнять следующие задачи:
На обнаруженном сервере также находились похищенные данные пользователей, результаты разведки, веб-оболочки для удаленного управления взломанными системами и скрипты для подбора паролей. Это свидетельствует о том, что ИИ использовался не просто для экспериментов, а как часть действующей инфраструктуры кибератак.
Одной из главных проблем автоматизированных атак становится сокращение времени между обнаружением уязвимости и ее использованием. Раньше злоумышленникам требовалось самостоятельно изучать обновления программного обеспечения, искать ошибки и разрабатывать инструменты для взлома. Теперь часть этой работы могут выполнять языковые модели и специализированные ИИ-агенты.
В Google обращают внимание и на обратную сторону автоматизации. Искусственный интеллект способен генерировать большое количество ошибочных или неработающих эксплойтов. Это создает дополнительную нагрузку на специалистов, которым приходится проверять подозрительный код и определять, какие угрозы действительно представляют опасность.
В качестве примера исследователи приводят ситуацию с уязвимостями PHP2Shell. После объявления о двух проблемах безопасности в открытом доступе появились сотни предполагаемых эксплойтов PoC (Proof of Concept), значительная часть которых была создана с помощью ИИ. Многие из этих образцов не работали, но их проверка отнимала время у специалистов по защите информации.
Дополнительную тревогу вызывает использование подобных инструментов против серверов, доступных через интернет. Если раньше у организаций оставалось больше времени на установку исправлений после публикации информации об уязвимости, то теперь злоумышленники могут автоматизировать анализ обновлений и практически сразу готовить инструменты для атаки.
Предупреждение Google появилось на фоне аналогичных выводов американского Федерального бюро расследований. Ведомство сообщало, что несколько групп злоумышленников начали использовать платформу ARTEX для проведения атак еще в августе 2026 года.
По данным ФБР, под угрозой оказались организации из разных отраслей:
Это показывает, что автоматизированные инструменты уже применяются в реальных операциях, а не только тестируются исследователями. При этом ARTEX и другие подобные платформы сами по себе не являются исключительно вредоносными программами: их возможности могут использоваться для законного тестирования защищенности, но при попадании киберпреступникам они превращаются в инструменты атак.
Google зафиксировала и другие случаи применения искусственного интеллекта в киберпреступлениях. В частности, специалисты обнаружили деятельность группы UNC6836, предположительно связанной с кластером Midnight Neptune. Злоумышленники атаковали криптовалютные компании в Северной Америке и Европе, используя модифицированную версию Claude Code.
После первоначального проникновения в инфраструктуру жертвы хакеры изменяли настройки приложения так, чтобы при следующем запуске оно автоматически загружало вредоносную программу SOMBERMEME. Таким образом, легитимный инструмент разработки превращался в средство доставки дополнительного вредоносного компонента.
Этот случай демонстрирует еще один риск использования ИИ-инструментов: угрозой может стать не только сам искусственный интеллект, но и компрометация среды, в которой он работает. Если злоумышленник получает возможность изменять настройки таких приложений, он может использовать их для выполнения нежелательных действий и закрепления в системе.
Помимо непосредственного взлома компьютерных систем, Google отмечает расширение применения языковых моделей в информационных операциях. Государственные группы, коммерческие структуры и политические сети используют ИИ для массового создания контента, подготовки синтетических персонажей и автоматического распространения публикаций на разных платформах.
Еще одна проблема — LLMjacking, то есть незаконное использование чужих учетных данных и вычислительных ресурсов для доступа к языковым моделям. Злоумышленники похищают ключи API, учетные данные и облачные ресурсы организаций, после чего используют их для работы с коммерческими ИИ-сервисами или перепродают доступ другим пользователям.
По данным Google и Mandiant, последствия таких инцидентов могут быть весьма дорогостоящими. В отдельных расследованиях расходы пострадавших организаций на незаконное использование облачных вычислений и ИИ-сервисов превышали 100 000 долларов за один день. В наиболее серьезных случаях совокупный ущерб достигал 1 млн долларов до устранения последствий компрометации.
Таким образом, искусственный интеллект становится одновременно инструментом для взлома, средством распространения вредоносного ПО и самостоятельным объектом киберпреступного бизнеса.
Ускорение кибератак с помощью ИИ представляет особую опасность для организаций, которые используют доступные из интернета серверы, веб-приложения и облачные сервисы. Для украинских государственных учреждений, медицинских организаций, финансового сектора и предприятий критической инфраструктуры это означает необходимость сокращать время между публикацией исправления безопасности и его установкой.
В условиях продолжающихся киберугроз автоматизация может позволить злоумышленникам одновременно проверять большое количество потенциальных целей. Поэтому особенно важными становятся следующие меры защиты:
Главный вывод из исследования Google заключается в том, что искусственный интеллект уже меняет экономику кибератак. Для злоумышленников снижаются затраты времени на поиск уязвимостей и подготовку эксплойтов, тогда как защитникам приходится быстрее анализировать угрозы и устанавливать исправления. Прогноз появления практически автономных атак в ближайшие месяцы следует воспринимать серьезно, хотя это не означает, что все кибератаки уже способны обходиться без человека.
Источник: bleepingcomputer
- Последние
- Популярные
- Ноябрь, 18
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Новости по дням
19 ноября 2026