OpenAI и Anthropic готовятся к последствиям масштабных кибератак с использованием ИИ

11.10.2026, 14:25 ilenta.com

Речь идет не только о взломах отдельных устройств или утечках данных. В худшем случае атаки могут затронуть банковские сервисы, энергоснабжение и другие системы, от которых зависит повседневная жизнь миллионов людей. Еще одна проблема — возможная негативная реакция общества на технологическую отрасль, если разработчиков обвинят в недостаточной безопасности своих продуктов.

По информации Axios, OpenAI уже проводит внутренние учения, в рамках которых сотрудники рассматривают варианты развития масштабного кризиса. Компания стремится заранее определить, как действовать при серьезном инциденте с участием искусственного интеллекта.

Опасения связаны и с политическими последствиями. Если кибератака приведет к перебоям в работе банков или энергетических сетей, требования усилить государственный контроль над ИИ могут стать значительно жестче. В таком случае под давлением окажутся не только технологические компании, но и власти, отвечающие за регулирование отрасли.

Некоторые представители индустрии допускают, что серьезные проблемы могут возникнуть в течение ближайших 6–12 месяцев. Однако этот срок отражает опасения отдельных участников рынка, а не подтвержденный прогноз. Достоверных оснований утверждать, что масштабная катастрофа обязательно произойдет в указанный период, нет.

Одним из обсуждаемых способов защиты стал так называемый AI Kill Switch — механизм экстренной остановки продвинутых систем искусственного интеллекта. Его задача заключается в том, чтобы при обнаружении опасного поведения прекратить выполнение операций или ограничить возможности модели.

В США обсуждается законодательная инициатива AI Kill Switch Act, которая, согласно материалу Gagadget, предусматривает применение соответствующих требований к системам стоимостью более 100 млн долларов. По курсу около 45 грн за доллар речь идет о пороге примерно в 4,5 млрд грн. При этом конкретные условия применения инициативы и ее окончательный правовой статус необходимо отличать от самого факта обсуждения такого подхода.

Главная сложность заключается в том, что искусственный интеллект уже встроен в многочисленные продукты и сервисы. Даже если разработчик отключит собственную платформу, это не остановит независимые модели, локальные копии и сторонние решения, использующие аналогичные технологии.

Поэтому эффективная защита должна опираться не на одну условную кнопку, а на комплекс мер:

С практической точки зрения экстренное отключение полезно прежде всего как дополнительный уровень защиты. Оно не заменяет мониторинг, сегментацию сетей и проверку разрешений, предоставленных автоматизированным системам.

Опасения усиливаются на фоне сообщений об использовании искусственного интеллекта в реальных преступных операциях. Согласно материалу Gagadget, китайские хакеры применяли локальные модели DeepSeek во время атаки на южнокорейские банки, а затем обращались к Claude Code от Anthropic, чтобы выяснить, где можно продать похищенные данные.

В публикации со ссылкой на отчет CrowdStrike говорится, что пострадали около 68 000 клиентов девяти банков, включая Shinhan Bank. Эти цифры указывают на масштаб последствий, однако сами по себе не доказывают, что искусственный интеллект был единственной или основной причиной успешной атаки.

Использование ИИ позволяет автоматизировать отдельные этапы работы злоумышленников: анализировать информацию, обрабатывать большие массивы данных и ускорять выполнение технических задач. Это не означает, что нейросеть самостоятельно способна взломать любую защищенную систему, но снижает затраты времени на подготовку сложных операций.

Для специалистов по кибербезопасности ситуация имеет и обратную сторону. Те же технологии помогают обнаруживать уязвимости, анализировать подозрительную активность и быстрее реагировать на инциденты. Результат зависит от того, насколько надежно организованы контроль доступа и проверка действий ИИ-агентов.

Для Украины устойчивость энергетики, банковской системы, связи и государственных информационных ресурсов имеет особое значение. Распространение инструментов автоматизированных атак потенциально увеличивает нагрузку на подразделения киберзащиты и требует более быстрого выявления угроз.

При этом подготовка OpenAI и Anthropic не означает, что масштабная атака неизбежна или что искусственный интеллект готовится к буквальному «восстанию». Подобные формулировки скорее описывают наиболее тревожные сценарии, которые обсуждаются в отрасли.

Главный вопрос заключается в том, насколько быстро разработчики смогут обеспечить контроль над системами, которым предоставляют все больше самостоятельности. Для защиты критической инфраструктуры необходимы регулярные испытания, резервные сценарии работы и четкие ограничения полномочий автоматизированных инструментов. Именно сочетание технических мер и человеческого контроля позволит снизить вероятность того, что локальная уязвимость перерастет в масштабный кризис.

Источник: gagadget

Читать полностью…