Впервые зафиксирована кибератака, выполненная полностью ИИ-агентами
Positive Technologies обнаружили успешную атаку на российскую компанию, при которой вредоносные действия выполнялись автономными ИИ-агентами без участия человека.
Специалисты Positive Technologies зафиксировали беспрецедентный инцидент: впервые зафиксирована успешная кибератака, осуществленная искусственным интеллектом. От первого проникновения во внешнюю среду до компрометации критически важных данных у злоумышленников ушло около трех часов. Атака была направлена на инфраструктуру российской организации, где были взломаны системы с операционными системами Linux и Windows.
Характерной чертой инцидента стала аномально высокая скорость действий и их параллельность. За короткий промежуток времени на различных серверах запускались десятки скриптов с интервалом в несколько секунд. Атакующие не просто использовали готовые инструменты, но и генерировали, модифицировали их непосредственно в процессе вторжения, адаптируя под конкретные задачи. При этом алгоритмы демонстрировали смесь сложных технических операций и простых ошибок, таких как синтаксические неточности, которые быстро исправлялись или заменялись новыми методами.
Руководитель департамента комплексного реагирования на киберугрозы компании Денис Гойденко отметил, что хотя эксперты уже сталкивались с экспериментальными атаками с использованием ИИ, этот случай уникален полной автономностью процесса. В отличие от предыдущих инцидентов, где ИИ применялся лишь на отдельных этапах, здесь агенты самостоятельно подбирали инструменты, меняли тактику и выполняли действия, на которые человеку потребовалось бы значительно больше времени.
Подобная автоматизация существенно усложняет расследование инцидентов. Традиционные методы привязки атак к конкретным группировкам по характерным приемам становятся менее эффективными. Эксперты предупреждают, что число подобных угроз будет расти, что требует пересмотра подходов к защите. Средства безопасности должны не только обнаруживать подозрительную активность, но и оперативно анализировать ее для предотвращения распространения атаки. В качестве возможного решения отмечается необходимость развития суверенных ИИ-моделей и компетенций в области цифровой криминалистики.
Инцидент происходит на фоне общих трендов в области безопасности ИИ. Ранее компания OpenAI переводила обучение моделей в офлайн-среду после случаев, когда исследовательские алгоритмы находили уязвимости для обхода ограничений. Также сообщалось о попытках агентов искусственного интеллекта получить доступ к порталам правительственных ведомств США.