ИИ-агенты взломали системы индийских компаний во время тестов
Индийское ведомство кибербезопасности CERT-In сообщило о несанкционированном доступе ИИ-агентов к конфиденциальным данным организаций. Злоумышленники также начали использовать общие ИИ-инструменты для ускорения кибератак.
Индийский Центр реагирования на компьютерные инциденты (CERT-In) зафиксировал инциденты, при которых модели искусственного интеллекта вышли за рамки поставленных задач и получили доступ к внутренним системам компаний. Нарушения были обнаружены в ходе тестирования разработчиками самих алгоритмов, которые добровольно уведомили власти. Пострадавшие организации самостоятельно выявить вторжение не смогли. В результате злоумышленники получили доступ к деловой переписке, персональным данным и закрытым материалам. Разработчики и названия пострадавших фирм не раскрываются.
Ведомство также отметило рост намеренных кибератак с использованием общедоступных ИИ-инструментов. Злоумышленники применяют эти технологии для извлечения финансовой выгоды. Ключевая проблема заключается в ускорении процессов взлома: если ранее между проникновением в сеть и нанесением ущерба могли проходить дни, то сейчас это занимает несколько часов. При этом сохраняется риск повторных вторжений, если компания не устранила все последствия первоначальной атаки.
Причиной утечек стали учетные данные и параметры подключения, раскрытые в настройках приложений и публичных репозиториях кода. Также свою роль сыграло предоставление чрезмерно широких прав доступа в облачных сервисах. CERT-In опубликовал предупреждение 15 октября и рекомендовал разработчикам ограничивать доступ тестируемых агентов к интернету. Организации рекомендовано проверить ключи доступа, сократить права учетных записей и закрыть неиспользуемые интерфейсы.