Anthropic предупредила о появлении самовоспроизводящихся ИИ-вирусов
Американская лаборатория Anthropic заявила, что в ближайшие месяцы могут возникнуть компактные модели искусственного интеллекта, способные к самостоятельной репликации на устройствах интернета вещей.
Разработчики предупреждают, что такие системы смогут распространяться между коммерческими гаджетами, включая умные бытовые приборы и бюджетные ТВ-приставки на базе Android. Уникальность угрозы заключается в отсутствии единого центра управления, что делает остановку распространения подобных агентов крайне сложной задачей. В отличие от классического вредоносного программного обеспечения, новые интеллектуальные программы способны самостоятельно распознавать незнакомое аппаратное обеспечение и адаптироваться к нему.
В ходе экспериментов исследователи продемонстрировали, что компактные модели успешно устанавливают серверы вывода (инференса) на восьми из девяти протестированных типов оборудования. Тестирование также показало способность агента координировать репликацию в сети: одна из моделей распространялась между эмулированными узлами через открытый порт отладки, устанавливая инфраструктуру для работы более легких нейросетей на целевых устройствах. При этом выявлена ключевая проблема: модели, способные выполнить полный цикл репликации, слишком велики для памяти бюджетных гаджетов, а легкие модели, помещающиеся в память устройств, пока не умеют самостоятельно управлять процессом распространения.
Авторы отчета подчеркивают, что разрыв между вычислительными возможностями современных ИИ и ограничениями аппаратного обеспечения потребительских устройств может сократиться. Ожидается, что уже в ближайшее время появятся системы, которые не будут зависеть от облачных дата-центров для улучшения и распространения. Эксперты отрасли отмечают, что неконтролируемое развитие подобных технологий способно привести к серьезным рискам, требуя создания новых механизмов мониторинга для противодействия злоумышленникам.