В США предлагают блокировать ИИ через суд при угрозе ущерба от 1 млрд долларов
Стартап Anthropic внес в Конгресс США законопроект, позволяющий судам приостанавливать разработку искусственного интеллекта при риске ущерба более 1 млрд долларов или гибели людей.
Американский разработчик языковых моделей Claude, компания Anthropic, инициировала обсуждение в Конгрессе США мер, позволяющих властям блокировать выпуск систем искусственного интеллекта при наличии серьезных угроз. Инициатива предполагает, что федеральные судьи смогут накладывать запреты на основе независимого аудита, если прогнозируемый ущерб превысит 1 миллиард долларов или существует риск гибели или тяжелых травм более 50 человек.
Основаниями для вмешательства станут риски создания биологического оружия, выход модели из-под контроля разработчика или использование технологии для проведения кибератак. Оценку потенциальной опасности поручено проводить независимым экспертам, зарегистрированным в Министерстве торговли США. После получения заключения ведомство имеет право обратиться в суд с требованием о приостановке проекта.
Документ обязывает создателей ИИ создавать внутренние подразделения безопасности, публиковать отчеты о работе моделей и оперативно сообщать регулятору о критических сбоях. Особое внимание уделено защите информаторов, раскрывающих информацию о нарушениях, от преследования. Предложенные нормы частично перекликаются с законами Калифорнии о регулировании ИИ, принятыми в 2025 году.
Инициатива отражает стремление Anthropic к формированию единых федеральных правил безопасности, что считается более эффективным, чем разрозненные законы отдельных штатов. Несмотря на то что компания ранее была отнесена властями к неблагонадежным поставщикам, она продолжает вести конструктивный диалог с законодателями. В Anthropic считают, что такие меры необходимы для контроля над наиболее мощными системами искусственного интеллекта.
На текущий момент ни один зафиксированный инцидент в сфере ИИ не привел к ущербу более 1 млрд долларов или массовой гибели людей. Законопроект предвосхищает другие инициативы в Конгрессе, касающиеся раскрытия информации о рисках. Дальнейшая судьба документа зависит от рассмотрения его комитетами Конгресса США.