Anthropic представила FlashProof для проверки подлинности ответов ИИ
Компания Anthropic разработала систему FlashProof, позволяющую криптографически подтвердить, что ответ искусственного интеллекта создан заявленной моделью, а не подменена другой нейросетью.
Исследователи из Anthropic опубликовали открытый прототип FlashProof, предназначенный для верификации происхождения вычислений. Система использует криптографические доказательства, аналогичные цифровым подписям в электронной почте, чтобы гарантировать подлинность источника данных. Это решение позволяет пользователям убеждаться, что запрос обработал именно тот алгоритм, за который они платят или которому доверяют.
Технология защищает от манипуляций со стороны провайдеров. В частности, она предотвращает скрытую замену дорогостоящей модели более дешевой для экономии ресурсов или использование мощных систем для искусственного завышения результатов тестирования. Также механизм помогает проверять заявления третьих лиц о том, что конкретная задача, например аудит кода или оценка бизнес-плана, выполнена передовой нейросетью, а не упрощенной версией.
Для функционирования системы лаборатории обязаны публиковать криптографические отпечатки своих моделей. Эти данные позволяют сопоставить результат с конкретным набором весов, не раскрывая саму архитектуру или числовые параметры, что сохраняет коммерческую тайну. Проверка доказательства возможна на локальном устройстве пользователя без доступа к исходным весам и повторного запуска модели, что делает процесс легковесным.
Эксперименты проводились на модели Llama 4 Maverick от Meta с 400 миллиардами параметров. Результаты показали, что создание доказательства занимает значительно больше времени, чем обычная генерация ответа. Пропускная способность при обработке входного окна составила 110 токенов в секунду, а проверка одного доказательства на процессоре заняла около 17 секунд. Средний размер криптографического доказательства достигал 18,78 мегабайт.
Авторы подчеркивают, что FlashProof находится на стадии исследований и не имеет планов немедленного внедрения. Система работает постфактум, что добавляет задержки, и поддерживает только модели смешанной архитектуры (MoE). Код и спецификация опубликованы на GitHub под открытой лицензией. Разработчики рассчитывают, что сообщество изучит промежуточный результат и поможет усовершенствовать технологию для будущего применения в закрытых коммерческих продуктах.