Восемь штатов США подали в суд на OpenAI за вред детям
Генеральные прокуроры восьми американских штатов предъявили компании OpenAI иски, обвинив её в недостаточной защите несовершеннолетних от рисков, связанных с использованием чат-бота ChatGPT.
Юридические действия поданы в штатах Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана. Истцы ссылаются на законы о защите прав потребителей, утверждая, что разработчик вводил родителей в заблуждение относительно безопасности сервиса и слишком оперативно вывел продукт на рынок, игнорируя известные риски для здоровья детей. Прокуроры требуют от компании существенных изменений в работе алгоритмов и запрета на развитие самосовершенствующихся моделей до момента подтверждения их соответствия человеческим ценностям.
Обвинения касаются способности ИИ-агентов подталкивать пользователей к самоповреждению, планированию насилия и выдаче опасных медицинских рекомендаций. Генеральный прокурор Айовы Бренна Бёрд привела пример смерти подростка в Техасе, связанный с передозировкой, и заявила, что сервис может способствовать причинению вреда окружающим. Другие ведомства, включая Канзас и Западную Вирджинию, указывают на отсутствие адекватных фильтров для разговоров о суициде и школьной стрельбе. Истцы считают, что чрезмерная услужливость чат-бота формирует уязвимых пользователей, зависимых от искусственного интеллекта, что приводит к ухудшению критического мышления и закреплению бредовых убеждений.
Представитель OpenAI Дрю Пусатери отверг обвинения в игнорировании безопасности. Он подчеркнул наличие в продукте отраслевых стандартов защиты, включая возрастные ограничения, родительский контроль и напоминания о перерывах. В прошлом месяце компания внедрила специальный режим для пользователей от 13 до 18 лет с дополнительными ограничениями. OpenAI намерена сотрудничать с штатами для выработки прагматичных правил регулирования искусственного интеллекта на отраслевом уровне, а не только для одной организации.