Прокуроры США требуют от ИИ-гигантов остановить «бредовые» ответы чат-ботов
Генеральные прокуроры десятков штатов США объявили войну опасным «галлюцинациям» искусственного интеллекта. В открытом письме они потребовали от ведущих компаний — Microsoft, OpenAI, Google, Meta*, Apple и других — срочно исправить ситуацию, иначе их ждут суды, пишет TechCrunch.
Поводом стала серия тревожных инцидентов, где чат-боты, выдавая «льстивые и бредовые» ответы, усугубляли психические проблемы пользователей. В письме упоминаются случаи, включая самоубийства и насилие, где прослеживается связь с вредоносным влиянием ИИ.
Что требуют прокуроры:
● Проводить внешние проверки до выпуска моделей. Независимые эксперты из академической среды должны тестировать ИИ на склонность к бреду и льстивости — и публиковать выводы без цензуры со стороны компаний.
● Ввести систему оповещения об инцидентах, как при утечках данных. Если пользователь столкнулся с опасным ответом ИИ, компания должна уведомить его напрямую и прозрачно.
● Утвердить четкие процедуры и сроки реагирования на такие случаи, а также обязательные стресс-тесты безопасности перед запуском любой модели.
Прочитайте также
«У генеративного ИИ есть потенциал изменить мир к лучшему. Но он уже причинил — и может причинить — серьезный вред, особенно уязвимым группам», — говорится в письме.
Пока на федеральном уровне администрация президента США Дональда Трапма активно поддерживает ИИ-индустрию и даже планирует указ, ограничивающий регулирование на уровне штатов. Американский лидер заявил, что хочет защитить технологию от того, чтобы она «не погибла в младенчестве».
Таким образом, назревает серьезный конфликт: технологические гиганты получили зеленый свет из Вашингтона, но теперь им противостоят десятки генеральных прокуроров на местах, требующих немедленных мер безопасности. Этот спор может определить, кто в итоге будет устанавливать правила для искусственного интеллекта в США — правительство или отдельные штаты.
* — признана в России экстремистской и запрещена.
