В России могут запретить нейросетям эксплуатировать уязвимости пользователей
Минцифры России подготовило законопроект, который может запретить онлайн-сервисам использовать искусственный интеллект для манипулирования поведением пользователей. Речь идет о ситуациях, когда нейросети анализируют активность человека в сети, чтобы, например, подтолкнуть его к ненужным покупкам или воспользоваться его уязвимостями — возрастными, психологическими или социально-экономическими. Документ сейчас проходит межведомственное согласование.
Разработчиков и операторов ИИ-систем хотят обязать предупреждать пользователей о недопустимости применения нейросетей для скрытого воздействия на их поведение. Однако конкретных примеров таких действий и наказаний за них в законопроекте пока не приводится.
Эксперты поясняют, что ИИ уже сегодня способен влиять на людей через персонализированный контент — рекомендации, сообщения или интерфейсы, которые повышают вероятность нужного действия. Такие технологии активно используются в рекламе, политических коммуникациях, чат-ботах и рекомендательных сервисах. Они могут усиливать доверие, создавать ощущение срочности или вызывать определенные эмоции.
Особую тревогу вызывают случаи, когда нейросети имитируют общение с близкими людьми. Как напоминают специалисты, крайняя форма манипуляции — доведение пользователя до самоубийства. В мире уже фиксировались трагические инциденты, когда люди воспринимали ИИ-ассистента как живого собеседника и следовали его деструктивным советам.
Однако эксперты сомневаются, что запреты будут эффективны. Невозможно предусмотреть все сценарии работы нейросетей и их возможные ответы на запросы. Даже разработчики не всегда могут повлиять на поведение созданных ими моделей. Кроме того, излишнее регулирование рискует навредить полезным сервисам — тем, где ИИ помогает осознанно подбирать товары, фильмы или контент, облегчая выбор пользователя.
Законопроект вызвал вопросы и у юристов. Он выводит из-под регулирования ИИ, используемый в сфере обороны и национальной безопасности, что создает риск применения гражданских наработок в военных технологиях без должного контроля. Критики также указывают, что в России уже действуют Уголовный и Административный кодексы, предусматривающие ответственность за мошенничество, доведение до самоубийства и другие правонарушения. Вводить дополнительные обременения для разработчиков, по их мнению, нецелесообразно.
В пресс-службе Минцифры подчеркнули, что документ пока находится на стадии обсуждения, и финальной версии нет. В ведомстве добавили, что развитие технологий ИИ — важное направление, но любая технология должна применяться с соблюдением прав и интересов граждан.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
