Права пользователей ИИ-решений хотят защитить в Европе и России. Это делает Роспотребнадзор

В предложения по регулированию ИИ впишут европейский опыт и российские жалобы. В Роспотребнадзоре готовят предложения по регулированию технологий на основе искусственного интеллекта. Ведомство считает, что пользователь должен иметь право ограничить и контролировать применение бизнесом ИИ-технологий. Помимо этого, компании хотят обязать информировать пользователей о том, что они общаются с ИИ-ботами, пишет «Коммерсант».

Замначальника управления федерального государственного надзора в области защиты прав потребителей ведомства Марина Кочнева, поделилась новостью о том, что Роспотребнадзор подготовит предложения для нормативного регулирования рынка ИИ-решений в части защиты прав потребителей технологий ИИ.

По ее словам во время конференции «Партнерство БРИКС по развитию цифровой экономики», для этого будет изучен законодательный опыт Европейского союза в сфере регулирования ИИ, в котором прописана возможность нажать кнопку «стоп», сохранить за человеком возможности контроля применения ИИ.

В Роспотребнадзоре также считают, что обязательство по информированию пользователей о том, что они взаимодействуют с искусственным интеллектом, должно быть утверждено на законодательном уровне. Кроме того, должно быть определено лицо, несущее ответственность за нарушение прав потребителя при взаимодействии с ИИ-решениями.

Кочнева отметила, что в предложениях по регулированию рынка будут учитываться жалобы пользователей, которые, по ее словам, в большинстве связаны с неспособностью ИИ решать проблемы. «Люди требуют внесения изменений в законы, чтобы ИИ использовался дозированно, и, если проблема потребителя не решена за определенное время, его переключали на оператора», добавила она.

С каждым годом популярность нейросетей в России только набирает обороты. Член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин, рассказал, что в прошлом году, по данным Yota, мобильный трафик сервисов по работе с ИИ увеличился в 3 раза, а сама аудитория ИИ-ботов выросла в 3,5 раза.

По его словам, многие граждане не всегда знают, что пользуются решением на основе ИИ. Например, те же рекомендательные системы функционируют на основе машинного обучения, а картографические сервисы так или иначе используют интеллектуальные системы. «ИИ все быстрее проникает на потребительский рынок, и, конечно, уже сейчас нужно прорабатывать вопрос законодательного регулирования технологии», — считает депутат.

Немкин считает, что одним из основных отрицательных последствий развития ИИ является использование технологии в противоправных целях. Он отмечает, что использование дипфейков в мошеннических целях с прошлого года активно увеличивается.

Для того, чтобы вынудить человека сообщить конфиденциальную информацию или осуществить денежный перевод, злоумышленники начали представляться близкими людьми, коллегами, начальством, генерируя голос и заставляя гражданина поверить, что с ним разговаривает настоящий человек.

«Только в январе 2024 года, по данным Управления Президента РФ по развитию информационно-коммуникационных технологий, было выявлено около 2 тыс. таких инцидентов, — рассказал Немкин. — Поскольку использование технологии показало результативность, ее популярность в дальнейшем будет только расти».

Он напомнил, что рынок достаточно негативно реагирует на предложения по регулированию сферы. Их основные опасения состоят в том, что установление законодательных рамок отрицательно скажется на развитии технологии. Немкин считает, что и Госдума, и профильные министерства это прекрасно понимают.

«К вопросу нужно подходить через мягкое регулирование, — говорит глава думского комитета Александр Хинштейн. — Прежде всего — с позиции защиты пользователя. Анализ опыта ЕС, конечно, будет полезен, но, все-таки, регламент ЕС об ИИ — пример достаточно жесткого регулирования».

Важно уже сейчас двигаться в сторону маркировки: как в части маркировки продуктов, функционирующих на основе ИИ, так и в части контента, созданного ИИ. Это позволит существенно повысить прозрачность использования технологии и в целом никак не повлияет на самих разработчиков, считает депутат.

Ранее ГК «Прогресс Агро» рассказала Inc. об активном внедрении цифровых технологий в свою деятельность. Очередным этапом этого процесса стало использование искусственного интеллекта при возделывании озимой пшеницы.