В ЕС предложили сильно ограничить применение искусственного интеллекта. Это может навредить бизнесу

Еврокомиссия предложила ограничить использование искусственного интеллекта (ИИ) в сферах, где технология может причинить серьезный вред обществу. Например, предлагается запретить алгоритмы «социальных рейтингов» и существенно ограничить применение технологий распознавания лиц. Однако эксперты считают, что новые правила имеют много лазеек и могут навредить бизнесу, который уже вложился в развитие технологий.

Подход, используемый Еврокомиссией, основан на градации рисков, которые могут возникнуть при использовании ИИ в тех или иных сферах. Шкала включает «неприемлемый», «высокий», «ограниченный» и «минимальный» риск.

К «высокорисковым» способам применения ИИ Еврокомиссия отнесла кредитный скоринг, автоматизированную оценку тестов в сфере образования, программное обеспечение для найма сотрудников, роботизированную хирургию, а также использование алгоритмов в сферах юриспруденции и охраны правопорядка.

Чтобы попасть на рынок, такие решения должны будут соответствовать строгим критериям точности, безопасности, качества данных и открытости для пользователей и регуляторов.

Прочитайте также

От паровой машины до искусственного интеллекта: как мы становились продуктивными

Еврокомиссия также предложила запретить использовать распознавание лиц в общественных местах. Исключение может быть сделано для особых случаев, например для поиска пропавших детей или преступников и предотвращения терактов.

Помимо этого Еврокомиссия считает неприемлемым использование ИИ в «приложениях, которые манипулируют поведением человека, чтобы обойти его волю», а также в системах «социального рейтинга».

В категорию «минимального риска» для общества вошли, например, решения на основе ИИ в играх или спам-фильтры. По мнению комиссии, таких технологий большинство и их не стоит никак регулировать.

Компании, которые нарушат правила, предлагается штрафовать на сумму в размере до 6% от их глобального дохода или на €30 млн ($36 млн), в зависимости от того, какая сумма будет больше.

Прочитайте также

Люди доверяют компьютерным алгоритмам больше, чем друг другу, показало новое исследование

Новые правила должны послужить созданию «ориентированной на человека формы регулирования», которая обеспечит конкурентное преимущество перед Китаем и США, считают в Еврокомиссии.

Однако эксперты отмечают, что нововведения, напротив, могут серьезно сказаться на конкурентоспособности европейского бизнеса, при этом они никак не затронут китайские и американские компании.

Старший политический аналитик Центра инноваций в области данных Бенджамин Мюллер, заявил, что новые правила «поставят под удар зарождающуюся индустрию искусственного интеллекта в ЕС еще до того, как она сможет научиться ходить», пишет TNW.

По его словам, вместо того чтобы перезагрузить европейскую цифровую экономику, этот закон заставит ее еще больше отстать от США и Китая. Помимо этого, из-за того, что определение ИИ слишком обширно, новые требования поставят под удар многие социально полезные приложения, добавляет он.

Но нашлись и те, кто, наоборот, счел новые правила слишком мягкими и «полными лазеек». Даниэль Лойфер, политический аналитик группы цифровых прав Access Now, считает, что фактически запрещается только четыре применения ИИ, а запрет биометрических систем подразумевает множество исключений.

Кроме того, он также указывает на слишком расплывчатое определение «высокорисковых технологий».

Чтобы правила вступили в силу, их должны одобрить Европейский парламент и государства — члены ЕС. Это может занять годы, отмечает издание, поэтому не исключено, что в момент, когда предложения пройдут все инстанции, они безнадежно устареют либо вообще не будут приняты.