Новости

В ЕС вступил в силу запрет искусственного интеллекта с «неприемлемым риском». Нарушителям грозит штраф до $36 млн

В странах Евросоюза вступили в силу первые требования Регламента об искусственном интеллекте. Он был принят Европейским парламентом 13 марта 2024 года и одобрен Советом ЕС 21 мая 2024 года. Он регулирует использование искусственного интеллекта (ИИ) и его взаимодействие с людьми, начиная с потребительских приложений и заканчивая физическими средами.

Регламент запрещает ИИ-системы, представляющие «неприемлемый риск» для общества. Официально он был принят 1 августа, а сейчас вступил в силу.

Согласно документу, существует четыре уровня риска:

  • минимальный, например спам-фильтры электронной почты, не будет подлежать контролю со стороны регулятора;
  • ограниченный, включающий чат-боты для обслуживания клиентов, будет подлежать контролю;
  • высокий, например ИИ для рекомендаций в области здравоохранения, будет подлежать жесткому контролю;
  • неприемлемый — такие приложения будут полностью запрещены.

К числу неприемлемых видов деятельности относятся ИИ-приложения:

  • используемые для социального скоринга (например создание профилей риска на основе поведения человека);
  • манипулирующие решениями человека подсознательно или обманным путем;
  • использующие такие уязвимые места, как возраст, ограниченные возможности или социально-экономический статус человека;
  • предсказывающие совершение преступлений по внешнему виду человека;
  • использующие биометрические данные для определения характеристик человека, например его сексуальной ориентации;
  • собирающие биометрические данные в реальном времени в общественных местах в целях обеспечения правопорядка;
  • определяющие эмоции людей на работе или в учебных заведениях;
  • создающие или расширяющие базы данных распознавания лиц путем сбора изображений в Интернете или с камер наблюдения.

Компании, которые будут уличены в использовании любого из вышеперечисленных приложений ИИ в ЕС, будут оштрафованы независимо от того, где находится их штаб-квартира. Взыскание может составить до €35 млн (около $36 млн) или 7% от годового дохода за предыдущий финансовый год.

Глава отдела технологий британской юридической фирмы Slaughter and May Роб Самрой отметил, что штрафы начнут действовать только к августу. «К тому времени мы узнаем, кто является компетентными органами, а также вступят в силу положения о принудительном взыскании», — пояснил он.

В сентябре 2024 года более 100 компаний подписали Пакт ЕС об искусственном интеллекте — добровольное обязательство следованию принципам Закона об искусственном интеллекте до его вступления в силу. Согласно этому документу, компании, в том числе Amazon, Google и OpenAI, должны выявлять системы ИИ, которые могут быть отнесены к категории высокого риска.

Самрой отмечает, что, учитывая характер запрещенных случаев использования, большинство компаний в любом случае не будут применять такие методы.

Из некоторых запретов Регламента об ИИ есть исключения. Например, правоохранительным органам разрешается использование определенных систем, собирающих биометрические данные в общественных местах, если они помогают осуществлять «целенаправленный поиск», например, жертв похищения, или предотвращать «конкретную, существенную и непосредственную» угрозу жизни.

Это исключение требует разрешения соответствующего органа управления, и в законе подчеркивается, что правоохранительные органы не могут принимать решение, которое «приводит к неблагоприятным юридическим последствиям» для человека, только на основании данных, полученных от этих систем.

Закон также предусматривает исключения для систем, определяющих эмоции на рабочих местах и в школах, если это оправдано соображениями «медицины или безопасности».

Европейская комиссия, исполнительная власть ЕС, заявила, что выпустит дополнительные рекомендации в начале 2025 года, после консультаций с заинтересованными сторонами. Однако до сих пор они не были опубликованы.

«Организациям важно помнить, что регулирование ИИ не существует изолированно, — подчеркнул Самрой. — Другие законодательные базы, такие как GDPR, NIS2 и DORA, будут взаимодействовать с Регламентом об ИИ, создавая потенциальные проблемы — особенно в части дублирования требований по уведомлению об инцидентах».

Недавно компания Apple столкнулась с первым в истории штрафом за нарушение требований нового закона Европейского союза в области цифрового антимонопольного регулирования деятельности крупных технологических компаний. Это приведет к обострению конфликта с регулирующими органами по поводу доминирования магазина приложений App Store.