Недавно компания Gartner провела анализ и опубликовала данные по объему мирового рынка программного обеспечения с алгоритмами ИИ. По прогнозу, в 2021 году он достигнет $51,5 млрд, увеличившись на 21,3% в сравнении с прошлым годом. Эксперты также сообщили, что крупнейшим сегментом рынка стали виртуальные помощники, — расходы на них по результатам 2021 года составят $6,21 млрд, что на 12% больше, чем годом ранее. Быстрый рост наблюдается в сегментах ПО для беспилотных автомобилей и цифровых рабочих мест — на 13,7% в 2021 году.

Такому бурному развитию способствовали несколько факторов, например большой поток информации разного формата и типа, а также постоянно увеличивающийся темп ее поступления. Еще одним драйвером внедрения ИИ в различные сферы жизни стала эпидемия коронавируса: в четвертом квартале 2020 года стартапы, работающие над продуктами ИИ, привлекли более $73 млрд, что на $15 млрд больше, чем в 2019 году.

C развитием технологий естественным образом встает вопрос об их эффективном регулировании, а также о роли государства в этом процессе. С одной стороны, люди должны быть защищены от риска нарушения их прав, с другой стороны, эти меры не должны негативно сказаться на развитии сектора в целом, так как это может повлечь за собой отставание от других стран. Как обстоят дела с правовым регулированием технологий ИИ в мире и в России сегодня?

Первыми вопрос о необходимости правового регулирования взаимоотношений между человеком и искусственным интеллектом подняли ученые в Южной Корее. Собственно, в этой стране и появились первопроходцы в законодательстве в области ИИ. В 2005 году было принято «Корейское право развития искусственного интеллекта роботов», в 2007-м — «Этический устав роботов», а к 2012 году был принят документ «Правовое регулирование автономных систем в Южной Корее». Все это регламентирует права и обязанности создателей программ для функционирования роботов, в том числе оснащенных ИИ, и лиц, участвующих в их разработке и производстве, использовании и уничтожении.

Также значительно продвинулся в этом вопросе Европейский Союз. В феврале 2017 года парламент ЕС принял Civil Law Rules on Robotics. В документе говорится о робототехнике, но по содержанию очевидно, что имеются в виду и технологии ИИ. В документе описаны подходы к регулированию ответственности за причиняемый вред, предложено создать европейскую систему регистрации «умных» роботов. Нормативным актом законодатели внесли на рассмотрение идею наделить роботов с ИИ статусом электронных личностей. Помимо этого, для создания полноценного нормативного документа в этой сфере в 2019 году Советом Европы был сформирован Специальный комитет по ИИ. Сейчас в Европе делегирование решений системам ИИ рассматривают в первую очередь в контексте потенциальных угроз для прав и свобод человека, поэтому большое внимание уделяется вопросам этики.

В США до 2020 года практически все документы в области ИИ были инициированы отдельными крупными компаниями или экспертами, в то время как на государственном уровне были приняты только этические принципы для госорганов, внедряющих системы ИИ. В 2020 году Департамент политики в сфере науки и технологий Белого дома (OSTP) разработал 10 принципов, которых должны придерживаться правительственные учреждения относительно решений в области ИИ.

В нашей стране в 2020 году правительство утвердило Концепцию регулирования искусственного интеллекта и робототехники до 2024 года. В документе сформулированы «базовые этические нормы» для ИИ и роботов, среди них — приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод, запрет на причинение вреда человеку по инициативе ИИ, требования безопасности при разработке ИИ. Ключевыми областями для внедрения новых технологий и роботов в Концепции называются: здравоохранение, транспорт, государственное и муниципальное управление, градостроительство и «умные» города, финансы, промышленность и космос.

В октябре 2021 года в России подписан Кодекс этики искусственного интеллекта, разработанный с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года. Авторами документа выступили Альянс в сфере ИИ совместно с Аналитическим центром при правительстве РФ и Минэкономразвития. Кодекс станет частью федерального проекта «Искусственный интеллект» и Стратегии развития информационного общества на 2017–2030 годы.

Согласно документу, Кодекс распространяется на отношения, связанные с этическими аспектами создания (проектирования, конструирования, пилотирования), внедрения и использования технологий ИИ на всех этапах жизненного цикла, которые сейчас не урегулированы законодательством РФ.

Таким образом, наша страна намерена комплексно развивать регулирование данной отрасли. С одной стороны, основными вопросами законодательного регулирования будет заниматься государство, с другой, где еще не выработаны те или иные нормы, — компании. При таком взаимодействии этот сектор может быть более динамичным, так как не будет ожидать по каким-то спорным моментам действий регулятора. Также отрасль будет самостоятельно вырабатывать определенные нормы, которые в будущем смогут быть прообразом законодательных актов.

На мой взгляд, даже при таком подходе к регулированию ИИ все равно остается один ключевой незакрытый вопрос — надзор за законодательством. Фактически нормативно-правовые акты в сфере искусственного интеллекта могут затрагивать работу довольно большого числа отраслей — от медицины до космоса. В связи с этим в нашей стране можно подумать еще над одним «столпом» данного процесса — о создании комитета по применению регулирования по ИИ, в который бы входили представители разных структур и организаций, работающие с данной технологией. Такой комитет или орган сможет быть консультативным звеном между основными, технологическими игроками рынка и законодателями.

Человеческие ценности должны стать основным определяющим фактором при построении концепции правового регулирования ИИ. Усовершенствование технологий должно приводить к увеличению благосостояния общества и человека с сохранением гарантированных прав и свобод. Именно по этой причине логично создавать еще и общественный совет. В частности, при регулировании отношений нужно обеспечить соблюдение каждой системой ИИ интересов и учета особенностей, например, правового статуса детей, инвалидов и пожилых людей. Дискриминация, доминирование и манипуляция со стороны ИИ недопустимы.

Важно не забывать, что ИИ может быть наделен не свойственными ему признаками и правами, поэтому не стоит создавать подмены понятий. Если и стоит формировать структуру общественного контроля за регулированием ИИ, то ее главная роль должна быть в отсечении таких попыток регулирования, которые описывают использование ИИ как инструмента. Ведь если мы вернемся к самым простым вещам, то поймем, что робот — это такой же инструмент, как карандаш или молоток. Мы не можем законодательно регулировать выпуск молотка, мы контролируем его применение: забивать гвозди можно, бить по голове — нельзя.

Такой же принцип необходим и для работы искусственного интеллекта. И чем больше репрезентативных мнений профессионалов будет услышано в процессе выработки норм — тем технология будет более безопасной для общества.