Премиальный батюшка, бесплатный ИИ и вопрос о душе: зачем России совет по этике алгоритмов

Формально — это диалог о ценностях. По факту — попытка ответить на вопросы, которые уже сегодня упираются в бизнес, право и управление: кто отвечает за решения алгоритмов, где проходит граница автоматизации и можно ли делегировать машине то, что раньше делал человек. В четверг представители основных религий собрались в Москве для обсуждения тезиса об этичности искусственного интеллекта. «Инк» традиционно поинтересовался мнением ИИ по поводу сказанного на встрече с журналистами (и предстоящем создании совета).

Один из ключевых тезисов пресс-конференции сформулировал секретарь Синодальной комиссии по биоэтике Александр Абрамов:

Речь, по его словам, может идти только об этике в сфере применения ИИ — то есть об ответственности разработчиков, заказчиков и тех, кто принимает решения на основе алгоритмов. И здесь религиозные организации предлагают не конкурировать с технорегуляторами, а закрывать то, что формальные нормы пока не успевают осмыслить: работу с образом человека, смертью, доверием и смыслом.

Для бизнеса эта логика звучит знакомо: ИИ не «черный ящик с моралью», а инструмент. И отвечать за последствия будет не алгоритм, а тот, кто его внедрил.

Премиальный батюшка и бесплатный алгоритм

Самой ироничной — и, наверное, самой запоминающейся — стала метафора «премиальный батюшка». В дискуссии о цифровых двойниках священнослужителей прозвучала мысль:ИИ может быть удобным, всегда доступным и бесконечно вежливым. Но удобство — не всегда благо.

За шуткой — серьезный тезис: ИИ легко превращает сложные человеческие отношения в сервис. И эта логика одинакова и для религии, и для клиентского сервиса, и для госуправления. Если убрать человека из цепочки решений полностью, остается эффективная, но обезличенная система — без эмпатии и ответственности.

Цифровые двойники, судьи и управленцы: где ИИ опаснее всего

Отдельный блок дискуссии был посвящен тем зонам, где автоматизация особенно чувствительна.

• Цифровые двойники умерших людей — от «оживших» родственников до симуляций известных личностей. Участники обсуждения сошлись в одном: без четких ограничений и маркировки это создает пространство для манипуляций и подмены реальности.

• Суд и государственное управление.Алгоритм не устает, не берет взяток и знает все нормы. Но он не умеет входить в положение. А право без человеческой оценки легко превращается в конвейер.

• Образование и медицина.Там, где ИИ подсказывает, но не решает, он полезен. Там, где заменяет контакт, — возникает социальный разрыв.

Эти темы уже обсуждаются в рабочих группах Национальной комиссии по этике ИИ — от здравоохранения до медиа.

Российская модель: не запреты, а диалог

Руководитель Национальной комиссии по этике ИИ Андрей Незнамов подчеркнул: Россия выбрала мягкую модель регулирования — через рекомендации, а не жесткие законы.

Причина проста: технологии меняются быстрее, чем пишутся нормы. Пока в ЕС обсуждают ответственность ИИ как «квазисубъекта», а в США судятся с разработчиками, Россия делает ставку на общественный диалог.

В исламском мире ограничения вводятся через фетвы и религиозные советы при цифровых платформах; в Японии, например, — через концепцию «человекоцентричного ИИ».

Российская модель отличается тем, что хоть и в светском государстве сразу включает религиозные институты как легитимных участников разговора — не как цензоров, а как носителей мировоззренческой экспертизы. Правда, не включает разработчиков, то есть, формально, творцов ИИ.

Впрочем, и в таком виде создаваемый совет — попытка институционализировать разговор о том, что обычно остается между строк техрегламентов.

Что это значит для бизнеса

Если убрать богословскую риторику, сигнал рынку довольно практичный:

• ответственность за ИИ-решения останется у человека;

• «алгоритм так решил» — слабая защита в спорах;

• цифровые продукты, работающие с образом человека, эмоциями и доверием, будут под особым вниманием;

• эпоха безусловного восторга от автоматизации заканчивается — начинается этап взросления.

Этика и душа у ИИ с точки зрения… ИИ

По словам председателя Духовного собрания мусульман России муфтия Альбира Крганова:

В то же время, по его словам:

«Инк» спросил три модели искусственного интеллекта, что они думают о создании такого совета в России и есть ли у них душа.