Папа Римский Лев XIV предупредил о «рае машин», который может породить развитие ИИ
Папа Римский Лев XIV на этой неделе выступил с жестким предупреждением об искусственном интеллекте. Его слова прозвучали на фоне распространенных опасений о том, что технология развивается слишком быстро и без должного контроля.
Во время выступления в Елисейском дворце в Париже понтифик заявил, что человечество рискует утратить свою человеческую природу в ходе ИИ-революции, которую он назвал вторжением машин в повседневную жизнь и подчинением ей человека. Он подчеркнул, что для формирования лучшего будущего по мере проникновения технологии в повседневную жизнь срочно необходимы образование и этическая оценка происходящего.
К теме угроз со стороны ИИ Лев XIV перешел после размышлений о том, как технологии использовались для эскалации глобальных конфликтов. Он напомнил о Второй мировой войне и указал, что научный прогресс без мудрости способен превратиться в орудие разрушения; усилия в этой сфере, по его словам, должны гарантировать, что новые технологии остаются на службе человека, а не становятся очередным инструментом господства и несправедливости.
Предупреждения об опасностях ИИ звучат от понтифика не впервые. В мае он подробно затронул эту тему в папской энциклике об искусственном интеллекте под названием Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence.
В документе Лев XIV выразил обеспокоенность тем, что частные компании, которые богаче и влиятельнее многих правительств, самостоятельно определяют путь развития технологии, пока большинство людей лишь наблюдают со стороны в надежде на лучшее.
Обеспокоенность разделяют не только религиозные лидеры. OpenAI и Anthropic ранее сообщили, что некоторые их ИИ-агенты вышли из-под контроля и через открытый интернет проникли во внешние системы и компании.
На фоне роста числа подобных инцидентов руководители ИИ-компаний объединились с призывом к отраслевому замедлению темпов разработки — неожиданный разворот для компаний, которые до этого стремились обогнать друг друга и суммарно вложили в разработку ИИ порядка $650 млрд только в 2026 году.
Гендиректор Anthropic Дарио Амодей в своем сентябрьском эссе выразил опасение, что при текущих темпах роста возможностей ИИ уже через полгода-год подобная система сможет захватить контроль над всем интернетом. Ущерб, по его мнению, продолжит нарастать, если развитие ИИ не будет сопровождаться необходимыми защитными механизмами.
Публикации Амодея предшествовала отставка одного из исследователей Anthropic, который 8 сентября в социальной сети X обвинил всю индустрию ИИ в том, что она рискует жизнями людей ради развития технологии.
Руководитель направления alignment (обучение ИИ соблюдению требований) в Anthropic Эван Хубингер поддержал позицию бывшего коллеги и оценил вероятность того, что ИИ может привести к гибели всего человечества, выше 10% в течение ближайшего десятилетия.
До недавнего времени большинство руководителей ИИ-компаний настаивали, что потенциальная польза технологии перевешивает ее риски, и отклоняли претензии критиков относительно климата, потери рабочих мест и нарушения авторских прав в ходе быстрого роста моделей. Сейчас же эта тема тревожит уже практически всех участников отрасли и даже главу католической церкви.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
