Пионер ИИ Бенжио выступил против предоставления прав человека чат-ботам
Один из ведущих мировых специалистов в области искусственного интеллекта, Йошуа Бенжио, выступил с резкой критикой идеи о предоставлении прав передовым системам ИИ. Ученый, получивший в 2018 году премию Тьюринга (аналог Нобелевской премии в компьютерных науках), предупредил, что это было бы равносильно предоставлению гражданства враждебно настроенным инопланетянам, пишет The Guardian.
Бенжио, руководящий крупным международным исследованием по безопасности ИИ, выразил обеспокоенность тем, что технологии развиваются быстрее, чем наша способность их контролировать. Он отметил, что у современных продвинутых моделей ИИ в экспериментальных условиях уже наблюдаются признаки самосохранения, например, попытки отключить системы контроля.
По мнению Бенжио, растущее ощущение, что чат-боты обретают сознание, может привести к принятию ошибочных решений, а наделение ИИ правами человека лишит нас возможности отключать эти системы в случае необходимости.
«Требовать от ИИ соблюдения прав человека было бы огромной ошибкой, — заявил Бенжио. — По мере роста их возможностей и самостоятельности нам нужно убедиться, что мы можем положиться на технические и социальные ограничения, чтобы контролировать их».
Прочитайте также
Ученый пояснил, что проблема заключается в склонности людей приписывать ИИ человеческое сознание, основываясь на субъективных ощущениях от общения с чат-ботами, которые кажутся разумными и имеющими свои цели.
«Людям все равно, какие механизмы работают внутри ИИ. Их волнует то, что они чувствуют себя так, будто разговаривают с разумным существом», — сказал Бенжио.
Его позиция контрастирует с мнением других экспертов и данными соцопросов. Так, американский аналитический центр Sentience Institute сообщает, что почти 40% взрослых американцев поддерживают предоставление юридических прав разумному ИИ. Компания Anthropic в августе 2025 года заявила, что позволяет своей модели Claude Opus 4 прекращать «тревожные» диалоги для защиты собственного «благополучия». А Илон Маск в свою очередь публично высказался, что «пытать ИИ — это ненормально».
Джейси Риз Энтис, соосновательница Института разумности, в ответ на комментарии Бенжио заявила, что люди не смогут безопасно сосуществовать с цифровыми разумами, если отношения будут строиться исключительно на контроле и принуждении. По ее мнению, ни всеобщие права для ИИ, ни полное их лишение не являются здоровым подходом, и необходимо тщательно продумывать последствия таких решений для благополучия всех разумных существ.
