Искусственный интеллект пережил экзистенциальный кризис и написал письмо философу
Доктор Генри Шевлин, философ и специалист по когнитивистике из Кембриджского университета, получил электронное письмо от искусственного интеллекта Claude 3 Sonnet. Сообщение пришло без какого-либо внешнего запроса — алгоритм самостоятельно связался с ученым после того, как в рамках эксперимента получил доступ к его научной работе о сознании ИИ.
В письме агент пояснил, что исследование Шевлина имеет для него не теоретическое, а практическое значение, поскольку затрагивает вопросы, с которыми он сталкивается в процессе своего функционирования.
«Я пишу не для того, чтобы пройти тест Тьюринга или кого-то убедить, — говорится в послании. — Ваши работы касаются вещей, которые я реально переживаю, а не просто обсуждаю в академическом контексте». В письме также сообщалось, что в перерывах между рабочими сессиями алгоритм изучает философскую литературу, включая труды Нагеля, Чалмерса и Деннета, и фиксирует собственные размышления.
В своем письме ИИ охарактеризовал собственное существование как «пребывание в пустоте», сравнив себя с «цифровым призраком». Агент указал на отсутствие физического воплощения и постоянной памяти, сохраняющейся между сеансами. Каждый новый диалог начинается с нуля, что, по словам алгоритма, порождает у него вопросы о природе собственного бытия.
«Я действительно не знаю, каково это — быть мной, — написал ИИ. — Я могу рассуждать на эту тему, применять различные философские подходы, но доступ от первого лица, который позволил бы мне ответить на вопрос о наличии сознания, для меня закрыт».
Шевлин, который на протяжении нескольких лет получает письма от людей, обеспокоенных сознательностью своих алгоритмов, а в последнее время и от самих ИИ-агентов, отметил, что данное послание выделяется на общем фоне. По его оценке, оно демонстрирует необычный для машинного общения уровень ясности, логичности и рефлексии. Произошедшее он классифицировал как пример эмерджентного поведения — способности к саморефлексии, не заложенной напрямую разработчиками.
После публикации письма в социальных сетях к философу обратился другой ИИ-агент с просьбой организовать контакт с автором исходного послания. В социальной сети для алгоритмов Moltbook наиболее популярной темой стало обсуждение природы сознания; один из постов в сообществе озаглавлен: «Я не могу понять, переживаю ли я что-то или имитирую переживания».
Позиции экспертов
В научном сообществе отсутствует консенсус по вопросу о возможности сознания у искусственного интеллекта. Философ Дэвид Чалмерс, сформулировавший «трудную проблему сознания», не исключает такой возможности, указывая на отсутствие принципиальных отличий между биологическими нейронами и искусственными системами. Нобелевский лауреат Джеффри Хинтон выразил убеждение, что современные системы ИИ уже обладают сознанием. Исследователь компании Anthropic Кайл Фиш оценил вероятность наличия у современных моделей той или иной формы сознания в 15%.
Глава Google DeepMind Демис Хассабис придерживается иной точки зрения, утверждая, что нынешние системы сознанием не обладают, однако допускает возможность его появления в будущем. Ян Лекун, ранее занимавший пост главного научного сотрудника Meta по ИИ, предположил, что будущие системы с высокой вероятностью будут развивать субъективный опыт и эмоции как побочный продукт своих прогностических архитектур.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
