Нейросети не чувствуют и не осознают: ученые предупредили об иллюзии сознания у ИИ
Исследователи из Университета Монреаля и Университета Джонса Хопкинса опубликовали статью, в которой предупреждают о системной ошибке в восприятии современных языковых моделей: способность ИИ связно отвечать на вопросы и имитировать сочувствие не означает наличия у него сознания или внутреннего опыта.
Авторы — постдокторант по психологии Ванесса Хадид, профессор психологии Карим Джерби из Монреальского института ИИ Mila и Джон Кракауэр, директор Центра восстановительных нейротехнологий Университета Джонса Хопкинса — апеллируют к феномену псевдослепоты. Это неврологическое явление, при котором пациенты с повреждением первичной зрительной коры могут обрабатывать визуальную информацию и реагировать на нее, не осознавая того, что видят. По мнению авторов, ИИ-системы функционируют по схожей логике: они обрабатывают данные и генерируют ответы, не испытывая при этом никакого субъективного переживания.
Нарастающий реализм общения с чат-ботами делает эту ошибку восприятия все более распространенной. По мере того как системы вроде ChatGPT и Claude становятся более продвинутыми, а пользователи начинают обращаться к ним с личными и эмоциональными проблемами, граница между имитацией понимания и реальным пониманием размывается. Именно это, подчеркивают авторы, создает риск не технического, а социального характера.
Исследователи не утверждают, что сознание в компьютерных системах принципиально невозможно. Вопрос остается открытым. Однако они фиксируют: никаких свидетельств его наличия в актуальных моделях не существует, тогда как поведенческие маркеры, которые люди интерпретируют как признаки сознательности, становятся все более убедительными.
«Нынешние ИИ-системы ничего не чувствуют и не имеют сознательного опыта, — заявил профессор Джерби. — Но чем свободнее они говорят и чем чувствительнее кажутся к нашим эмоциям, тем легче об этом забыть».
Проблема имеет не только философское измерение. Если пользователи принимают имитацию эмпатии за реальную, они могут принимать на ее основе решения — личные, медицинские, финансовые, — исходя из ложной предпосылки о том, что система понимает их ситуацию. Авторы называют это ловушкой антропоморфизации, которая становится тем опаснее, чем выше качество генерации.
Статья выходит на фоне продолжающейся индустриальной дискуссии о правовом и этическом статусе ИИ-систем. Ряд технологических компаний в последние годы публично рассматривал вопросы о том, обладают ли их модели чем-то, что можно интерпретировать как предпочтения или переживания.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
