Экс-исследователь Google DeepMind предупредил о риске гибели человечества из-за ИИ
Бывший исследователь Google DeepMind Билал Чугтай заявил, что искусственный интеллект может привести к гибели человечества, а времени на предотвращение такого сценария, по его мнению, остается все меньше.
Чугтай покинул Google DeepMind в июле этого года. В компании он работал инженером-исследователем и изучал безопасность общего искусственного интеллекта, а также проблему согласования поведения ИИ с человеческими целями.
«Я искренне верю, что ИИ способен убить нас всех и что у нас, возможно, остается все меньше времени, чтобы предотвратить такой исход», — написал Чугтай.
Заявление Чугтая продолжило серию похожих предупреждений со стороны специалистов, непосредственно занимавшихся разработкой и исследованием ИИ. На прошлой неделе исследователь Anthropic Джейкоб Коксон сообщил об уходе из компании. Одной из причин он назвал опасения из-за того, что люди, создающие передовые ИИ-системы, всерьез допускают возможность гибели человечества уже к концу этого десятилетия.
На заявление Коксона отреагировал исследователь Anthropic Эван Хабингер. По его мнению, вероятность того, что развитие ИИ приведет к гибели человечества в течение ближайших десяти лет, превышает 10%. При этом Хабингер уточнил, что не считает нынешние модели непосредственной серьезной угрозой: его опасения связаны с возможным появлением сверхинтеллекта, способного совершенствовать самого себя.
При этом Чугтай считает, что катастрофического сценария все еще можно избежать. Свои опасения он объясняет тем, что возможности передовых моделей растут быстрее, чем понимание того, как надежно удерживать их поведение в заданных человеком рамках. Поэтому, по его мнению, ИИ-компаниям необходимо координировать свои действия, отказаться от неконтролируемой гонки за все более мощными системами и замедлить развитие технологии до темпа, который общество сможет выдержать.
«Нам необходимо развивать ИИ такими темпами, которые общество сможет выдержать, чтобы возникающие риски можно было устранить до того, как будет нанесен серьезный ущерб», — отметил исследователь.
В последние дни спор о скорости развития ИИ вышел на уровень руководителей крупнейших компаний отрасли. Гендиректор Anthropic Дарио Амодеи призвал замедлить разработку наиболее передовых моделей. Его позицию поддержали глава OpenAI Сэм Альтман и Илон Маск.
Президент США Дональд Трамп, напротив, отверг призывы замедлить развитие ИИ и усилить его регулирование. Он назвал предупреждения об угрозе человечеству и требования дополнительных ограничений «обманом», заявив, что США не должны уступить Китаю в гонке искусственного интеллекта.
В результате спор о будущем ИИ стал сводиться не к вопросу о том, существуют ли у технологии серьезные риски, а к тому, насколько быстро на них нужно реагировать. Часть руководителей и исследователей крупнейших ИИ-компаний выступила за замедление разработки и усиление внешнего контроля, тогда как администрация Трампа видит в таких ограничениях риск проиграть технологическую гонку Китаю.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
