«Нейросеть создаст модель мира, которую мы уже не поймем». Директор по развитию технологий ИИ «Яндекса» — о том, останутся ли открытия уделом человека

 — Расскажите, как лично вы используете искусственный интеллект? Вокруг меня много предпринимателей, и я ежедневно читаю в телеграм-каналах про личные «операционные системы», собственных агентов.

 — Думать, что те, кто разрабатывает ИИ, лучше всех его используют,  — ошибка, как считать, что конструктор автомобилей лучше всех водит. Он вообще может не уметь ездить. Как правило, разработчики в среднем что-то знают лучше среднего пользователя, потому что понимают, как это устроено. Но эксперт, который лучше всех знает, как нейросети применять, — это совершенно не обязательно разработчик.

 — Ну все-таки есть у вас какие-то лайфхаки.

 — Вот вы читаете статьи, но большинство нет. Можно сказать, что нейросети заменили поисковую выдачу? Ну, классическую, когда вбиваешь слово в строке.

 — Что происходит, например, когда мы просим модель рассказать, что вчера было на фондовом рынке, сделать обзор аналитиков,? Куда она идет?

 — В интернет.

 — Из-за этого у всех сайтов сейчас падает трафик? Сейчас это общая проблема медиа в России.

 — Вспомните, что было раньше. Допустим, мне понадобилось узнать высоту Эйфелевой башни. Уже давно, если я задаю такой запрос, я получаю ответ сразу, никуда не переходя, — цифра иногда появляется даже в поисковых подсказках. Сниппеты стали информативными давно: ты вводишь запрос и прямо на странице поиска видишь нужное. ИИ в этом смысле еще один шаг в ту же сторону. Но если ты хочешь нырнуть вглубь, ты, конечно, будешь переходить на страницы.

 — И пользователи пойдут читать оригинал?

 — Если у них была цель глубоко нырнуть — конечно. То есть на глубокие содержательные страницы с важной эксклюзивной информацией читатель придет. А на то, что можно найти в куче других источников и есть в суммаризированном виде, — нет.

 — То есть это не «LLM-поиск», термин, которым все сейчас любят бросаться, а просто следующий технологический этап эволюции?

 — Правда ли, что один сильный инженер с ИИ скоро сможет заменить небольшую команду? Что это меняет для больших R&D-подразделений?

 — Правда то, что человек, используя ИИ, становится сильнее и эффективнее, — безусловно. Это значит, что тем же составом можно делать больше продуктов или продукты с большим качеством. Количество того, что мы хотели бы сделать, сильно превосходит ресурсы, которыми мы располагаем.

 — Это про экспериментальный отдел или про весь «Яндекс»?

— Тогда математика такая: раньше на проджекте было восемь разработчиков, теперь хватит четырех, потому что есть ИИ. Но освободившимся четырем тоже нужен проджект. Значит ли это, что людей не увольнять надо, а наоборот нанимать?

 — Их нужно нанимать. Более того, ИИ показал, как мало у нас по-настоящему хороших проджект-менеджеров. Сейчас поясню. Проджект приходит в команду разработки и говорит: «Хочу такой продукт, с такими-то фичами, желательно, чтобы работало быстро. Сделайте».Когда проджект с таким же наскоком приходит к модели, она выдает ему вообще не то, что он хотел. И тут ему приходится самому уточнять требования, то есть выполнять работу, которую он всегда должен был делать. Так выясняется, что работа разработчика — это не просто написание кода. Главное — понять требования, разобрать все на элементы, выстроить, как они соотносятся, разбить работу на этапы и блоки, протестировать каждый блок и соединить все в проект.

Возможно, поэтому большинство хороших проджектов в разработке получается именно из разработчиков. И таких людей тоже не хватает. Как и сильных разработчиков. Одно дело прототипы, но если мы говорим про сложную, высоконагруженную систему, то без опытных людей не обойтись.

— То есть тут ИИ не поможет?

 — А в ближайшем будущем? Столько разговоров про то, что ИИ будет чуть ли не делать открытия. Может ли он хотя бы частично взять на себя функцию контроля?

 — Какой навык хорошего ML-инженера стал менее важным за последние годы, а какой, наоборот, превратился в обязательный?

 — Глобально ничего не поменялось. Может быть, даже больше требований стало к пытливости и критическому мышлению. Потому что стало очень легко и очень соблазнительно получить быстрый ответ через языковую модель, а ответ может быть не совсем верным.

Можно, например, попросить ИИ собрать список статей по ML, сделать справку и попросить его объяснить, как сейчас решается какая-то проблема. И ты получишь не то чтобы категорически неточный, но не настолько хороший результат, какой получил бы, прочитав сам. Так что готовность тратить время, думать головой и делать самостоятельный ресерч  — это новое свойство.

 — Вместе с ажиотажем выросло и количество заблуждений? Условно, приходит соседний отдел и просит: «Сделайте нам, как вы показывали», — думая, что так можно.

 — Все современные модели остаются «черным ящиком», как считается, даже для создателей. Вас это беспокоит или это норма?

 — Не беспокоит. В науке часто бывает феномен, когда область развивается быстрее, чем наша способность ее осознать, и тогда начинается много эмпирики. Так было где угодно. Сколько открытий в медицине сделали люди, вообще не понимавшие, как это работает, — просто были наблюдения. Вся ранняя медицина была такой.

Сейчас ИИ во многом такой же. Очень много экспериментального: сначала получается результат, а потом появляется объяснение, почему сработало. Но это не что-то бездумное — эксперименты ставят люди, у них есть ожидания, что такой-то метод даст больший результат. Бывает, результат оказывается неожиданным: где-то сильно превосходит ожидания, где-то сильно им не соответствует.

 — Откуда у всех такой энтузиазм?

 — У меня вокруг знакомые теперь благодаря ИИ буквально программируют на ходу. Я называю это синдромом Бога: ты что-то написал, оно создалось, и ты сразу это видишь. Мне кажется, это игра с человеческим эго. Мы будто начинаем уходить в другую сторону — создавать продукты ради продуктов.

 — Представь, что ты, как в мультиках, можешь нарисовать что-то карандашом, и это становится физическим объектом.

 — Я это и сама испытываю.

 — Вы застали много технологических эпох: компьютерное зрение, теперь ИИ. Есть ли это понимание, куда все идет, сейчас, когда парадигма уже несколько раз сменилась полностью?

 — Во-первых, есть много вещей, которые я предугадал, и много вещей, которые предугадал абсолютно ошибочно. Поэтому я не готов опираться на свои прогнозы.

Во-вторых, в чем я серьезно превосхожу нынешнего студента третьего курса? У него может возникнуть представление, что всё главное в ИИ уже открыто, и так часто бывает. У меня такое чувство было многократно, и каждый раз оно оказывалось обманчивым: появлялось что-то радикально новое, абсолютно другая технология, по сравнению с которой все текущие достижения казались полной мелочью.

 — Как перевести это в мотивационное ощущение?

 — Все еще впереди. И еще одну вещь я хорошо для себя понял: собственный прошлый опыт значит не так много. Многие ошибаются, разговаривая со мной как с главным экспертом, потому что у меня большой опыт. Но девять десятых моего опыта абсолютно бесполезны, потому что происходящее сейчас беспрецедентно. Студенты третьего курса, иные школьники, наши молодые стажеры-разработчики в разы лучше и больше меня понимают в том, что сейчас происходит с ИИ.

 — Ваша функция тогда какая?

 — Моя роль сейчас — сервисная: создать для них такую среду, чтобы они полностью реализовали свой потенциал. И оберечь их от непрофильной деятельности, чтобы они могли сосредоточиться на самом важном.

 — А кто решает, что важно?

 — В чем человек по-прежнему принципиально превосходит самую сильную модель?

 — В двух важных вещах. Первое — мотивация. Внутри ИИ нет никакой мотивации, целеполагание исходит от человека, и я даже не понимаю, откуда мотивация может там появиться.

Второе — мы крайне социальные животные, и нам очень важно нравиться друг другу. Нам в общем-то все равно, как мы выглядим перед ИИ и нравимся мы ему или нет (если только он не изображает человека и мы не принимаем эту игру — но это имитация). А весь наш прогресс, все достижения, вся эволюция движутся, по сути, одной целью: помимо задачи выжить, которую мы более-менее решили, осталась задача максимально нравиться друг другу. И вот этого ИИ дать нам по определению не может. Он не может стать тем, ради кого мы будем жить, творить, создавать и чувствовать.

 — Что для вас ценнее: технология, которой пользуются миллионы, или исследование, поменявшее парадигму мышления?

 — Сложный вопрос. Если тем, что ты сделал, не пользуются миллионы, у тебя нет подтверждения, что получилось хорошо. С другой стороны, есть вещи, которые ты делаешь только для себя, за которые будешь гордиться сам перед собой. Они тоже очень важны.

 — Какой вопрос про ИИ вам уже надоел?

 — А вот какой вопрос задавать стоило бы, а не задают?

 — Страшно. Тут Папа Римский выпустил документ про искусственный интеллект с призывом им не пользоваться. А потом заявляли в некоторых источниках, что сама речь была написана с помощью ИИ. Зловеще.