Inc. Talks:

Участники

АРКАДИЙ САНДЛЕР

руководитель направления по развитию ИИ в компании МТС

Илья Нагибин

модератор

главный редактор Inc.

ИЛЬЯ НАГИБИН: Само понятие «искусственный интеллект» возникло сравнительно недавно. Как вы считаете, на каком уровне развития сейчас он находится? Если сравнивать с развитием ребенка, это детство, отрочество, юность?

ЛЕОНИД БЕРЕЗОВСКИЙ: Мне кажется, искусственный интеллект сейчас скорее рождается заново, потому что за свою историю он уже пережил несколько «клинических смертей». Как мы знаем, ИИ ведет свою историю с 1940-х годов, но раньше технологии были недостаточно развиты, чтобы поддержать связанные с ними ожидания. Сейчас же мы видим, что машинное обучение становится неким доминантным дизайном в области ИИ, — как раз с этим, на мой взгляд, связано сегодняшнее перерождение. И наша с вами общая задача — соблюсти некий баланс между ожиданиями (а они, безусловно, вновь очень сильно раздуты) и реальными возможностями этой технологии.

АРКАДИЙ САНДЛЕР: Не соглашусь с тем, что это какое-то очередное рождение. Математический аппарат был разработан в 50-е годы ХХ века, но только на современном программном обеспечении он стал достаточно быстро работать. Только из-за этого у нас наконец началось какое-то развитие: наш «ребенок» начинает выяснять, что у него есть руки и ноги, но еще даже не начал ходить. То есть до года мы еще не дожили (если сравнивать с периодами человеческой жизни) — это существо только начало осознавать свои способности.

АНДРЕЙ ВЕНЖЕГА: Отличная метафора. Добавлю: помимо аппаратных возможностей, появились гигантские массивы данных, — их раньше просто не было. Все это множество информации не было оцифровано. Тут тяжело проводить параллели с развитием ребенка, но я бы дал этому «товарищу» лет 5. Потому что определенные задачки он уже умеет решать (и достаточно неплохо), а для некоторых ему еще не хватает опыта, но в ближайшее время опыт появится.

МАРИЯ ГРИГОРЬЕВА: Давайте посмотрим на это с другой стороны. Искусственный интеллект — в некотором смысле наше дитя: мы его придумали, создали, а теперь начинаем с ним жить. Для родителей он в любом возрасте останется ребенком — они всегда будут за него в ответе. Поэтому наша задача — посмотреть на ИИ с точки зрения взрослого: научить его понимать алгоритмы таким образом, чтобы он встроился в наше общество.

АЛЕКСАНДР ЧАЧАВА: Вообще, мы очень зря пытаемся очеловечить технологию, которую называем «искусственный интеллект». Потому что тем самым мы завышаем ожидания и множим страхи. ИИ давно и успешно используется, к примеру, в рекомендательных сервисах YouTube и поиске Google, а это, в общем, краеугольный бизнес всего Alphabet. С помощью искусственного интеллекта некоторые компании уже «генерят» миллиарды долларов выручки — очевидно, он уже приносит пользу. То есть это абсолютно не детская история. Сотни компаний уже успешно применяют те или иные элементы ИИ. А если мы посмотрим на 5 лет вперед, думаю, этот рынок уже станет очень большим — на десятки миллиардов.

НАГИБИН: Как раз мой следующий вопрос о том, какие отрасли наиболее перспективны для ИИ? И где уже сейчас успешнее всего применяются ИИ-технологии?

БЕРЕЗОВСКИЙ: Есть горизонтальные кросс-отраслевые функции, которые уже успешно применяются, начиная от управления человеческими ресурсами и заканчивая маркетинговыми кейсами с применением ИИ. Прогнозирование спроса, остатков на складе и оттока клиентов становится уже индустриальным стандартом во многих отраслях.

Некоторые индустрии (телеком, банки и ретейл) благодаря большим объемам данных традиционно находятся на передовой. Им просто необходимо использовать технологии ИИ — чтобы успешно конкурировать на рынке. На другом конце этого спектра — индустрии, которые сейчас только подхватывают эту технологию. Эти компании сталкиваются с большими сложностями, поскольку культура управления данными у них зачастую ниже.

САНДЛЕР: Мне кажется, нам надо разделить machine learning как инструмент — и искусственный интеллект как класс систем, автоматизирующих когнитивные функции человека. Машинное обучение — огромный, очень интересный сегмент, который некоторое время назад называли «биг дата», — тогда был хайп на этот термин. В целом, это работа с временными рядами и выполнение таких действий, которых люди никогда раньше не делали. На основании этого появляются какие-то новые инсайты, создающие добавленную стоимость к бизнесу. Именно в области machine learning, возвращаясь к предыдущей метафоре, это уже совсем не маленький ребенок.

Сейчас же — хайп на термин «искусственный интеллект», в котором смешали всё вместе. По сути же, систем, автоматизирующих когнитивные функции человека (то, что сейчас делают люди руками, глазами и мозгом), не очень много: computer vision, NLP (обработка естественного языка), рекомендательные системы. И здесь тоже есть много интересных внедрений. Например, Россия занимает очень серьезную позицию в технологиях вокруг NLP, в особенности — в диалоговых системах. Чат-ботами у нас автоматически обрабатывается больше обращений клиентов, чем в среднем по миру. Также в Computer vision у нас есть интересные примеры.

ВЕНЖЕГА: Здесь можно только добавить, что (опять же, возвращаясь к проблеме данных) большинство этих решений из-за некоторой специфичности неприменимы в смежных областях. Даже для разных языков и языковых конструкций (например для NLP) приходится обучать модели заново. Поэтому, к сожалению (а может, и к счастью для людей, которые имеют с этого доход), задачи все множатся и множатся.

В этом смысле одно из самых больных мест — медицина: в отличие от гигантского объема транзакций в телекоме и банках, здесь данные накоплены в более скудном и неструктурированном формате. Когнитивные функции врача-диагноста можно значительно расширить. А поскольку здоровье волнует всех, возможно, именно это направление в ближайшее время будет самым интересным. И мы это уже видим по количеству компаний, которые начали заниматься медициной: от чат-ботов первичной диагностики — до image recognition на этапе работы со снимками и диагнозами.

ЧАЧАВА: У меня есть аналогия с роботами. По сути, так мы называем устройства, предназначение которых не до конца понимаем и не совсем принимаем. Например, для моей бабушки робот — устройство, которое я называю «банкомат». Сам же я применяю этот термин по отношению к бытовому прибору, который моя дочка называет пылесосом (для нее формат робота-пылесоса уже привычнее, чем устройство из моего детства).

С искусственным интеллектом происходит нечто похожее. Этот термин мы применяем, когда говорим о чем-то неведомом и сложном. А когда оно в нашем телефоне превращается в чат-бота или в приложение для распознавания образа — мы придумываем какие-то более простые названия. И даже не задумываемся, что это — ИИ с его невероятной математикой и сумасшедшими вычислениями. Поэтому применений этой технологии уже гораздо больше, чем нам кажется.

НАГИБИН: Какие стоп-факторы мешают бизнесу уже сегодня больше использовать  ИИ-технологии?

БЕРЕЗОВСКИЙ: Главная проблема, с которой сталкиваются компании еще на этапе инициализации, — применение к проектам традиционных методов оценки инвестиций. Но зачастую это очень сложно, особенно когда речь идет о каких-то экспериментах и совсем уникальных вещах, которые еще никто не делал. А между тем, именно такие сценарии дают компаниям большие конкурентные преимущества.

Если говорить об этапе реализации, то тут 2 сложности. Первая из них — необходимость большого количества данных, на основе которых машина способна учиться (то есть в них должны быть причинно-следственные связи, которые алгоритмы смогут подхватить и обучиться). Вторая сложность связана с наличием компетентных специалистов, способных заниматься реализацией таких проектов. У всех на слуху такая модная профессия, как дата-сайентист, но нужна целая экосистема: от дата-инженеров — до разработчиков.

На последнем этапе — операционализации — компании озадачены уже неким масштабированием результатов на всю организацию. И здесь они сталкиваются с достаточно серьезными сложностями — потому что к этому нужно быть готовым как технологически, так и организационно.

САНДЛЕР: Я бы назвал 3 довольно простых стоп-фактора. Первый и самый главный — недостаток качественных и непредвзятых данных. Второй — несовершенство законодательства. И третий — человеческий фактор: страх тех людей, которые отвечают за принятие решений о проектах и внедрениях, потерять влияние, власть, а возможно, и работу. 

ВЕНЖЕГА: Действительно, вопрос качества данных — очень серьезный. Зачастую вся работа компании пронизана этим процессом — наполнением данных и их хранением. Только в самом конце мы ставим некую когнитивную функцию, которая принимает какое-то решение. И чтобы «кормить» ее хорошими свежими данными, нам придется перестроить весь рабочий процесс, — это очень сложно, а в неподготовленных компаниях еще и делается вручную.

Дата-сайентисты, которые будут в итоге эту когнитивную функцию улучшать (то есть разрабатывать какой-то решающий алгоритм), — сейчас штучный «товар». С выпускниками вузов еще нужно заниматься — они часто не готовы к решению прикладных задач. Поэтому многие компании сейчас проводят специальные дополнительные онлайн- и оффлайн-курсы. Есть множество коллабораций крупных компаний с факультетами — и это один из маркеров того, что проблема с кадрами для бизнеса выглядит очень серьезно.

ГРИГОРЬЕВА: Я не согласна. На мой взгляд, некий хайп по поводу дата-сайентистов создается, чтобы увеличить зарплаты, — это такое надувательство с определенной стороны. Все мы учили математику и знаем, что такое базы данных, — это основа основ, чтобы дальше двигаться уже с искусственным интеллектом.

А самый главный стоп-фактор связан с теми большими областями, которые еще требуют исследования. Мы ожидаем от ИИ, что он заменит часть нашего мозга, чувств, каких-то движений, оценит за нас ситуацию, распознает текст, что-то скажет. Но как научить его тому, чего мы ожидаем от людей, — справедливости, прозрачности и ответственности? Соответствующих законодательных установок пока нет, но и алгоритмизировать это не всегда получается. Вот это, мне кажется, самая большая сложность.

ЧАЧАВА: Для настройки и создания хорошо работающего алгоритма нужны достаточно серьезные капиталовложения. Это и недостаток квалифицированных кадров, и дороговизна больших данных для обучения алгоритма. Их нужно либо иметь у себя и структурировать, либо покупать (а это дорого). Поэтому основной стоп-фактор — это ресурсы, деньги, но не все бизнес-руководители понимают цикл окупаемости и возврат инвестиций в ИИ. Думаю, как только появится больше кейсов, а ИИ станет более считабельным, мы увидим кратный рост вложений в это направление.

НАГИБИН: Какие советы вы могли бы дать предпринимателям, желающим вести бизнес с использованием ИИ?

БЕРЕЗОВСКИЙ: Как известно, существует только 2 основные стратегии. Либо нам удается с помощью ИИ открыть какие-то дополнительные способы дохода (и тем самым увеличивать выручку). Либо мы работаем в направлении cost savings — повышаем эффективность своего бизнеса.

К слову, буквально на днях Microsoft запустила обучающий ресурс AI Business School для executives — людей, которые принимают бизнес-решения в компаниях либо сами являются предпринимателями. Там они могут изучать различные кейсы применения ИИ для своего бизнеса. Уже достаточно долгое время действует и похожий ресурс — AI School, — где дата-сайентисты и разработчики могут бесплатно обучаться большинству современных технологий.

САНДЛЕР: Нужно посмотреть на свой бизнес и представить, что у вас есть неограниченное число людей, которые умеют делать только что-то одно. И решить, к чему эту бесплатную «армию» вы могли бы применить. Если все складывается, то именно в этой области вам и нужно копать — внедрять системы на базе ИИ. И повторять эту операцию до тех пор, пока не найдете еще одну такую область. Так у вас сформируется pipeline проектов по внедрению систем с элементами ИИ.

ВЕНЖЕГА: Есть уже достаточно много рабочих кейсов — они неплохо описаны. Можно зайти на сайты Microsoft или посмотреть, что сделал IBM Watson (правда, там участвовали достаточно большие бизнесы, которые уже давно в теме). Для малых игроков есть много неплохих стартапов, которые могут их проконсультировать в каждом из направлений, — это сейчас можно сделать по относительно небольшой цене.

ГРИГОРЬЕВА: В любой ситуации нужно понять, где наша цель, к чему стремится компания, — тогда уже приходит понимание, для чего можно ИИ применить. Если ваша задача — продать что-то клиенту, стоит подумать о сборе его цифрового следа, преференциях, персонификации продукта, анализе данных об аудитории. Это могут быть функции, связанные с чат-ботами и предсказанием следующих шагов потребителя. Если вы производите продукт — ИИ может заменить ручной труд или снизить объем небезопасной работы. Если же у вас экосистема (вы собираете или агрегируете производителей и продавцов), подумайте, как с помощью ИИ объединить и структурировать данные из разных источников информации.

При этом нужно понять, в какой точке вы находитесь, что за технологии сейчас используете и каковы навыки у людей, которые у вас вовлечены в процесс. Да, хорошо заменить одну операцию искусственным интеллектом, но все остальное «поплывет». Поэтому придется продумать, каким образом поменять все остальные навыки команды.

ЧАЧАВА: Мы в своих рекомендациях руководствуемся принципами, выработанными еще полтора века назад — во времена «золотой лихорадки». Больше всего зарабатывают не золотопромышленники, а те, кто поставляет им инструментарий для золотодобычи. Поэтому сейчас наш фонд активно смотрит на те компании, которые разрабатывают инструменты. И мне кажется, во время такого значимого и знакового хайпа у них есть очень хорошие шансы финансово преуспеть. Я бы советовал предпринимателям смотреть на этот сегмент.

Второй интересный сегмент связан с разными продуктами для обеспечения privacy и безопасности. ИИ несет в себе риски — поэтому многие потребители напуганы и хотят чувствовать защищенность, уверенность в приватности своих данных. Этот тренд хорошо заметен — и это еще одна бизнес-возможность для предпринимателей.

НАГИБИН: Как только человечество придумало историю под названием «искусственный интеллект», появились опасения, что процесс может выйти из-под контроля. Сегодня есть 2 популярных сценария развития событий. Оптимистический: как в песне Электроника, «до чего дошел прогресс, труд физический исчез». Человек отдает все на откуп машине, а сам занимается условно творчеством и радуется жизни. Второй сценарий — пессимистический: ИИ выходит из-под контроля и вредит людям. Какой сценарий вам ближе?

БЕРЕЗОВСКИЙ: Мне кажется, мы сейчас пытаемся заглянуть в очень далекое будущее. За скобками публикаций в СМИ часто остается различие между искусственным интеллектом общего назначения (general) и узконаправленным (narrow) ИИ. И здесь важно понимать, что general ИИ по-прежнему остается скорее футуристической концепцией, а не чем-то реальным. Потому что все применение ИИ (и того, что к нему относят) — это узкоспециализированные системы, которые были задуманы для решения какой-то конкретной задачи. Чтобы они могли выполнять другие функции, придется их полностью переучивать, а это в большинстве случаев не имеет никакого смысла — создается новое уникальное решение.

Никаких предпосылок к тому, что general ИИ сейчас появится, не существует. И это нужно держать в голове, когда мы видим очередной заголовок про то, что ИИ собирается поработить человечество.

НАГИБИН: Один из лучших заголовков на эту тему — «Преступление ИИ наказание»

САНДЛЕР: Мне кажется, мы до сих пор не можем сформулировать, что такое понимание и что такое осознание для человека. Как же мы можем рассуждать об этом, говоря об ИИ? Общаясь с роботом, мы ведь не задумываемся, понял он нас или нет. На самом деле они нас не понимают, а просто подбирают наиболее подходящий ответ, исходя из входящей фразы и контекста, который знают.

Вот сейчас, во время этого разговора, нам хочется думать, что мы понимаем собеседника и реагируем, давая ему ответ. А что это, если не подбор максимально подходящего ответа с учетом контекста, истории и ситуации? То есть контекст — это очень много всего: где мы и кто мы, каждый может другого идентифицировать. Мы всегда работаем с большим количеством данных (что и составляет контекст) и получаем на входе некий запрос — некую фразу. И подбираем подходящий ответ. Мы просто уже достаточно сложный интеллект, который обработал большое количество данных, чтобы ответ действительно казался подходящим и содержал какие-то смыслы.

Ни один из сценариев, которые вы описали вначале, не реализуем. Будет какой-то третий, но мы о нем пока не знаем. 

ВЕНЖЕГА: Если говорить о прикладных задачах — да: там, где можно минимизировать косты, все будет автоматизировано. Это как с Бангладеш, куда переносят любое производство, потому что оно там дешевле. Вся история человечества говорит о том, что этот простой экономический принцип просто совершит за нас шаг к автоматизации всего и вся.

А если говорить об изменениях в поведении человека, давайте вспомним персонализированные ленты, которые все мы читаем. Они обучаются на наших интересах, и тем самым человек оказывается в неком очень изящном колпаке. Когда вы выбираете интересную радиостанцию, издания, собеседников, то часто замыкаетесь в этой информации. В результате вы уверены, что думаете правильно, и у вас есть такие же единомышленники. Таким образом, некоторые технологические улучшения могут сделать вас заложником, сузив ваш кругозор. Здесь главное — соблюдать баланс между некоторым сужением кругозора (который Facebook, например, считает правильным, потому что так больше кликают) и тем, что вы хотите быть свободомыслящим человеком.

ГРИГОРЬЕВА: Задача ИИ — помочь человеку использовать роботов. Задача человека — обучить этому ИИ. Но сможем ли мы научить искусственный интеллект родительской любви или любви физической, социальной? Появится ли у ИИ какая-то интуиция, а не простой расчет? Если это получится, тогда, на мой взгляд, случится объединение и мы перейдем в формат матрицы.

ЧАЧАВА: Если не забегать очень далеко вперед, то в среднесрочной перспективе первыми исчезнут псевдоинтеллектуальные профессии, такие как сотрудники колл-центров, банковские операционисты и все, кто делает однотипную работу. При этом в нашей жизни еще надолго останутся любимые стилист и бармен. Потому что, во-первых, манипулировать роботом гораздо сложнее, чем решать какие-то простые аналитические задачи. А во-вторых, как в том анекдоте, нам хочется еще и поговорить.

САНДЛЕР: Извините, но вообще-то нет. Легко понять, чем отличается ваш любимый бармен от других — и заменить его. Потому что на самом деле он говорит, в общем, очень простые вещи и делает напитки, которые вам нравятся. Если в вашем любимом баре есть видеокамера, которая умеет идентифицировать вас и то, что вам там смешивают, то любой бармен сможет стать «любимым» с помощью данных за последние 2 года. Ему робот в ухо подскажет, что смешать именно сейчас. То же самое — со стилистом.

И «поговорить» очень скоро будет намного интереснее с роботом. Если у вас есть персональный ассистент, сравните количество актов вашего взаимодействия с ним и с остальными сотрудниками в офисе. Выяснится, что с ассистентом вы общаетесь чаще всего, — и это очень важный фактор. Мы идем именно в эту сторону. Самый сложно заменимый человек — персональный ассистент, но и его тоже скоро можно будет заменить.

ЧАЧАВА: Рекомендательные сервисы никто не отменял, но я все же позволю себе не согласиться с вами. Личный ассистент — это все-таки скорее альтер эго человека. У меня, например, его нет — мне быстрее все делать самому (и я, конечно же, использую различные рекомендательные сервисы). Но все-таки, мне кажется, здесь несколько другая связь. Почему все колл-центры, которые используют ИИ, пытаются мимикрировать под живого человека? Потому что мы хотим общаться с живыми людьми. И когда понимаем, что нам позвонил робот, бросаем трубку. Пройдет какое-то время (с моей точки зрения — достаточно долгое), пока мы с такой же охотой начнем общаться с роботом, как это делаем с людьми.

САНДЛЕР: Вообще-то, готовность общаться с роботами у людей крайне высокая. По нашим опросам, существенно большая половина людей предпочла бы в дальнейшем общаться с ИИ, когда им нужно решить конкретный вопрос.

ЧАЧАВА: Молодежь предпочитает вообще ни с кем не общаться, а просто тыкать пальцем в хороший удобный интерфейс, — это правда. Но если уж доходит до голосового общения, то моя статистика говорит: это пока про людей, а не про роботов.

БЕРЕЗОВСКИЙ: Действительно, у общения бывают разные цели. Одно предназначено для решения вопросов, другое — для удовлетворения естественных нейрофизиологических потребностей: социализации и поддержания определенного эмоционального фона. И здесь, мне кажется, сложно будет заменить барменов и других участников нашей жизни.

НАГИБИН: Давайте затронем тему этики. Как вы считаете, каким образом (и нужно ли) регулировать эту сферу? Например, у Microsoft, насколько мне известно, есть определенные этические регламенты на эту тему.

БЕРЕЗОВСКИЙ: Корпорация Microsoft действительно очень сильно озадачена этикой применения ИИ и, в целом, развития этой технологии. Но и здесь нужно расставить точки над «i». Например, вопрос этики часто становится особенно острым, когда речь идет о принятии каких-то решений. Но если мы говорим о технологии (о том же машинном обучении), то сами по себе алгоритмы или модели ничего не решают. Они лишь предсказывают какой-то наиболее вероятный результат, исходя из текущих вводных.

Что дальше делать с этим предсказанием — большой вопрос. Иногда это реализуется в виде какой-то алгоритмической обвязки, которую, кстати, создают люди. В отдельных случаях, действительно, решение принимает человек — потому что никто другой это сделать не сможет. Например, в медицине ИИ помогает специалистам поставить более точный диагноз. Но сам диагноз по-прежнему ставят люди — мало кто из пациентов психологически готов полностью отдаться машине.

Другой важный аспект: в основе сделанных алгоритмом предсказаний лежат те данные, на которых его обучали. И если они содержали в себе какое-либо людское предупреждение — ИИ этому благополучно учится.

ВЕНЖЕГА: Действительно, все представления об этике и морали заложены на этапе ввода данных, которые готовят люди. И если в самом конце человек, как оператор, отказывается от принятия решения — можно добавить какую-то эвристику. У меня в голове сразу возникает известный кейс с автопилотом: распознав 2 объекта, он понимает, что не успеет затормозить и ему нужно сделать выбор между людьми. Здесь разработчики изначально закладывают в данные весовые коэффициенты — что будет наименее плохим исходом.

САНДЛЕР: Автоконцерны уже однозначно сказали, что там будет заложено спасать тех, кто внутри автомобиля. Абстрактная этическая задача автоматически отпала — победило желание заработать.

БЕРЕЗОВСКИЙ: То есть это не проблема искусственного интеллекта, это проблема того, чему его научили.

ВЕНЖЕГА: Думаю, здесь нужно сделать небольшой референс в сторону мифической «черной коробки», которая есть результат работы нейросети. Например, поисковые машины очень долго работали на наборе некоторых эвристик. До изобретения нейросетей каждый разумный участник команды мог внести некоторые поправки и буквально сказать: это более важный признак, и мы будем ранжировать эти объекты согласно идеологии партии или концерна и т. д.

Сейчас же действительно появились вот эти «черные коробки», в которых влияние исходного создателя ограничивается количеством и качеством загруженных им данных. Там меньше триггеров, с помощью которых можно было бы поправить итоговое решение. То есть это действительно выглядит чуть более, чем «черная коробка», — как магия. Но всегда есть возможность на ранних этапах или на этапе принятия решения его чуть-чуть поменять. Вот тогда и можно решить все вопросы этики.

ЧАЧАВА: Акционеры всех компаний ставят перед менеджментом задачу больше зарабатывать. Поэтому мое мнение: в конечном итоге бабло победит этику, и оно уже побеждает.

ГРИГОРЬЕВА: Этика зависит от религии, культуры, эпохи — да от чего угодно вокруг нас. То, что прилично в английском обществе, может быть совершенно неприлично в американском. Здесь многое зависит от тех людей, которые задают алгоритм и его работу в определенных этических ситуациях. Важно думать об этике использования ИИ именно в том месте, где он применяется.

НАГИБИН: Как известно, ИИ уже во многих сферах одолел человека: в шахматах, тестах, еще каких-то вещах… Но человеческая душа для него — по-прежнему загадка. Вопрос простой — разгадает или нет?

БЕРЕЗОВСКИЙ: Если под разгадыванием человеческой души понимать какую-то реализацию general ИИ, то я настроен скорее скептически. Часто под этим понимают использование ИИ для каких-то творческих задач — рисования, сочинения музыки. Такие кейсы уже есть, и думаю, их будет все больше и больше. Например, несколько лет назад было очень популярно приложение Prisma, где можно любую фотографию стилизовать под определенное художественное направление. Но здесь надо понимать, что это не творчество в чистом виде: машина не создает что-то новое, а, скорее, имитирует сделанное в прошлом.

САНДЛЕР: Проблемы разгадывания человеческой души (как и проблемы этики ИИ) не существует. Во-первых, никто не может сформулировать, что это такое, а значит — невозможно и разгадать. Во-вторых, там и разгадывать, по большому счету, нечего. Потому что мы называем душой неочевидно-логические движения и реакции. Та самая история про «черную коробку»: мы не знаем, как нейросеть принимает те или иные решения.

Другой пример: когда мы берем человека на работу, то предъявляем к нему некоторые требования. Он должен иметь какое-то образование и опыт, уметь анализировать финансовые «экселечки» или писать код… Ровно то же самое с этими системами. Возвращаясь к метафоре возраста ИИ: проблема этики и души возникает, когда человек набирает какой-то багаж опыта и знаний, то есть скармливает себе (или это делает за него общество) некое количество данных, — он на этом обучается. Просто ИИ еще нужно подрасти — он еще очень молодой и необученный. Но со временем, возможно, тоже (неожиданно для нас) будет восприниматься так, будто у него есть душа.

ГРИГОРЬЕВА: Отвечу на поставленный вопрос утвердительно: разгадает, но не сейчас. Все что подлежит алгоритмизации, можно выполнить или повторить. Но мы сами пока не можем ответить на вопрос, что такое интуиция и прочие внутренние ощущения. Возможно, просто нужно посмотреть на большие данные — всю историю поведения человека, которую мы пока не можем охватить. Но тот, кто сделает это, сможет сказать, что такое душа, и повторить.

САНДЛЕР: Вообще, категория «понять душу соотечественника» — это просто с высокой вероятностью предугадать его последующие действия. Как раз этим занимаются алгоритмы machine learning — предсказывают следующий элемент во временном ряду. Поэтому, если вы хотите им «понравиться», нужно понять их действия. Представьте алгоритм как временной ряд и попробуйте сообразить, какое значение он вам поставит следующим шагом, в зависимости от того, что вы ему «скормите».

ВЕНЖЕГА: Когда мы говорим «понять своего друга» (или соотечественника), то речь идет не о его душе, а о паттерне поведения. Недавно ребята из Facebook сказали, что за 200 лайков, поставленных за некий срок (то есть не за один день), лучше предскажут поведение человека, чем его супруга, с которой он прожил достаточно долгое время. Потому что с соцсетью он максимально откровенен — ему не приходится решать какие-то этические вопросы. А с супругой он показывает только часть своего паттерна. И вот это, конечно, страшновато: никто не хочет быть просто паттерном, чтобы его легко «читала» какая-то железка…

САНДЛЕР: Поэтому мы и говорим о душе. Ведь что это такое? Душевные порывы формируют мотивацию, а та уже ведет к поступкам. В конечном итоге, вопрос предсказания следующего поступка и есть вопрос понимания души.