Ольга Ускова, Cognitive Technologies: Мы производим мозги и в каком-то смысле идем по трупам
Массовое внедрение беспилотных автомобилей — дело ближайшего будущего. Но участники рынка (да и все общество) до сих пор не знают ответов на некоторые этические вопросы — например, кто должен нести ответственность за аварию с участием робокара? И чем грозит миру дальнейшее развитие искусственного интеллекта (ведь он может стать умнее человека)? Искать ответы на эти непростые вопросы должны не государства по отдельности, а мировое сообщество в целом, считает глава российской софтверной компании Cognitive Technologies Ольга Ускова. В интервью Inc. она рассказала, как трагедии с участием беспилотников влияют на индустрию, на чем «срубился» Uber и что не так с подходом российских властей к регулированию отрасли.
Робокары на развилке
— Вы говорили, что первые полностью беспилотные автомобили появятся не ранее 2025 года. На чем основана ваша оценка?
— Беспилотный автомобиль будет главенствовать на дорогах, когда сложатся технологический, юридический и социальный аспекты. На текущий момент практически решена задача беспилотного движения в пробках и на хайвее. Но остается проблема «последней мили» — так мы называем подруливание к финальной точке поездки.
Учитывая скорость открытий в этой сфере, на технологическую часть уйдет года два. Опытная эксплуатация и переход к промышленным редакциям, тестированию — это еще 3 года. По моей оценке, уверенное технологическое решение «из одной точки в другую» будет к 2024 году.
Юридический аспект зависит от конкретной страны. В США, к примеру, в последнее время вышла целая пачка законов и постановлений. Думаю, американцы все сделают очень быстро, — там эта работа приобретает системный характер.
— А Европа?
— Европа изучает и старается имплементировать американский опыт.
— Вы имеете в виду правовую область?
— Во всех странах мира один из самых крупных заказчиков — государство. Заказ определяет разработку: в какую сторону движутся инвестиции, и что продают компании в конечном счете.
И здесь есть принципиальная развилка. Она во многом определит вектор развития беспилотного транспорта: такси по перемещению из точки А в точку Б, которое вытеснит личный автотранспорт, или, наоборот, личные робокары для собственных нужд владельца. Эти противоположные концепции требуют разной инфраструктуры в городах и государствах. В первом случае не нужны парковки, во втором — паркинг и хранение автомобилей остаются актуальными, меняется суть предмета потребления.
Думаю, государства определятся с этим в следующие 2-3 года, а затем еще примерно 2 года понадобится на законодательные и страховые решения. В течение следующих нескольких десятилетий они будут уточняться, но первичный пул, надеюсь, возникнет к 2025 году.
Штаты, например, делают акцент на такси — если убрать водителя, стоимость транспортировки резко упадет (у таксистов высокие зарплаты). А китайцы сконцентрировались на роботизированном сельском хозяйстве — им надо дешево кормить свои миллиарды.
Как беспилотные автомобили покоряют мир
- В 2004 году американское оборонное агентство DARPA провело соревнование Grand Challenge среди команд разработчиков: их беспилотники должны были проехать около 229 км по пустыне Мохаве. Большинство машин перевернулись или разбились, а самый успешный участник заезда преодолел лишь 7 миль. Тем не менее, гонка способствовала созданию сообщества гиков, которые продолжили работать над беспилотниками.
- В 2009 году Google запустила свой проект разработки беспилотника. Команду разработчиков возглавил профессор Стэнфорда Себастьян Трун — руководитель команды-победителя в заезде DARPA. В 2014-м корпорация показала прототип полностью беспилотного автомобиля без руля и педалей, а в 2016-м выделила свое подразделение по робокарам в отдельную компанию Waymo. Сейчас она сосредоточена на сервисе беспилотных такси (за ними будут наблюдать удаленные операторы, готовые вмешаться в управление машиной).
- Вслед за Google в разработку робокаров стали инвестировать ведущие IT-компании (Intel и Uber) и автопроизводители (Ford, Nissan, GM и др.). Появилось множество стартапов, работающих над созданием отдельных компонентов для беспилотников: радаров, камер, карт и систем управления данными.
- На успех разработчиков отреагировали американские регуляторы. В 2011-2012 годах власти Невады, Флориды и Калифорнии законодательно разрешили езду беспилотных машин по дорогам общего пользования. Дальше всех пошла Аризона: там робокары могут передвигаться по дорогам без поддержки оператора-человека.
- В 2013-2015 годах тестировать беспилотники разрешили в Нидерландах, Швеции, Франции и Великобритании, а в декабре 2017-го — в Китае.
- По прогнозу РВК и консалтинговой компании Frost & Sullivan, к 2025 году беспилотники составят 40% всех выпускаемых в мире легковых машин. Объем мирового рынка робокаров к 2025 году вырастет с текущих $1,3 млрд до $84 млрд.
Ошибки тупые и полезные
— Разработчики беспилотников часто попадают в неприятные истории. Как это сказывается на индустрии?
— Знаете, бывают тупые ошибки, а бывают полезные для всех. История гибели дядьки, который на автомобиле Tesla втемяшился в пересекающий дорогу грузовик, — тупая. Tesla, видимо, просто не предупредила своих пользователей об относительно низком уровне системы ADAS и об ограничениях в её использовании в реальных дорожных условиях. Компании надо было продавать, и она могла убрать это замечание на 99 страницу договора. А пользователь мог посчитать, что спокойно поиграет в игру, пока его везет автопилот.
А вот кейс Uber — системная ошибка, которая сильно подвинула и законодателей, и разработчиков сервисов. Это был очень важный, поворотный момент, после которого все наконец-то начали серьезно думать о метриках. Uber выпустил на дорогу свои машины, чтобы в беспилотном режиме возить пассажиров и набирать статистику. Компания как бы не нарушала законодательство — внутри автомобилей сидели водители-испытатели, которые должны были контролировать безопасность всех участников движения. Но это не были асы вождения, и в случае с убийством этой женщины квалификация водителя, вероятно, была низкой.
После инцидента были остановлены все испытания на дорогах — надо было подправить метрики ADAS и требования к испытателям. И вот тогда началось формирование уже нормального эксперимента — с учетом того, что по дорогам ходят люди, не обязанные в нем участвовать (и тем более — умирать).
С одной стороны, Uber откинуло примерно на год в исследованиях. Компании пришлось пройти через судебные процессы и свернуть часть программ — это дорого ей обошлось. С другой стороны, все участники рынка поняли, на что надо обратить внимание, — и рынок двинулся в сторону точных тестов и измерений.
Бизнес Cognitive Technologies
Компания Cognitive Technologies появилась в 1993 году на базе Лаборатории искусственного интеллекта Института Системного Анализа РАН. Начинала с разработки систем распознавания текстов. Впоследствии создавала продукты для распознавания голоса, автоматической обработки документов и для беспилотных транспортных средств. С начала 2000-х годов Cognitive Technologies регулярно получает заказы от ведомств (в том числе силовых) и госкомпаний — для них она разрабатывала системы электронной торговли и управления закупками. В разработку ИИ для беспилотников за последние 10 лет компания инвестировала $22 млн.
По итогам 2016 года, Cognitive Technologies заработала 28 млрд руб. В последние 2 года компания не раскрывает данные о выручке, но открыто сообщает о планируемых показателях: к 2020 году она намерена выйти на оборот в $1 млрд.
— А что, собственно, измеряют?
— Когда проводится эксперимент (особенно связанный с безопасностью и человеческой жизнью), должны быть прописаны какие-то KPI: каков уровень беспилотности, что именно тестируется, с какой задачей машина выехала на дорогу. В принципе, когда вся эта история только начиналась, в мире достаточно быстро ввели 6-уровневую градацию систем «умности» автомобиля. С нулевого до второго уровня — это когда руки на руле, на третьем — руки в ряде случаев можно убрать, четвертый — беспилотность (но человек в кабине), и только пятый — совсем без человека.
Uber «срубился» на том, что выпускал свои машины без четкого определения уровня беспилотности. Если б их протестировали перед инцидентом и определили, что это второй уровень (а он, скорее всего, был второй), следовало бы судить водителя — он убрал руки с руля. Если б это был третий уровень беспилотности, пришлось бы судить производителя — в условиях данного отрезка улицы автомобиль не выполнил требования безопасности. А получилось, что уровень непонятно какой. В общем, они загладили ситуацию, видимо, расплатившись с пострадавшей семьей, — то есть виноватых как бы не было, и прецедент до конца не был создан.
— Подобные скандалы наверняка подрывают имидж производителей…
— Знаете, любая новая история — про доверие. Скажем, человеку говорят, что тефлоновая сковородка — самая полезная в мире. Если он верит производителю, то покупает ее, жарит яичницу и хорошо себя чувствует. А если считает, что фирма врет, — не покупает сковородку. Возможна и такая ситуация: человек доверяет производителю, но первая же яичница у него пригорает. После этого он может навсегда отказаться от покупки тефлоновых сковородок.
Когда на рынок выпускается принципиально новая продукция, первая реакция населения — страх, любопытство, отторжение. И чем больше негативных историй в этой зоне — тем больше отторжения и страха. Обычный потребитель плохо запоминает бренды, для него всё это — «беспилотный автомобиль». Поэтому чем больше негативного происходит — тем хуже нам всем.
«Вы лучше, но у вас русские корни»
— А на автопроизводителей тоже как-то влияют скандалы с беспилотниками?
— Да, они такие же потребители. Эти люди на протяжении 60-70 лет занимались сборкой совершенно другого устройства. То, что мы называем автомобилем сейчас, очень отличается от авто даже 15-летней давности. Сейчас в этом девайсе больше софта, чем железа. И для автопроизводителей это такая же новая вещь, как и для покупателей. Более того, они в данном случае отвечают головой. Каждая ошибка для крупного автоконцерна — это миллиарды и потеря репутации. Поэтому они подходят к новейшим технологиям с лупой и 80-страничными контрактами, где очень серьезно прописывается ответственность второго подрядчика. Но нет ни одной автокомпании, которая отказалась бы от беспилотников, — у всех это стоит в планах. И их сроки, кстати, приблизительно совпадают: около 2025 года (по прогнозу Frost & Sullivan, тогда начнется массовая коммерциализация беспилотников. — Inc.).
— Как скандалы повлияли конкретно на ваш бизнес?
— Нам они помогли, потому что мы производим не такси, а мозги. Для международных рынков мы были ноунеймом. Наша компания вышла на мировой рынок в 2017 году, и она — не Google. Все, что мы можем предъявить, — это беспрецедентное качество. И, конечно, весь первый год мы постоянно доказывали, что не верблюды и вообще имеем право на существование. Затем уже были конкуренция и демонстрация наших преимуществ. И третья стадия: «Вы лучше, но слишком молоды, малы, и у вас русские корни, а вот эти, может, и похуже, но они большие и нам с ними спокойнее», — такое звучало.
Но после летальных исходов потенциальные заказчики вернулись к переговорам, и мы начали подписывать соглашения. Трагедии открыли для нас дверь — в обычной ситуации для этого надо вкладывать в бренд столько, сколько мы еще не вложили. Поэтому здесь и сейчас мы в каком-то смысле идем по трупам.
— Получается, трагедии уравнивают шансы игроков рынка?
— Абсолютно! Потому что содержание сейчас превалирует над формой. Чем отличается революционный период на рынке? Если рынок уже установился, твоя задача — вкладываться в бренд, чтобы с тобой начали разговаривать. Когда открывается «окно возможностей» и происходит что-то новое, нужно вкладывать не в бренд, а в содержание, чтобы создать действительно лучший продукт и занять нишу без вложений во внешнюю оболочку. Такие «окна возможностей» работают 5-7 лет, а потом всё опять фиксируется — и в следующие 60-70 лет не пропихнешься.
«В нашей стране все дружат шайками»
— Вы достаточно часто высказываете недовольство скоростью развития институциональной среды в России. А недавно написали гневный отзыв на эксперимент Минпромторга…
— Ключевая претензия в том, что эксперимент строится без указания целей. Любой эксперимент — это проверка гипотезы. Если мы нагреем воду до 100 градусов — она закипит или нет? Вот в эксперименте Минпромторга вообще никакой цели. Там не сказано, что в результате тестирования «смертность на дорогах снизится на 20%» или «продажи российского автопрома вырастут». Хоть какие-то KPI поставьте!
В чем суть эксперимента? Кто будет определять его успешность? Чего хотят добиться участники эксперимента? Сейчас на него выделят деньги, это забито в бюджет. Но как они объяснят населению эффективность этих затрат?
Скандальный эксперимент
В ноябре 2018 года Минпромторг разместил на regulation.gov.ru проект постановления об экспериментальном тестировании беспилотников на дорогах общего пользования. В качестве пилотных регионов выбрали Москву и Татарстан.
Изначально эксперимент должен был продлиться с марта 2019 года по март 2022 года. По его условиям, компании-участники должны были иметь уставной капитал не ниже 100 млн руб. и не могли тестировать в одном регионе более 200 своих беспилотников. Некоторых игроков рынка это возмутило. В компании Cognitive Technologies заявили, что условия эксперимента закрывают маленьким компаниям доступ к тестированию.
Но в конце ноября 2018 года Дмитрий Медведев подписал постановление, согласно которому эксперимент начался в декабре. В нем не упоминается требуемая величина уставного капитала и ограничение числа беспилотников. Сейчас предыдущий проект постановления на regulation.gov.ru недоступен.
— Как считаете, ваша критика повлияла на изменение условий эксперимента?
— Она повлияла ровно с двух сторон. Во-первых, они убрали пункт про 100 млн руб. в уставном капитале компаний-участников, — мол, Ускова возмутилась, и мы отреагировали. Теперь, если я пойду к президенту жаловаться, они положат ему на стол справку о том, что реакция была.
А во-вторых… Это очень смешно, конечно, — я давно такого не видела. Они выложили документ, и началось обсуждение, которое должно было закончиться 1 марта 2019 года. И началась жесткая критика: не только моя, но и других экспертов. И на этом фоне абсолютно негативного отношения они принимают решение запустить эксперимент на 3 месяца раньше — с 1 декабря 2018-го. Как вы думаете, почему? Если б еще немножко пообсуждали, пришли бы к какому-нибудь другому документу, более рыночного характера. И в нем уже не присутствовала бы именно эта группа компаний. Но зачем им эта демократия? Скорее всего, чтобы не дать развиться скандалу и закрепить тот бред, который они там написали, — они и объявили о переносе.
— Вы объясняете эту ситуацию глупостью или коррупцией?
— Да мне это неинтересно, я не хочу никак это объяснять. Правда, неинтересно. Я считаю, что это не про бизнес и не про сервис.
— Но вас же задевает, что вы не участвуете в эксперименте?
— Нет, это вообще не моя история. Меня не задевает.
— Судя по вашей реакции, вы и не знали о том, что планируется эксперимент…
— Конечно, не знала. В данном случае чиновники Минпромторга не решали вопрос, как сделать лучше на новейших рынках. Иначе они бы не смогли миновать наших экспертов. В нашей стране все дружат шайками. Вообще, в мире все дружат шайками, но в нашей стране это очень обостренная история. У нас как принято? Не по профессиональным признакам, а по принципу «я с этой девочкой не вожусь, и поэтому вместе с ней играть не пойду». А автопрома-то по большому счету нет.
Российский автопром сидит на подачках. Задача — получить очередной грант от государства, а не развивать бизнес, включаясь в мировое соревнование. Те, кто развивают бизнес, интересуются происходящим в мире, берут лучшие технологии, стараются попасть в тренды. А те, чья задача — получить грант, дружат с нужным чиновником, пишут правильные отчеты и определенным образом собирают команду.
Бизнес в условиях «холодной войны»
— У себя в Facebook вы рассказали о переговорах с международной корпорацией, которая пыталась давить на то, что Cognitive Technologies — российская компания. Этот аргумент — просто уловка? Или ваших подрядчиков действительно так интересуют ваши корни?
— Производственников это не интересует вообще ни разу — они с удовольствием работают с нами (считается, что у русских хорошая школа). Мы даем очень высокое математическое качество, и они это знают.
А вот для финансистов (тех, кто работает с деньгами) наши корни сейчас стали иметь значение. Потому что в США существует целый ряд внутренних постановлений, ограничивающих работу не только с российскими компаниями, но и с европейскими, которые частично принадлежат людям с русскими корнями.
Но это критично только для стандартных рынков. А там, где все очень эксклюзивно, с нами все равно работают — потому что деваться некуда (если им реально важно, чтобы люди не гибли в результате внедрения новейших технологий).
Русским сейчас стало тяжелее, и сколько это продлится — неизвестно. Но я точно знаю, что даже в самый разгар холодной войны реально интересные вещи продаются и покупаются.
— С американскими автопроизводителями у вас есть какой-то диалог?
— Диалог есть, но именно с американскими автопроизводителями он идёт хуже, чем с европейскими и азиатскими. Сейчас у нас полсделки в Штатах, тогда как в остальных странах по 2-5 контрактов. Честно говоря, я и не очень страдаю от этого, потому что США — не самый вкусный рынок (из крупных автопроизводителей там только Ford). Он самый вкусный в финансовом отношении, но мы же пока не идем на листинг. Мы смотрим на это — и грустно, что сейчас любая сделка по Штатам требует американского офиса. Мы уже открываемся в Детройте, потому что иначе просто не сможем работать с автопромом США. Но и сделка по Китаю тоже требует местного офиса — там мы открываемся в Шэньчжэне.
Вообще, любой национальный рынок (даже российский наконец-то) начал требовать очень глубокого присутствия в офлайне. Когда растут объемы, этого начинают требовать клиенты — чтобы решать вопросы на месте, в их юрисдикции. Не получается сидеть где-то там в Москве и продавать онлайн. Хочешь продавать в Америке — открывай офис в Америке, хочешь продавать в Китае — открывай офис в Китае. Даже в Аргентине и Бразилии клиенты потребовали местные представительства.
— Кажется, вас раздражает геополитика.
— Очень. Понимаете, для тем, связанных с искусственным интеллектом и другими новейшими технологиями, национальные границы — это каменный век. Это смешно. Ведь реальные вопросы, которые стоят перед человечеством, другие — и вообще не связаны с этими «огородиками». Они — о том, как правильно наладить жизнь в смешанном обществе, когда вместе трудятся люди и роботы. Это вопросы о выживании — и ими надо заниматься сейчас. Качество воды, воздуха и продуктов, вирусология, перенаселение, изменение климата — это ведь не популистские темы… Вы же думаете, что будет с вашим малышом через 40 лет? А кто куда границу передвинул — абсолютная фигня. Очень жаль, что человечество тратит столько сил на обсуждение, кто какой танкер арестовал и кто что сказал на сессии ООН.
Я в этом смысле всегда вспоминаю историю с освоением атома. Чтобы человечество село решать жизненно важные вопросы, которые возникли в этот пиковый момент, понадобилось грохнуть 200 тыс. японцев. Пока не случилось ужаса Хиросимы и Нагасаки, люди не сели договариваться. И мне бы не хотелось, чтобы человечество прошло через новую вселенскую катастрофу, прежде чем оставшиеся в живых сядут договариваться о регулировании развития искусственного интеллекта.
Геополитика должна заниматься вопросами выживания человечества: проблемой перенаселения и колониями на других планетах. Если мы победим все смертельные болезни и продлим свое существование — куда денем людей и чем их займем? Как люди будут взаимодействовать с кремниевым разумом? Мне кажется, геополитика должна быть про это.
«Библия» для разработчиков
— А у самого экспертного сообщества уже готовы какие-то наработки по регулированию искусственного интеллекта?
— Я за всех не могу говорить. Мы понимаем, на что надо обратить внимание для разумного сдерживания технологического прогресса в области развития AI. Есть и софтверные, и хардверные вопросы. Это и ключевая технология для современного AI (нейронные сети глубокого обучения), и новый тип сенсоров и микропроцессорных плат.
Понимаете, человечество очень долго сидело на попе ровно. Считается, что искусственный интеллект сейчас по размеру равен мозгу лягушки, через 20 лет он достигнет мозга собаки, затем — мозга обезьяны. Поэтому якобы можно не париться — у нас еще есть время… На самом деле, этот лобовой подход не имеет права на существование. Нейронные сети перевернули всё с головы на ноги — они строятся по подобию человеческого мозга, для их функционирования не нужно бесконечное увеличение объема хранения данных. И по ряду направлений (таких, как ИИ для беспилотного автомобиля, поисковые системы, переводчики) в отдельных случаях мы уже достигаем результатов функционирования далеко не лягушки, а вполне себе экспертного человеческого мозга.
И здесь одним из регуляторных факторов становится система требований к сетям глубокого обучения. В их генетическую основу должно быть заложено определение человека как объекта, которому нельзя наносить вред ни при каких обстоятельствах. Если ввести уголовную ответственность за производство оружия на основе ИИ, производители заведомо будут преступниками. Сейчас же им ничего не грозит.
— Такое оружие уже делается?
— Думаю, что это есть. Террористические организации наверняка начали подтягиваться к этой теме. Если человек ненормальный и у него есть бабки — почему он не может этим заняться? Это огромные рынки.
— Опишите вкратце, как должна выглядеть система требований к ИИ?
— Нужно сформировать базу из 15-20 заповедей, из них 3 критичные, остальные — желательные. Вот и всё. В результате должна получиться некая усредненная модель, как это сделано в Библии, Коране и любом другом системообразующем документе, который объединяет максимальное количество людей. Для нового, смешанного общества тоже должна быть создана такая «библия» с четкими рамками — в них и будет действовать законопослушный разработчик искусственного интеллекта.
