Рассылка журнала Inc.
Подпишитесь на самые важные материалы о бизнесе и технологиях в России

Как искусственный интеллект уничтожит мир (апокалипсис от Илона Маска)

Как искусственный интеллект уничтожит мир (апокалипсис от Илона Маска)

Апокалиптические сценарии, как искусственный интеллект уничтожит человечество, — не редкость. Но прогноз Илона Маска — основателя и руководителя SpaceX и Tesla  — выглядит правдоподобно. Предприниматель рассказал, как предотвратить катастрофу.


На летней встрече Национальной ассоциации губернаторов Маск признался, что развитие искусственного интеллекта (ИИ) его «пугает сильнее всего».

— Я имею дело с самыми передовыми разработками в сфере ИИ и не устану призывать к осторожности, — сказал предприниматель. — Но люди, пока не увидят, что по улице идут роботы-убийцы, не поймут, как реагировать на угрозу, — она им кажется эфемерной.

Маск убежден: случайное уничтожение цивилизации из-за ИИ — вполне возможный сценарий, и роль государства в его предотвращении очень важна.

— Одна из функций правительства — обеспечение общественного блага. Власть должна обращать пристальное внимание на потенциальные угрозы для общества, — напомнил предприниматель. — ИИ несет фундаментальный риск для существования цивилизации, чего нельзя сказать об автомобильных авариях, авиакатастрофах, наркотиках или некачественной еде.

Достаточно умен, чтобы убивать

Маск привел несколько примеров — они кажутся безобидными сейчас, но могут превратиться в серьезную угрозу. Предприниматель напомнил об Alpha Go — искусственном интеллекте, который может «одновременно вести игру в го с 50 лучшими игроками мира» и победить всех, и о роботах,  «которые без каких-либо вводных данных могут научиться ходить всего за несколько часов — быстрее, чем любое биологическое существо».

Последний, особенно пугающий пример Маска — что «умный» чат-бот может начать войну, всего лишь создав фальшивые новости и поддельную электронную почту. Глава Tesla напомнил о катастрофе малайзийского авиалайнера на украинской границе и нарисовал следующую перспективу.

— Представьте, что у вас есть ИИ, который стремится максимизировать ценность портфеля акций, — сказал Маск. — Есть очень хороший способ этого добиться: сделать ставку на рост в оборонной промышленности и падение в сфере потребительских товаров, а затем начать войну. Взломайте малайзийский сервер, отвечающий за построение авиационных маршрутов, заставьте один из самолетов пролететь над зоной военных действий, а затем отправьте анонимное сообщение о том, что самолет противника прямо сейчас находится у военных над головой.


Цукерберг не согласен

В спор с Илоном Маском, который назвал искусственный интеллект угрозой человечеству, вступил Марк Цукерберг. По мнению главы Facebook, заявлять о конце света из-за новых технологий — крайне безответственно. Он убежден, что ИИ сделает жизнь лучше. В ответ глава Tesla заявил, что у его оппонента — ограниченное понимание искусственного интеллекта.

Как снизить угрозу

Маск настаивает: правительству пора взять ситуацию в свои руки. Он предложил простой план, который позволит власти снизить угрозу, исходящую от ИИ. В нем всего три пункта:


1. Узнать об ИИ как можно больше

— Для начала важно как можно лучше разобраться в вопросе, понять, в чем проблема и трезво оценить достижения ИИ, — считает Маск.


2. Как можно скорее начать регулирование

— Искусственный интеллект — та редкая область, где нужно начать регулирование, не дожидаясь прецедентов, — убежден глава Tesla. — Если дело дойдет до прецедентов — будет поздно. Маск сравнил предполагаемый регулирующий орган в области ИИ с Федеральным управлением гражданской авиации США. По его словам, строгие нормы регулирования полетов порой кажутся излишними и раздражают, но очень важны для безопасности пассажиров: конкуренция заставляет компании выпускать на рынок технологии, не обеспечив их безопасности.


3. Ввести стандарты безопасности для ИИ

Маск отметил, что успешные компании активно участвуют в создании ИИ — ради конкурентоспособности, — и призвал участников рынка и правительство следить, чтобы ИИ выходил на рынок после проверки на соответствие стандартам безопасности.

Маск признает, что некоторым компаниям это придется не по нраву — как и регулирование в сфере авиаперевозок, транспорта и пищевых продуктов. Но безопасность того стоит, убежден глава Tesla.

— Будучи осведомленными, люди будут очень бояться последствий. Но так и должно быть, — заключил Маск.

Рассылка журнала Inc.
Подпишитесь на самые важные материалы о бизнесе
и технологиях в России