Журнал
О проекте
О проекте
Inc. — журнал-икона американских предпринимателей.
Уже 37 лет он рассказывает, как запускать бизнес с нуля.
С 2016 года мы делаем это в России.
Связаться с нами лучше всего по электронной почте
Редакция
editorial@incrussia.ru
Рекламный отдел
ad@incrussia.ru
Адрес редакции
109263, город Москва, улица Шкулева, дом 9, корпус 1, офис II Вакансии
Разобраться

Как искусственный интеллект уничтожит мир (апокалипсис от Илона Маска)

Как искусственный интеллект уничтожит мир (апокалипсис от Илона Маска)

Апокалиптические сценарии, как искусственный интеллект уничтожит человечество, — не редкость. Но прогноз Илона Маска — основателя и руководителя SpaceX и Tesla  — выглядит правдоподобно. Предприниматель рассказал, как предотвратить катастрофу.


На летней встрече Национальной ассоциации губернаторов Маск признался, что развитие искусственного интеллекта (ИИ) его «пугает сильнее всего».

— Я имею дело с самыми передовыми разработками в сфере ИИ и не устану призывать к осторожности, — сказал предприниматель. — Но люди, пока не увидят, что по улице идут роботы-убийцы, не поймут, как реагировать на угрозу, — она им кажется эфемерной.

Маск убежден: случайное уничтожение цивилизации из-за ИИ — вполне возможный сценарий, и роль государства в его предотвращении очень важна.

— Одна из функций правительства — обеспечение общественного блага. Власть должна обращать пристальное внимание на потенциальные угрозы для общества, — напомнил предприниматель. — ИИ несет фундаментальный риск для существования цивилизации, чего нельзя сказать об автомобильных авариях, авиакатастрофах, наркотиках или некачественной еде.

Достаточно умен, чтобы убивать

Маск привел несколько примеров — они кажутся безобидными сейчас, но могут превратиться в серьезную угрозу. Предприниматель напомнил об Alpha Go — искусственном интеллекте, который может «одновременно вести игру в го с 50 лучшими игроками мира» и победить всех, и о роботах,  «которые без каких-либо вводных данных могут научиться ходить всего за несколько часов — быстрее, чем любое биологическое существо».

Последний, особенно пугающий пример Маска — что «умный» чат-бот может начать войну, всего лишь создав фальшивые новости и поддельную электронную почту. Глава Tesla напомнил о катастрофе малайзийского авиалайнера на украинской границе и нарисовал следующую перспективу.

— Представьте, что у вас есть ИИ, который стремится максимизировать ценность портфеля акций, — сказал Маск. — Есть очень хороший способ этого добиться: сделать ставку на рост в оборонной промышленности и падение в сфере потребительских товаров, а затем начать войну. Взломайте малайзийский сервер, отвечающий за построение авиационных маршрутов, заставьте один из самолетов пролететь над зоной военных действий, а затем отправьте анонимное сообщение о том, что самолет противника прямо сейчас находится у военных над головой.


Цукерберг не согласен

В спор с Илоном Маском, который назвал искусственный интеллект угрозой человечеству, вступил Марк Цукерберг. По мнению главы Facebook, заявлять о конце света из-за новых технологий — крайне безответственно. Он убежден, что ИИ сделает жизнь лучше. В ответ глава Tesla заявил, что у его оппонента — ограниченное понимание искусственного интеллекта.

Как снизить угрозу

Маск настаивает: правительству пора взять ситуацию в свои руки. Он предложил простой план, который позволит власти снизить угрозу, исходящую от ИИ. В нем всего три пункта:


1. Узнать об ИИ как можно больше

— Для начала важно как можно лучше разобраться в вопросе, понять, в чем проблема и трезво оценить достижения ИИ, — считает Маск.


2. Как можно скорее начать регулирование

— Искусственный интеллект — та редкая область, где нужно начать регулирование, не дожидаясь прецедентов, — убежден глава Tesla. — Если дело дойдет до прецедентов — будет поздно. Маск сравнил предполагаемый регулирующий орган в области ИИ с Федеральным управлением гражданской авиации США. По его словам, строгие нормы регулирования полетов порой кажутся излишними и раздражают, но очень важны для безопасности пассажиров: конкуренция заставляет компании выпускать на рынок технологии, не обеспечив их безопасности.


3. Ввести стандарты безопасности для ИИ

Маск отметил, что успешные компании активно участвуют в создании ИИ — ради конкурентоспособности, — и призвал участников рынка и правительство следить, чтобы ИИ выходил на рынок после проверки на соответствие стандартам безопасности.

Маск признает, что некоторым компаниям это придется не по нраву — как и регулирование в сфере авиаперевозок, транспорта и пищевых продуктов. Но безопасность того стоит, убежден глава Tesla.

— Будучи осведомленными, люди будут очень бояться последствий. Но так и должно быть, — заключил Маск.

Поделиться
Подписаться на самые важные материалы
о бизнесе и технологиях в России