Илон Маск и основатели DeepMind пообещали не создавать смертельное оружие на основе ИИ
Более 2 тыс. предпринимателей и ученых в ходе Международной конференции по искусственному интеллекту (IJCAI) подписали публичное обещание не разрабатывать летальное автономное оружие. Об этом сообщает The Verge.
Среди подписавших документ фигурируют предприниматель Илон Маск, который в прошлом году назвал искусственный интеллект (ИИ) главной угрозой для человечества, сооснователи DeepMind Демис Хассабис, Шейн Легг и Мустафа Сулейман, основатель Skype Яан Таллинн, а также ученые Стюарт Рассел, Йошуа Бенгио и Юрген Шмидхубер.
текст публичного обещания
«Мы не будем ни участвовать, ни поддерживать разработку, производство, торговлю или использование летального автономного оружия».
Авторы документа предупреждают, что из-за систем вооружения, которые используют технологии ИИ для определения и поражения цели без участия человека, возникают моральные и прагматические угрозы. С моральной точки зрения, человеческая жизнь никогда не должна передаваться в руки машине. С прагматической точки зрения, распространение летального оружия на ИИ станет дестабилизирующим фактором для любой страны мира.
Подписание документа организовали в некоммерческом институте Future of Life, который пытается снизить риски для существования человечества.
Предприниматели и ученые, подписавшие документ, и раньше выступали против разработки летального оружия на основе технологии искусственного интеллекта. В новом документе впервые фигурирует обещание не разрабатывать подобные технологии, отмечает издание.
В августе прошлого года группа из 116 экспертов, возглавляемая главой SpaceX и Tesla Илоном Маском, а также основателем DeepMind Мустафой Сулейманом, направили в Организацию объединенных наций (ООН) письмо с требованием запретить разработку и использование автономного оружия. Письмо также подписали основатель NaviRobot Игорь Кузнецов, а также Алексей Южаков и Олег Кивокурцев, сооснователи компании Promobot.
А в июне 2018 года стало известно, что корпорация Google ввела запрет на разработку искусственного интеллекта в военных целях. Это произошло после того, как работники компании выступили против сотрудничества Google с Пентагоном.
Подписывайтесь на наш канал в Telegram
: @incnews
