Рассылка журнала Inc.
Подпишитесь на самые важные материалы о бизнесе и технологиях в России
Новости

Четыре вопроса, на которые мы должны ответить до того, как научим искусственный интеллект чувствовать

Искусственный интеллект научился общаться с людьми, работать в компаниях и сочинять музыку. Некоторые эксперты считают, что технология опасна, некоторые — что она способна спасти человечество. Все они сходятся в одном: искусственный интеллект развивается слишком быстро. Он многое умеет, но пока не научился испытывать эмоции. До того как мы научим ИИ чувствовать, необходимо ответить на несколько вопросов. Об этом пишет Business Insider.


Ученые и разработчики пытаются понять, может ли искусственный интеллект быть нравственным. Доктор Дэвид Хэгенбух, профессор колледжа Мессиа и основатель портала MindfulMarketing.org, считает, что это возможно, но для этого придется много работать. Даже люди не всегда способны справиться с эмоциями и разобраться с внутренними конфликтами. Что говорить о роботах?

Дело в том, что технологии обычно ориентированы на достижение эффективности. Когда речь заходит о морали, эффективность отходит на второй план: приходится делать выбор в пользу того, что будет правильным. Уважение, честность, порядочность — усвоить эти ценности человеку помогает жизненный опыт. Если мы решим научить этому искусственный интеллект, придется ответить на четыре вопроса.

1. Какие моральные нормы следует использовать?

Представления людей о морали разнятся: то, что кажется нормальным человеку одной культуры, может покоробить или даже оскорбить другого. Это касается слов, жестов, одежды и многого другого. Прежде чем обучать машину соблюдению правил, следует договориться, какими будут эти правила.

2. Смогут ли машины обсуждать проблемы морали?

Обратите внимание на первый пункт. Представьте, каким был бы мир, если бы мы не умели договариваться. Люди научились преодолевать разногласия и находить компромиссы, но научится ли этому искусственный интеллект? Нужно понять, как научить машину распознать сложную ситуацию и как заложить в нее стремление мирно решать конфликты.

3. Смогут ли алгоритмы учитывать контекст?

Прежде чем принять важное решение, мы учитываем все обстоятельства. Например, компания может поднять цены, если производит уникальный продукт и наблюдает высокий спрос на него. Но что делать, если речь идет о жизненно важном лекарстве, патент на которое есть только у этой организации? Сможет ли компьютер ориентироваться в подобных ситуациях?

4. Кто будет нести ответственность?

Компании часто сталкиваются со скандалами. Иногда во время кризиса участники сложной ситуации пытаются снять с себя ответственность и обвиняют во всем других. Что мы будем делать, когда виновницей скандала станет ошибка, которая была совершена во время обучения системы? Кто понесет ответственность: компания-производитель, разработчики, организация, которая использует технологию? Чтобы избежать сложностей, на этот вопрос тоже лучше ответить заранее.

Апокалиптические сценарии, как искусственный интеллект уничтожит человечество, — не редкость. Но прогноз Илона Маска — основателя и руководителя SpaceX и Tesla — выглядит правдоподобно. О том, почему предприниматель опасается ИИ, читайте в материале Inc.