Исследование: неуверенный в себе искусственный интеллект лучше работает

Группа ученых из Калифорнийского университета во главе с Диланом Хэдфилдом-Менеллом провела эксперимент, в ходе которого было доказано, что искусственный интеллект будет действовать лучше, если он будет лишен уверенности в своих действиях. Об этом говорится в исследовании, опубликованном на ArXiv.org.

В рамках эксперимента ученые наблюдали за совместной работой человека и робота, в ходе которой устройство с искусственным интеллектом выполняло задачу. Человек получал право прервать действия робота, нажав на специальный выключатель, однако у робота существовала возможность прекратить работу выключателя и вернуться к задаче.

Устройства, наделенные высокой степенью уверенностью в том, что они выполняют полезную работу, никогда не позволят человеку отключить его. При этом робот с низкой уверенностью в своих действиях всегда позволял человеку отключить его, даже если устройство выполняло полезную работу.

Исследователи указывают, что люди не должны делать искусственный интеллект слишком неуверенным в себе. Так, если беспилотный автомобиль будет везти маленького ребенка в школу, то он никогда не должен позволять ребенку брать управление на себя. В таком случае робот должен быть уверен, что его способности опережают ребенка и не должен позволить ребенку отключить его.

«Предоставление машинам надлежащего уровня неуверенности в поставленных задачах приводит к более безопасной работе устройств. Это изменение представляет собой полезное обобщение классической парадигмы искусственного интеллекта как рационального агента», — указывают авторы исследования.

Ранее Inc. сообщал, что ученые обучили искусственный интеллект прогнозировать продолжительность жизни по томограмме.