Российские ученые создали «сомневающуюся» нейросеть

Исследователи Центра искусственного интеллекта Сколтеха разработали новый метод обучения нейросетей, который делает ответы алгоритмов более точными. Технология позволяет ИИ-системам распознавать ситуации с высокой степенью неопределенности, которые требуют дополнительной проверки со стороны человека.

Ключевая особенность нового подхода — использование специального набора тренировочных данных с так называемыми мягкими метками от 0 до 1, которые отражают степень уверенности экспертов в разметке. В отличие от классических методов с бинарными метками новая методика помогает модели формировать более осторожную стратегию принятия решений, особенно в критических областях: медицине, промышленной безопасности и автономных системах.

Метод учитывает два типа неопределенности: эпистемическую (связанную с неполнотой данных) и алеаторную (возникающую из-за природного шума). Исследователи протестировали технологию на реальных данных, включая задачи медицинской диагностики, и смогли значительно увеличить точность оценки неопределенности при классификации и сегментации.

Новая технология потенциально применима в медицинских диагностических системах, промышленной автоматизации, техническом контроле и автономных решениях, считают в Сколтехе.