ИИ научился различать сарказм
Исследователи из Нидерландов создали детектор сарказма на основе искусственного интеллекта. Проект не ограничивается обучением алгоритмов тому, что иногда даже самые восторженные комментарии нельзя воспринимать буквально, а нужно интерпретировать как диаметральную противоположность. По словам Мэтта Колера из лаборатории речевых технологий Гронингенского университета, сарказм встречается в нашей речи чаще, чем мы думаем, поэтому его понимание крайне важно для беспрепятственного общения людей и машин.
«Он способен точно распознавать сарказм, и нам не терпится развить эту способность, — говорит он. — Интересно, как далеко мы сможем зайти». Люди, как правило, легко распознают сарказм, однако ограниченное количество его отличительных особенностей, содержащихся в письменной речи, делает эту задачу более сложной, чем при личном общении, когда тон и выражение лица выдают намерения говорящего. Разрабатывая свой ИИ, исследователи обнаружили, что для алгоритма важны различные признаки, позволяющие отличить сарказм от искренности.
В работе, представленной на совместном заседании Акустического общества Америки и Канадской акустической ассоциации в Оттаве, Сиюань Гао, аспирант лаборатории, рассказал, как группа обучила нейронную сеть на основе текстового, звукового и эмоционального содержания видеоклипов из американских ситкомов, включая «Друзей» и «Теорию большого взрыва». База данных, известная как Mustard, была собрана исследователями из США и Сингапура, которые промаркировали реплики из телешоу с признаками сарказма.
Одной из сцен, на которой тренировался ИИ, была тщетная попытка Леонарда выбраться из запертой комнаты в «Теории большого взрыва», на что Шелдон заметил: «Наблюдать за работой твоего ума — истинное удовольствие». В другом эпизоде из «Друзей» Росс приглашает Рэйчел помочь ему вместе с Джоуи и Чендлером собрать мебель, в ответ на что Чендлер заявляет: «Да, и мы очень рады этому».
После обучения на основе текстов и аудиозаписей, а также оценок, отражающих эмоциональное содержание слов, произнесенных актерами, ИИ смог распознать сарказм в немаркированных фразах из ситкомов почти в 75% случаев. В дальнейшей работе лаборатории использовались синтетические данные, чтобы еще больше повысить точность, но это исследование еще не опубликовано.
Шекхар Наяк, другой участник проекта, говорит, что этот подход можно использовать не только для того, чтобы сделать беседы с ИИ-помощниками более гибкими, но и для выявления негативного тона в языке, а также для обнаружения оскорблений и враждебных высказываний. По словам Гао, в будущем можно добавить в обучающие данные для ИИ визуальные подсказки, такие как движения бровей и ухмылки.
Создание программ, способных понимать естественную речь, поможет общаться с устройствами более свободно, добавляет Колер, но он задается вопросом, что произойдет, если машины воспользуются обретенными навыками и начнут язвить в ответ.
Ранее Microsoft запретила полицейским департаментам США использовать генеративный искусственный интеллект для распознавания лиц через Azure OpenAI Service. Требование распространяется на «правоохранительные органы во всем мире» и прямо запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах и видеорегистраторах, для попытки идентифицировать человека в условиях реальной жизни.
