Сервис такси заблокировал пользователей с непристойными фамилиями. Алгоритм посчитал их шутниками

Пользователи сервиса такси Lyft рассказали, что алголиртм компании обвинил их в нарушении правил за то, что они зарегистрировались под своими фамилиями —Cocks (Кокс, или «члены» на сленге) и Dick (Дик, или «член» на сленге). Сервис потребовал, чтобы они перерегистрировались под нормальными именами.

Кевин Кокс получил уведомление от Lyft о том, что ему стоит сменить свой никнейм, или его аккаунт заблокируют. «Дорогой Lyft, моя реальная фамилия — Кокс. Что бы вы хотели, чтоб я сделал?», — написал он.

Такие же уведомления получили другие пользователи. Среди них — Майк Фингер (на сленге finger обозначает половой акт) и Митчелл Каммингс (на сленге слово cumming означает успешное последствие полового акта).

Lyft использует специальный алгоритм, чтобы оценить имена пользователей и определить, не являются ли они фейковыми. Проблема в том, система считает неприемлимыми настоящие имена некоторых пользователей.

«Некоторые пользователи Lyft использовали неточные и оскорбительные имена, поэтому мы разработали алгоритм. Наши намерения были только благими, но это привело к ошибкам. Мы над ними работаем и приносим свои извинения», — сказал представитель Lyft.