Бывший сотрудник Uber в Великобритании подал на работодателя в суд. Дело в биометрической системе верификации личности, которая не смогла идентифицировать водителя из-за его цвета кожи, пишет The Guardian. Из-за этого он не мог зайти в приложение Uber и выйти на смену. Водитель сделал несколько неудачных попыток снова пройти идентификацию, но в течение двух месяцев его учётную запись заблокировали и уволили.
Водитель обвиняет Uber в использовании «расистских» алгоритмов. Профсоюз независимых рабочих Великобритании привёл статистику, которая показала, что с подобной проблемой столкнулись более 35 сотрудников афроамериканского и азиатского происхождения, которые тоже лишились работы. Организация призывает Uber отказаться от использования алгоритма и вернуть уволенных.
Однако ответчик отрицает обвинения и утверждает, что он, наоборот, борется с расизмом и выступает за равенство. Кроме того, Uber добавил, что в приложении есть возможность выбрать, кто тебя будет идентифицировать — человек или алгоритм.
Эту биометрическую систему верификации личности разработали в Microsoft. Ранее в корпорации признали, что софт может делать ошибки и не распознавать темнокожих людей. Однако текущее судебное разбирательство Microsoft не прокомментировала.
The Guardian приводит статистику, говорящую о том, что в Лондоне 90% водителей — афроамериканцы, азиаты или представители смешанной расы.
В сентябре был скандал из-за работы ИИ-алгоритма в Facebook*: после просмотра одного из роликов в профиле The Daily Mail на Facebook*, в котором присутствовали темнокожие мужчины, нейросеть предлагала пользователям «продолжить смотреть видео о приматах». Компания принесла извинения и приостановила работу алгоритма. Facebook* назвала случившееся «недопустимой ошибкой».