РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

У систем распознавания лиц обнаружены предрассудки

Кто бы мог подумать, что у бесчувственных компьютеров есть предубеждения. Тем не менее, компьютер является инструментом и в руках человека ничто человеческое ему не чуждо. В том числе предвзятость.
У систем распознавания лиц обнаружены предрассудки
Claudia Ramírez / Unsplash

В ходе недавнего исследования, проведенного правительством США, было обнаружено, что, системы распознавания лиц имеют предубеждения против людей разных рас и пола. Ошибки идентификации людей со смуглым цветом кожи и неевропейской внешностью происходят гораздо чаще. Всего Национальным институтом стандартов и технологий США были изучены 200 систем от 99 разработчиков.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

«При сопоставлении результатов наблюдалось больше ложных срабатываний во время идентификации лиц азиатского и афроамериканского типа. Это наблюдалось в 10—100 раз чаще, чем в случае с белыми людьми, в зависимости от индивидуального алгоритма программ», — говорится в исследовании.

Например, исследование показало, что технология распознавания лиц Microsoft сбоит почти в 10 раз чаще в случае идентификации цветных женщин, чем цветных мужчин. К слову, по результатам проверки именно система Microsoft продемонстрировала худшие результаты. В Microsoft заявили, что изучают отчет правительства, и намерены исправить все обнаруженные ошибки.

Это уже не первый случай, когда технология распознавания лиц обвиняется в предвзятости. Например, не так давно было обнаружено, что система Apple, помогающая определять размер кредитного лимита, предлагала мужчинам больше денег, чем женщинам.

Іван Шишкін
Іван Шишкін 01 Января 2020, 19:06
Связано, а ещё они сравнили огурец с плоскогубцами когда написали, что система распознавания лиц сбоит и кредиты мужчинам выдают больше. Совсем одно и то-же  - распознать лицо  и посчитать вероятность возврата кредита по доходам и другим признакам.
Dyagilev
Dyagilev 29 Декабря 2019, 15:47
А не связано ли это с похожестью и однотипностью лиц негроидов и азиатов, которую толерантные психологи отрицают, приписывая, якобы, особенностью восприятия представителей разных рас? Кто-нибудь вёл статистические исследования колличество ошибочного идентифицирования  у негроидов, европиоидов, монголоидов в своих видовых популяциях?
Загрузка статьи...