Искусственный интеллект плохо распознает лица женщин, а еще хуже – темнокожих

15.02.2018 20:56

Технологии распознавания лиц распространены повсеместно: в смартфонах, компьютерах, видеодомофонах, умных очках и т.д. Мы даже как-то упоминали, что в Китае сотрудники правоохранительных органов используют специальные умные очки для выявления находящихся в розыске преступников на местных оживленных улицах, или же на вокзале для проверки подлинности документов. Однако насколько хорошо данная технология справляется со своей задачей в реальной жизни?

Ученые из Массачусетского ТУ и Стэндфорда провели простейшее исследование самых популярных систем распознавания лиц на предмет корректности определения пола объекта. Это довольно простая задача, с которой с легкостью справится любой человек. В результате исследования выяснилось, что практически все популярные неиросети имеют явные проблемы с распознаванием женщин, но всё становится еще хуже, если эти женщины темнокожие. Так в случае с фотографиями белокожих мужчин неиросети демонстрируют довольно неплохой результат, допуская ошибки лишь в 0.8% случаев, но в случае с темнокожими женщинами средний процент ошибок колеблется на отметке около 30%.

Искусственный интеллект плохо распознает лица женщин, а еще хуже – темнокожих

При проверке одной из наиболее популярных систем для распознавания лиц (к сожалению, название не уточняется) было принято решение разделить все фотографии на 6 групп, в зависимости от оттенка кожи по шкале Фитцпатрика (от самой светлой кожи до самой тёмной). По итогам эксперимента анализ четвертой группы (самой светлой, среди темнокожих) имел процент ошибок в районе 20%, тогда как анализ пятой и шестой групп (абсолютно темнокожих людей) имел погрешность распознавания пола около 34.4 - 34.7 %.

Это свидетельствует о том, что технологии распознавания лиц еще недостаточно хороши, чтобы использовать их всерьез. Для обычной разблокировки смартфона по лицу, пожалуй, такой вариант может и сгодится, однако ни о какой настоящей безопасности говорить не стоит, как и не стоит ждать скорейшего внедрения этой технологии в более сложных целях, структурах, методах взаимодействий и т.д. Однако стоит признать, что в последнее время данная технология довольно активно развивается. К примеру, еще совсем недавно компьютеры Hewlett Packard совсем не считали темнокожих за людей (см. видео ниже), поэтому очень интересно будет узнать мнение наших читателей о том, как будет использоваться данная технология после того, как её официально признают на 100% эффективной? При каких жизненных обстоятельствах различные системы распознавания лиц могут быть использованы для того, чтобы существенно улучшить нашу жизнь?

Источник