Новости В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц

Программа Proctorio, которая следит за тем, чтобы учащиеся не жульничали на экзаменах, в половине случаев не определяет лица темнокожих пользователей. К такому выводу пришел Акаш Сатисан — студент, который лично столкнулся с предвзятостью алгоритма, пишет Motherboard.


Сатисан решил изучить методы распознавания лиц Proctorio и выяснил, что они работают идентично OpenCV — алгоритму компьютерного зрения с открытым исходным кодом.

Он провел несколько тестов с использованием OpenCV и набора данных, предназначенного для оценки точности работы алгоритма машинного зрения с лицами разных национальностей.


Точность определения лиц на фотографиях с использованием модели компьютерного зрения OpenCV. Данные: Акаш Сатисан.

Оказалось, что алгоритм не только не распознал лица темнокожих более чем в половине случаев, но и продемонстрировал низкую точность идентификации людей любой из национальностей — самый высокий показатель попаданий был меньше 75%.

Proctorio не раскрывает подробностей, как работают их алгоритмы определения лиц. Однако на сайте имеется упоминание OpenCV в разделе с лицензиями, что косвенно подтверждает использование этого алгоритма.

На запрос журналистов представитель компании заявил, что тесты Сатисана доказывают — их программное обеспечение только ищет лица, но не распознает личности, связанные с ними.


Напомним, в начале апреля исследователи Кембриджского университета создали онлайн-игру Emojify, которая демонстрирует возможности и недостатки технологий распознавания эмоций человека.

В январе 2021 года правозащитная организация Amnesty International призвала запретить распознавание лиц в общественных местах. В организации считают, что биометрическая идентификация людей с помощью камер уличного наблюдения — грубое вмешательство в личную жизнь граждан.

В начале 2019 года темнокожий американец провел десять суток в тюрьме из-за ошибки распознавания лиц. Мужчина намерен судиться с местной полицией за безосновательный арест.


Новость В программу для борьбы со списыванием интегрировали «расистский» алгоритм определения лиц на сайте CoinProject.info.