Amazon заборонила правоохоронним органам використовувати її технологію для розпізнавання облич Rekognition протягом року.
Компанія оголосила про це через два дні після того, як IBM відмовилась розробляти чи поширювати такі системи, адже вони можуть посилювати дискримінацію. Очільник IBM звернувся до Конгресу США з проханням розпочати національний діалог про те, чи варто поліції використовувати технології для ідентифікації облич.
Дослідження підтверджують, що такі системи можуть бути упередженими й гірше розпізнають обличчя темношкірих людей. The New York Times зазначає, що системи вчаться на наборах даних, що складаються переважно з фотографій білих чоловіків.
У 2019 році дослідники проаналізували систему Amazon і виявили, що в ній також є проблеми: наприклад, темношкірих жінок вона визначає як чоловіків. Водночас технологія майже не помилялася, якщо йшлося про людей зі світлою шкірою. Тоді група дослідників опублікувала відкритого листа із закликом не продавати Rekognition правоохоронним органам. Це було у березні 2019 року, та Amazon заборонила технологію лише зараз, на тлі масових протестів у США.
У компанії сподіваються, що протягом року розроблять правила, які регулювали б використання технологій для розпізнавання облич. Amazon також не заборонятиме свою систему Rekognition для організацій, що займаються пошуком зниклих дітей і допомагають жертвам торгівлі людьми.
Ще немає коментарів