Дослідники штучного інтелекту звернулися до Amazon AWS із закликом припинити продаж технології для розпізнавання облич Rekognition правоохоронним органам.
Лист підписали лауреат премії Тьюринга Йошуа Бенжио (Yoshua Bengio), професор Каліфорнійського ін-ту технологій і колишній науковий співробітник Amazon Аніма Анандкумар (Anima Anandkumar). Також приєднались кількадесят дослідників з галузі комп'ютерного зору і машинного навчання — представники Google AI, Microsoft Research і Facebook AI Research.
Технологію Rekognition вже використовували департаменти поліції у Флориді та Вашингтоні. Як повідомляють VentureBeat і Washington Post, програму також пропонували Міністерству внутрішньої безпеки для ідентифікації іммігрантів.
«Ми закликаємо Amazon припинити продаж Rekognition правоохоронним органам, оскільки немає жодних гарантій чи законодавчих актів, які б не давали зловживати технологією», — йдеться в листі. «Не існує законів чи обов'язкових стандартів, які б обмежували використання Rekognition і не давали порушувати громадянські свободи».
Захисники конфіденційності занепокоєні тим, що працівники правоохоронних органів можуть не розуміти технічних аспектів систем комп'ютерного зору. Якщо повністю покладатись на автономний режим програми, можна ув'язнити невинних людей.
Дослідження, опубліковане торік Американським союзом громадянських свобод (ACLU) показало, що Rekognition помилково назвав 28 членів 115-го Конгресу США злочинцями. Цікаво, що білих у цьому списку було вдвічі менше, ніж їхніх колег з іншим кольором шкіри.
Ще немає коментарів