IBM заявила, що більше не буде пропонувати, досліджувати чи розробляти технології для розпізнавання облич, оскільки їх можна використати для пропаганди расової дискримінації та несправедливості.
IBM не підтримує використання будь-якої технології розпізнавання обличчя [...] для масового спостереження, расового профілювання, порушень основних прав і свобод людини або будь-яких інших цілей, що не відповідають нашим Принципам довіри та прозорості.
Таке звернення очільник компанії IBM надіслав до Конгресу США. У тексті зазначено, що зараз настав час з'ясувати, чи варто взагалі застосовувати технологію розпізнавання облич у правоохоронних органах. Хоча такі системи активно розвинулись завдяки штучному інтелекту, на них все ще не можна покладатися. Вони можуть бути ненадійними, зокрема робити помилкові висновки через вік, расу чи етнічні ознаки людини.
У 2018 році дослідження вперше показали, наскільки упередженими можуть бути комерційні системи розпізнавання обличчя (зокрема й розробки IBM). Після цього алгоритми регулярно критикують і звинувачують ще й у порушенні конфіденційності.
Торік дослідники з NIST (National Institute of Standards and Technology) теж з'ясували, що більшість систем розпізнавання облич часто помиляються, а на точність ідентифікації впливає раса, вік і стать людини: найкраще технології впізнають білих чоловіків середнього віку.
Щоправда, у цьому дослідження не розглядалась система Rekognition, яку Amazon продає правоохоронним органам. У 2018 році Rekognition помилково назвала 28 членів Конгресу США злочинцями — і білих у цьому списку було вдвічі менше, ніж їхніх колег з іншим кольором шкіри. Торік вчені та дослідники штучного інтелекту закликали Amazon не продавати технологію правоохоронним органам, оскільки нею можна легко зловживати (UPD: 10 червня 2020 компанія все ж заборонила правоохоронним органам використовувати її технологію протягом року).
Деякі міста в США вже заборонили технології розпізнавання облич, адже немає чітких стандартів і обмежень щодо використання таких систем. Схожі ініціативи були в ЄС, де планували тимчасово заборонити технологію у громадському просторі, але від проєкту зрештою відмовились.
Ще немає коментарів