Дослідники Facebook і Мічиганського університету винайшли, як застосувати реверс-інжиніринг для діпфейків. Тож тепер ШІ може не лише відрізнити фальшиве відео, а й вказати на його джерело. Це може допомогти Facebook відстежувати зловмисників, які пошиють діпфейки у соціальних мережах.
Раніше дослідники могли визначити, яка з відомих ШІ-моделей створила певний діпфейк. Тепер можна ідентифікувати архітектурні особливості й невідомих моделей. Такі гіперпараметри є в кожного ШІ й вони залишають цифровий слід, завдяки цьому й можна вказати на джерело відео.
Це важливо, якщо зловмисники створюють нові моделі, котрі раніше ніхто не бачив, а тоді розповсюджують відео у різні канали й про різних користувачів. Тепер можна буде визначити, що всі ці діпфейки мають однакове походження. Втім, поки що розробка на стадії дослідження і не готова до повноцінного запуску.
Водночас дослідники кажуть, що алгоритми поки не досконало вміють визначати фальшиві відео. Торік Facebook проводив змагання у цій галузі, тоді алгоритм-переможець досягав успіху лише у 65,18% випадків.
Ще немає коментарів