Ученые сумели обмануть программу для выявления Deepfake
Для обхода алгоритмов необходимо внести изменения во входные данные кадров видеозаписи
Сотрудники Калифорнийского университета в Сан-Диего (США) сумели перехитрить алгоритм, предназначенный для выявления поддельных видеозаписей, созданных при помощи технологии Deepfake. Об этом стало известно из официального сообщения пресс-службы университета.
Результаты научной работы были представлены в рамках конференции, посвященной компьютерному зрению WACV 2021. Исследователи заявили, что для обходи алгоритмов программы, необходимо изменить входные данные каждого кадра видеозаписи, использовав «состязательные» примеры.
В ходе эксперимента выяснилось, что алгоритм не мог распознать подделку даже после сжатия и постобработки видеозаписи, а использование «состязательных» примеров препятствует выявлению даже некачественных подделок, заметных невооруженному глазу человека. Специалисты заявили, что для создания качественного дипфейка, мошенникам достаточно иметь представление о принципе работы ПО, используемого для выявления поддельных видео.