Facebook и Microsoft против подмены лиц на видео

Участники конкурса разработают алгоритмы распознающие видео, на которых лица изменены с помощью технологии deepfake.

Facebook и Microsoft совместно с несколькими американскими университетами объявили конкурс Deepfake Detection Challenge. Цель конкурса — разработать наиболее эффективный способ определения фейковых видео, на которых лица людей правдоподобно заменены, например, на лица знаменитостей. Организаторы обещают поддержать разработчиков грантами. 

Для работы анти-deepfake алгоритмов предполагается создать большой набор данных, для чего привлекут актеров.

С каждым годом нейронные сети все лучше справляются с задачей изменения видео. Такие алгоритмы уже могут достаточно правдоподобно изменить время года, вставить в видео виртуальный объект или заменить лицо одного человека на лицо другого. Современные алгоритмы способны подделать даже мимику так, что рядовой пользователь не сразу заметит обман.

Алгоритмы, которые нацелены на определение таких подмен уже не успевают за развитием deepfake, так как в основном выявляют визуальные недочеты, которые можно увидеть и невооруженным глазом: неестественное размытие фона, задержки движений и так далее.

Конкурс Deepfake Detection Challenge должен помочь в развитии таких экспертных алгоритмов. Организаторы отдельно отметили, что для создания датасета обучающего алгоритмы будут привлечены профессиональные актеры, и пообещали, что не будут использовать данные рядовых пользователей. Такое уточнение действительно важно, ведь в проекте участвует Facebook, и пользователи соцсети могли бы заволноваться о сохранности своих фотографий.

Технология deepfake развивается уже много лет, но само название вошло в обиход, благодаря пользователю Reddit с ником deepflakes, который создал отдельную ветку, где заменял лица порноактрис на лица голливудских звезд.