Google вносит свой вклад в исследования по обнаружению Deepfake с помощью своего Visual Deepfake Corpus

Deepfake Corpus

Глубокое обучение - это передовая область машинного обучения, которая в наши дни быстро развивается. Хотя в этой области было проведено много исследований, все еще существует пробел в исследованиях. Инженеры Google внесли значительный вклад в этом отношении и активно работают над созданием большого корпуса. Поисковый гигант недавно сотрудничал с Jigsaw, чтобы выпустить огромное количество дипфейков. Теперь исследователи могут работать над синтетическими системами обнаружения видео с помощью свободно доступного корпуса.

Эндрю Галли, менеджер по техническим исследованиям Jigsaw, и Ник Дюфур, научный сотрудник Google, описали в Сообщение блога :

С момента их первого появления в конце 2017 года появилось много методов генерации дипфейков с открытым исходным кодом, что привело к увеличению количества синтезированных медиаклипов. Хотя многие из них, вероятно, предназначены для юмористических целей, другие могут нанести вред отдельным людям и обществу.

Google также заявил, что компания работала с согласившимися и платными актерами, чтобы собрать набор данных из сотен видео. Затем компания использовала видео для создания тысяч дипфейков. Они генерировали как поддельные, так и настоящие образцы.

Учитывая тот факт, что deepfake - это развивающаяся технология, компания продолжит пополнять ее корпус.

Мы твердо верим в поддержку процветающего исследовательского сообщества по снижению потенциального вреда от неправомерного использования синтетических носителей, и сегодняшний выпуск нашего набора данных deepfake в тесте FaceForensics является важным шагом в этом направлении.

Первоначально видео Deepfake были замечены еще в 2017 году. Изначально эти видео были скомпилированы для юмористического содержания. Теперь люди используют системы на основе искусственного интеллекта для создания манипулятивных видеороликов, в которых люди меняются лицами. Существуют различные приложения для создания дипфейков, которые могут использоваться для этой цели.

Хорошо то, что власти обратили внимание на эту проблему и принимают строгие законы для усиления контроля. Набор данных deepfake - важный вклад в решение проблемы. Более того, Google уже работает над уменьшением потенциального злоупотребления этой технологией. Компания выпустила корпус синтетической речи, который позже использовался в более чем 150 исследованиях.