В Важно заметить, исследователи оценивали в настоящее время средства обнаружения deepfake доступна и выпустила свой собственный рот, ориентированных на детектор deepfake.
(Александра Робинсон/АФП/Getty Изображения)
Лас-Вегас — видео Deepfake были смешные в течение примерно 10 секунд, а потом мы все поняли ужасные последствия. Как люди могут сказать, что реально, а что нет, когда они не могут доверять своим глазам?
На черная шляпа, исследователи ZeroFox представили свои методики для выявления видео deepfake. Технический директор Майк цене бегали по истории deepfakes и outliend процесс, используемый для их создания. ZeroFox главный научный инженер Мэтт цене (никакого отношения), а затем побежал через доступные средства обнаружения, и их недостатки, прежде чем представить свой собственный.
Как Deepfakes Сделаны
Как переболее новое, а deepfake это видео создано с помощью искусственного интеллекта. Технология анализирует видео создать новый и убедительный ролик о них. Результаты могут быть забавными, но и страшно, потому что можно быстро создать фальшивое видео, которые могут быть легко поделиться в интернете.
В свою очередь, Майк цене считает, что термин «deepfake» используется неверно и вырос, чтобы охватить любые манипулировать видео. Он представил гораздо более точное определение: видео, на котором лицо человека, который был обменян в лице другого человека. Этот процесс включает в себя подачу кадры из двух целевых людей в глубокий алгоритм обучения, чтобы обучить его, чтобы поменять лица, и затем использует эту информацию для лица-своп на третьем видео.
Майк цене указала на то, что цена создания и распространения deepfake является тривиальной на данный момент. Джеймс Фостер, генеральный директор ZeroFOX, ранее обсуждали потенциальную угрозу deepfakes в РСУК 2019 представление о влиянии избирательных кампаний. В то время, Фостер изложил свою озабоченность по поводу стоимости определение видео deepfake; они дешевы, чтобы создать, но очень трудно определить и автоматически удалить.
Deepfakes явно созрел для использования в клеветнических кампаний, но Майк считает, что цена по-прежнему будущей угрозы. «Из всех известных общественных deepfakes нам известно, никто из них были использованы для вредоносных [цели].» Этот репортер утверждают, что порнографические deepfakes, однако, являются вредоносными.
Чтобы продемонстрировать, как deepfakes могут быть использованы в злонамеренной кампании дезинформации, Майк Прайс создал инструмент, который автоматически создает и распространяет deepfakes. Используя доброкачественный пример видео deepfake где Рем. Адам Шифф выразил свою любовь к щенкам, Майка цена показали как это может быть повторно отредактированы так это выглядело как Фокс Ньюс, СиЭнЭн, или сегмента на MSNBC. Его инструмент может автоматически загружать и распространять это видео по электронной почте и SMS.
Что последний вектор является одним Майка цена считает, может быть очень эффективной, и это становится его основной вопрос: «если кто-то сделал немного лучше с этими видео и развернули их накануне выборов, мы способны справиться с этим?» Он так не думает.
Как определить Deepfake
Делая deepfake дешево и легко, но заметить их гораздо сложнее. «Одним из первых моментов, которые я хочу сделать: люди-это ужасные машины обнаружения,» сказал Мэтт цене. Он процитировал исследование под названием FaceForensics, которые нашли, что люди могли только выявить реальные образы 80 процентов времени.
«В лучшем случае, люди были в состоянии идентифицировать эти подлоги в размере 75 процентов, а в худшем-в размере 40 процентов», — сказал Мэтт цене. «Что армия человека аналитики вы собираетесь развернуть, чтобы обнаружить deepfakes не собирается работать.»
Машины, с другой стороны, может сделать лучшую работу, но только при определенных условиях. Мэтт цену обозначил несколько методов для выявления поддельных видео. Физиологические элементы, такие как моргание или дыхание, может помочь, но они также могут быть замаскированы, просто добавив более разнообразные кадры в алгоритм deepfake. Исследовав моделей PRNU в кадры—которые недостатки, уникальные для датчика освещенности конкретные модели—также камера работает, но участвует сразу несколько углов камеры, она не становится менее полезной. И поскольку элементы лица должны быть перекошенными и перестроены в deepfakes, артефакты или рассогласования в лице симметрии также может быть полезна в выявлении deepfakes.
Одним из перспективных инструментов определены матовая цена рекуррентных нейронных сетей, которые могут быть обучены для выявления несоответствия условий освещения, теней, отражений, или даже deepfaked лицо. Это работает, потому что алгоритмы deepfake работать покадрово, но не «вспомнить» то, что создано для предыдущих кадров.
Мэтт цене также объяснил, как модели обнаружения могут быть адаптированы для физических лиц, например, громких политиков, которые, скорее всего, будут deepfaked. Этот метод особенно полезен, так как модель обнаружения могут быть обучены, используя только подлинные кадры, вместо того, чтобы смешать в deepfakes. Недостатком, конечно, является то, что он работает только для одного человека и не может быть обобщена.
В то время как каждый из этих методов обнаружения имеет плюсы и минусы, все они имеют один универсальный недостаток: качество видео падает, так же раскрываемость. «Более чем вероятно, вы будете иметь доступ к сжатому видео», — сказал Мэтт цене. Это потому, что для deepfake, чтобы быть эффективным, он должен быть сжат и общий на различных платформах. Другие вещи, которые обе обнаружения до deepfake, когда только небольшая часть видео была сфальсифицирована, или только одного человека в группе людей фальшивая.
Фильм Deepfake Звезда
Глядя на все эти ограничения, Мэтт цене хотели найти единое решение, которое можно найти липовые во всех видах deepfakes. В результате Mouthnet, инструмент, который смотрит только в рот. Он должен работать, Мэтт цене теоретизировал, потому что deepfake должен отредактировать рот мишени для того, чтобы сделать им что-то сказать. «Вы можете не трогать глаза, вы не можете прикоснуться к носу, вы должны коснуться уст», — пояснил он.
Через 200 видео deepfake для тренировки, он поставил свою модель против 100 видео, которые не были использованы в обучении; 41 процент deepfakes были обнаружены, но 10 процентов были неправильно классифицированы. Один из снимков, сделанных из видео, Mouthnet выявленных подделок 53% времени. Это не потрясающие результаты, но Мэтт говорит, что цена набора была особенно трудной, так что он счастлив. С течением времени он планирует усовершенствовать модель с дополнительными машинного обучения.
Чтобы противостоять угрозе deepfakes, ZeroFox выпускает инструмент под названием Deepstar, который «позволяет автоматизировать некоторые трудоемкие задачи», — сказано в блоге. «Например, она способна захватить видео с сайтов контентом, захватывать кадры из видео, которые необходимы для обучения или переобучения глубокого обучения классификаторов, выполнения необходимых преобразований на этих кадрах, таких как лицо, добыча, автоматизация тестирования и оценки обнаружения новых моделей, чтобы назвать несколько возможностей.»
ZeroFox также выпускает Mouthnet, наряду с другими инструментами.
«С выходом Deepstar, исследователи и защитники получат дополнительный инструмент в их арсенале, чтобы помочь в оптимизации процесса deepfake исследования обнаружения,» Майк цене, говорится в пресс-релизе. «С вероятностью злоупотребления deepfakes, как часть усилий, чтобы дезинформировать общественность, мы сочли важным, чтобы наш инструментарий обратно в общины, которые уже сделали большую работу, и, чтобы помочь защитникам улучшить свои способности, чтобы подготовиться к будущим вызовам в этой области».
ZeroFox надеется, что сообщество безопасности смогут использовать эти инструменты, чтобы построить более полезны те, которые могут отсеять deepfakes. Deepstar открытым исходным кодом и будет доступна в ближайшее время на сайте ZeroFox.
