Как Лабораторные Мыши Помогают Обнаружить Deepfakes

Систем для обнаружения поддельных аудио и видео улучшаются, но на самом деле решение проблемы может потребоваться нестандартное мышление. Введите мышей.

How Lab Mice Are Helping Detect Deepfakes

(Фото: Роб рычаг/АФП/Getty Изображения)

Лас-Вегас—”я поверю в это, когда увижу собственными глазами!” Как только общие фразы, Это утверждение просто не выдерживает критики благодаря deepfake видео, которые манипулируют кадры для изменения внешнего вида людей и слова, выходящие из их ртов.

How Lab Mice Are Helping Detect Deepfakes

Создание убедительной deepfake занимает много времени и вычислительной мощности, как обучение компьютеров, чтобы отличать людей от deepfakes. На конференции хакеров, кросс-дисциплина, коллектив исследователей представил некоторые новые идеи о том, как справиться с этой проблемой, анализируя проблему формирования звукового звучит человека.

Джордж Уильямс, директор научных данных в Орегонском университете, напомнил, что в 1938 году Орсоном Уэллсом “Войны миров” по радио транслируют, вымышленный рассказ о марсианском вторжении, что, по мнению многих, чтобы быть реальным. “Доклады панику, возможно, были преувеличены,” сказал Уильямс, “но это все-таки полезно сравнить с событиями сегодня, в эпоху дезинформации, фейковых новостей.”

“Большая разница,” он продолжал, “является то, что вы сможете создать качественный, реалистичный контент для дезинформации. Инструменты легко доступны, а некоторые с открытым исходным кодом. Парад политиков и лидеров в области технологий предупреждающего нас какая-то катастрофа—своевременное поддельные генерального директора, сказав, что они не—это может спровоцировать какой-нибудь катастрофы. Это может дестабилизировать финансовый рынок, или воспламенить пороховую бочку гражданских или военных конфликтов по всему миру, настоящая война миров”.

Уильямс приводил исследование, что вызов люди и алгоритмов отличить реальный разговор из созданного говорить. Люди получили это право около 88 процентов времени, в то время как алгоритм сделал лучше на 92 процента. “Звучит хорошо,” сказал он, “но думаю, что из миллионов элементов контента, созданного ежедневно. Даже небольшой процент ошибок, означает, одни фейки, а некоторые подлинные контент помечен как фальшивка”.

Приемы создания Deepfake

Алекс Комерфорд, данных ученым на Bloomberg, рассмотрел историю созданных речи от Microsoft Майк в 1999 году до Tacotron от Google 2, выпущенный в прошлом году. Каждая итерация звучало больше человеческого, чем в прошлом.

“По телефону, я бы одурачит”, – сказал Комерфорд образца Tacotron.

Одна мощная техника для создания убедительного голоса, который называется общие враждебные сети, ямы двух программ друг против друга. Человек пытается создать убедительный голос, другой пытается отличить подделку от реального голоса. Каждый становится все лучше и лучше на свою задачу. Другой метод, называемый анализ bispectral, заимствованные из обработки сигнала наукой, также оказались эффективными.

“Самый главный результат заключается в том, что обнаружение-это игры в кошки-мышки. То, что работает сейчас, не может быть долгосрочным решением”, – сказал Комерфорд.

Биологический Подход

Джонатан Сондерс, аспирант в Университете штата Орегон, перевел дискуссию в новом направлении, опираясь на фонетику и неврология. “Речь идет тяжело”, – отметил он. “Фонемы прийти быстро в обычной речи. Голоса все разные. Мы должны отбрасывать то, что не информативен”.

“Наша слуховая система предназначена для легковерных”, – продолжил он. “Он должен свернуть избыточные, дублирования информации. Объект просто понимать речь”. Но как нам достичь этого?

Он описал эксперименты, проведенные с помощью больных эпилепсией, которые уже имеют электроды в мозг. “Но мы все еще знаем очень мало”, – сказал Комерфорд. “Речь идет слишком быстро и нейроны слишком мал для типичного фМРТ. Поэтому мы обратились к…”

Мышей? Действительно?

Да, они превращались в мышей. Исследователи обучили грызунов различать звуки похожие согласные. Мышей сначала научиться с таким же звуки каждый раз, тогда со звуками от разных динамиков.

“Они довольно хорошо получается”, – отметил Комерфорд. “Они учатся обобщать, согласный категории. Они примерно на 75 процентов точно. Роман динамиков и Роман гласные падение их средних, но только около 10 процентов”.

Что еще более важно, мышей ошибаются по-разному. “Два разных мышей по сравнению с двумя наборами тонов будет иметь совершенно разные модели ошибок”, – пояснил Комерфорд. И в отличие от добровольцах, исследователи могут смотреть на слуховой коры мыши во время обучения и тестирования.

Возвращаясь к исходной проблеме, Комерфорд предположил, что точно определять, как мышей научитесь делать согласная различия могут сообщить алгоритмы обнаружения deepfake. “Люди очень хорошо, но машин становится лучше. Реальный путь решения этой проблемы может заключаться в объединении фонетики с нейронными сетями”, – заключил он.

Понравилась статья? Поделиться с друзьями:
Гуру ПК
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: