Facebook краны нового поколения АИ, чтобы помочь ему обнаружить ненависти

В настоящее время Facebook может только пятно около половины ненависти, циркулирующей по платформе до того, как пользователь сообщит о нем. Но новый подход к построению ИИ обещает помочь компании выявить больше.

Facebook Taps Next-Gen AI To Help It Detect Hate Speech

Бороться с разжиганием ненависти и преследований, Facebook использует новый метод программирования, который может штамповать АИ-питание содержание маркировки алгоритмы быстрее.

В среду, технический директор Facebook Майк Шрепфер рассказал до ИИ-подход под названием “Я-обучающийся”, который обещает помочь месте социальной сети оскорбительного содержания в его постоянно меняющейся формы.

“Будущее здесь довольно интересно”, – говорит Шрепфер, выступая на ежегодной конференции разработчиков компании. “Мы видели ряд прорывов в последние два года в Идея самостоятельного обучения”.

В настоящее время Facebook может только пятно около половины ненависти, циркулирующей по платформе до того, как пользователь сообщит о нем. Когда речь заходит об онлайн-домогательств и издевательств, процент падает еще ниже, примерно до 15 процентов.

Facebook Taps Next-Gen AI To Help It Detect Hate Speech

Большая причина, почему происходит потому, что содержание не как правило, размещены в простой, легкий для понимания язык — по крайней мере не для компьютера. “Когда дело доходит до различных (ненависти) термины, они могут принимать очень разные значения, в зависимости от контекста,” директор Facebook аналитика Вероника Белохвостова сказал в PCMag.

Усложняя проблему, как подобные высказывания могут быть упакованы в умные мемы. Формулировка может также быстро меняться, основанные на текущих событиях и политике. Например, “караван” стал популярным термин при обсуждении нами-мигранты из Латинской Америки.

Существующие системы Facebook ИИ уже может бороться с другими формами проблемные материалы, такие как спам, порно и террористической пропаганды. Однако, эти системы были построены с пожилым подход к программированию называется “обучение с учителем”. По сути, это предполагает прием больших наборов данных, таких как фотографии или видео, и обучение ИИ распознавать различные характеристики внутри них, как будь то соска или сцены насилия изображен.

Несмотря на эффективность, обучающийся имеет большой недостаток: человеческий программист на этикетке все данные ИИ обучен, которая может включать маркировку каждого элемента в изображение или видео. “Это удивительно ручное и медленно”, – сказал технический директор Facebook. “Это может занять у вас несколько дней, недель или месяцев, чтобы пройти весь процесс”.

Facebook Taps Next-Gen AI To Help It Detect Hate Speech

Само-обучающийся, с другой стороны, может позволить вам существенно пропустить большую часть процесса маркировки. Вместо этого, ИИ запрограммирован на то, чтобы первым предсказать, что может присутствовать в обучающих данных. ИИ затем могут быть доработаны с меньшим набором меченых данных для обучения.

В результате программист может только нужно собрать и этикетки 80-часовую стоимость подготовки данных по сравнению с 12 000 до получите свои рабочие ИИ. То же самое относится и к созданию ИИ для борьбы с языком ненависти. По словам директора Facebook ИИ Манохар Paluri, такой подход помог компании справиться с различными формами ненависти, используя “в десятки раз” меньше обучающих данных.

“Это сила самоконтроля,” Paluri заявил, выступая на конференции разработчиков в Facebook. “Это позволяет нам двигаться быстро”.

Время покажет, если технология делает разницу. Но некоторые из проблем содержания модерации Facebook, возможно, больше связано с политикой, чем обнаружение содержимого. Например, в марте компания стала о запрете термина “белый национализм”, как разжигание ненависти, шаг, некоторые критики утверждают, это было сделано слишком поздно. Между тем, другие обвиняли в социальной сети подавления свободы слова в своей миссии, чтобы остановить насилие онлайн.

Технический директор компании Facebook признали, что люди могут быть скептически относятся к Facebook говорю, что ИИ может помочь решить проблемы компании. Но сказал Шрепфер текущих достижений в области искусственного интеллекта не дают надежду на будущее. “Нет простого ответа, но есть много работы, чтобы сделать,” сказал он. “Решения никогда не будет идеальным, но мы должны продолжать идти.”

Понравилась статья? Поделиться с друзьями:
Гуру ПК
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: