Прислать новость Магазин

Facebook рассказал о проблемах модерации в соцсети.

"...Представитель компании Facebook заявил, что только за первые три месяца 2018 года в соцсети были удалены или получили предупреждения около 29 млн постов, нарушивших правила, запрещающие разжигание ненависти, публикацию сцен насилия и секса, а также пропаганду терроризма.

Это первый случай публикации руководством Facebook подробных данных о том, каких усилий от компании требует обеспечение соблюдения в соцсети этих правил.

Facebook также сообщил, что занимается разработкой компьютерные программ с использованием искусственного интеллекта, которые должны прийти на помощь 15 тысячам модераторов компании.


Однако из опубликованного отчета следует, что компьютерные программы пока способны распознавать далеко не все нарушения.

Например, автоматические алгоритмы распознали лишь 38% разжигающих ненависть постов. Это означает, что остальные 62% были обнаружены лишь потому, что о них сообщил кто-то из пользователей.

В то же время, как заявляет компания, разработанные ей программы заметили 99,5% пропагандистских постов в поддержку экстремистов "Исламского государства", "Аль-Каиды" (обе запрещены в России) и других связанных с ними группировок.

Данные, опубликованные компанией, свидетельствуют о том, что в первом квартале текущего года пользователи соцсети с большей вероятностью, чем в предыдущие три месяца, могли столкнуться с изображениями сцен насилия и обнаженной натуры.

Однако компания признается, что еще не разработала способ подобного сравнения в случае с разжиганием ненависти и пропагандой терроризма.

"Когда мы поймем, как это правильно делать, мы усовершенствуем нашу методику", - заявил глава отдела управления продуктами Facebook Гай Розен.


Насилие и секс

Facebook разбил запрещенный контент на несколько категорий:

    изображения сцен насилия;
    взрослая обнаженная натура и сцены секса;
    спам;
    разжигание ненависти;
    фейковые аккаунты.

Что касается последней категории, то, по оценкам компании, фейковыми являются 3-4% всех активных аккаунтов соцсети. Facebook заявил, что с января по март включительно были закрыты 583 млн фейковых аккаунтов.

Данные свидетельствуют о том, что количество изображений, содержащих сцены насилия, резко возросло - на 183% по сравнению с предыдущим периодом.

Facebook считает, что причиной этого стали появление более совершенной системы распознавания подобных изображений и эскалация насилия в Сирии.

В январе-мае из соцсети было удалено 1,9 млн сообщений экстремистского характера, это на 73% больше, чем в предыдущем квартале.

Опубликованные данные выглядят многообещающе для регулирующих органов, особенно в США и Великобритании, где власти призывали Facebook остановить распространение в соцсети материалов экстремистских группировок.

"Компания делает правильные шаги к четкому распознаванию того, что из публикуемого на их платформе контента попадает под защиту законного права на свободу выражения, а что нет", - говорит эксперт Центра изучения информационных технологий в интересах общества Института Калифорнии Бренди Ноннеке.

"Компании Facebook предстоит проделать огромную работу", - добавила она.


Нюансы и контекст

Сложность этой работы становится очевидной на примере постов, разжигающих ненависть - это категория, которую трудно контролировать при помощи автоматизированных процессов.

В январе-марте компания удалила 2,5 млн подобных постов - это на 56% больше, чем в октябре-декабре прошлого года.

С подавляющим большинством из них разбирались не алгоритмы, а модераторы, но даже они испытывали проблемы в определении того, что можно оставить, а что следует удалить.

"Здесь есть нюансы: важен контекст, который компьютерные технологии не в состоянии распознать, - говорит глава отдела обработки данных Алекс Шульц. - Так что в подобных случаях мы часто полагаемся на нашу команду специалистов, которые принимают окончательное решение о том, что должно быть удалено", - говорит он.

Шульц приводит пример использования некоторых слов, которые могут быть оскорблением, если звучат из уст гомофоба, но имеют другое значение, когда их употребляют сами геи.

Поэтому удалять посты только потому, что они содержат определенные слова, было бы неправильно.

"Но как вы узнаете, гей человек или нет, когда просматриваете данные его аккаунта?" - спрашивает он.

"В моем случае у меня это написано прямо в описании аккаунта. Я совершенно открытый гей, - говорит Шульц. - Но не все такие, и мы не всегда можем это знать. Это очень сложная проблема".


Тревожная выборка

Пытаясь понять, не упускают ли они что-нибудь важное, сотрудники компании сделали случайную выборку постов и посчитали, как часто встречаются нарушения правил размещения сообщений в соцсети.

Результаты оказались весьма тревожными.

Согласно выборке, 27 постов из каждых 10 тысяч содержали те или иные сцены насилия. Учитывая, что ежедневно в "Фейсбук" заходят полтора миллиарда пользователей, в соцсети могут каждый день появляться незамеченными модераторами десятки миллионов постов, содержащих сцены насилия.

Согласно все той же выборке, 7-10 постов из каждых 10 тысяч содержат обнаженную натуру или сцены секса.

Материалов, связанных с пропагандой терроризма, в этой выборке, по словам Шульца, оказало слишком мало. Что же касается разжигания ненависти, тот тут у компании "нет какой-либо надежной информации".

"Сейчас мы не можем подсчитать, как часто в "Фейсбуке" появляются посты, которые можно классифицировать как разжигание ненависти, потому что, когда мы просим наших представителей определить, содержит тот или иной пост ненависть или нет, перевести мнения в цифры оказывается довольно непросто", - говорит он.

"Мы совершаем ошибки, но стараемся усовершенствовать нашу систему оценок", - добавляет Алекс Шульц.


На что есть время

Однако Дотти Люкс, обвиняющая Facebook в неспособности эффективно бороться с нападками в соцсети на различные меньшинства, утверждает, что сложность такой задачи не является оправданием.

"У меня заканчивается терпение, когда я слышу оправдания вроде "это действительно очень трудно", потому что это далеко не новая проблема", - говорит она.


"Там находят время, чтобы запустить приложения для знакомств, находят время, чтобы привязаться к моему банковскому счету, но у них нет времени на то, чтобы разобраться в собственных пользователях", - говорит Дотти Люкс.


Армия модераторов

В Facebook с неохотой рассказывают о том, что представляет собой их команда модераторов.

Компания, правда, упомянула, что, если при разборе инцидента необходимо знание американской культуры, с ним разбираются модераторы, базирующиеся в США. То же справедливо и для других стран.

Но Дотти Люкс считает, что компании не помешало бы быть более открытой.

"Если вы набираете людей, которые не представляют определенные социальные слои, различные культуры, эффекта не будет, - говорит она. - Это лишь закрепит существующую проблему"..."

https://www.bbc.com/russian/features-44131924

Поделиться новостью в соц. сетях

Войдите, чтобы оценить

Комментировать
Пожаловаться

Напишите свой комментарий

Гость (премодерация)

Войти

Войдите, чтобы добавить фото

Впишите цифры с картинки:

Войти на сайт, чтобы не вводить цифры

Другие публикации в разделе
«Новости России и мира»

Самое читаемое на сайте

Живая лента

«Полицейские сломали мне четыре ребра и пробили лёгкое»

id402411360
18:28, сегодня
но вот избили  и факт на глазах!!

«Полицейские сломали мне четыре ребра и пробили лёгкое»

id307132472
18:28, сегодня
мне тоже не верилась особенно за что он задержен???????????????? и почему его би...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

russo-turisto
18:28, сегодня
какие же они профессиональные следователи и эксперты,если  фактически подтвердил...

Почему старухи так ненавидят молоденьких девушек? Видео.

TPAXTOPHЫЙOTPЯД
18:26, сегодня
Завидуют что старые уже и в их время несмогли пощеголять фигурками,закон такой б...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

godvrn
18:26, сегодня
А когда убийцу-россиянина сажают российские эксперты вас не смущает? Надо папуас...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

godvrn
18:24, сегодня
Она вообще-то взорвалась, если вы не знали. При взрыве выделяется енергия, котор...

Масло «Вкуснотеево» признали одним из лучших в России

Гость
18:23, сегодня
Посторонние включения заметны

Что делать, если в поликлинике говорят: «Талонов НЕТ!»

Гость
18:23, сегодня
статья хорошая, но читатель хочет что бы его везде обслуживали по полюсу и все б...

Как воронежцам добраться до черноморского побережья Кавказа и в Крым

Пушкин
18:23, сегодня
Вы или большой фантазер батенька или пишите по заказу за денежку. Побывав в Маро...

«Полицейские сломали мне четыре ребра и пробили лёгкое»

Привет из Воронежа
18:22, сегодня
Так может и не били следствие покажет,к нему же в душу не залезиш, т. к. других ...

В Воронеже отдадут в добрые руки пони

Лимонка
18:18, сегодня
Написала подруге. Она держит лошадей. Надеюсь, что она заинтересуется. 

Что делать, если в поликлинике говорят: «Талонов НЕТ!»

Гость
18:17, сегодня
Понимаю ваше негодование, но и вы поймите пациента, человек приходит получить по...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

Гость
18:14, сегодня
Зачем сравнивать Россию и СССР. Союз был великой державой, с мнением которой счи...

Роман Абрамович пожертвовал $20 млн институту ядерной медицины в "Шибе"

Гость
18:12, сегодня
СМИ сообщили о переезде Абрамовича в ИзраильИзраильское издание Israel Hayom утв...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

Гость
18:12, сегодня
Я бы удивился, если бы ээксперты из Украины сказали, что Украина  сбила Боинг. Н...

Зенитчиков из Черноземья обвинили в крушении малазийского «Боинга»

лесоруб
18:11, сегодня
согласно коду на корпусе, ракета была изготовлена в 1986 году на Долгопрудненско...

Как воронежцам добраться до черноморского побережья Кавказа и в Крым

Гость
18:11, сегодня
На Испании и Италии , пляжной особенно, не сьэконлмищь. Их с Турцией вообще срав...

В Воронежской области ищут сбежавшую из дома 16-летнюю девушку

Гость
18:10, сегодня
В Воронежской области ищут сбежавшую из дома 16-летнюю Алину Чудинову.Подробнее:...

Как дурят воронежцев

hamstop
18:07, сегодня
вкусное? на

Пользователи