Прислать новость Магазин

Facebook рассказал о проблемах модерации в соцсети.

"...Представитель компании Facebook заявил, что только за первые три месяца 2018 года в соцсети были удалены или получили предупреждения около 29 млн постов, нарушивших правила, запрещающие разжигание ненависти, публикацию сцен насилия и секса, а также пропаганду терроризма.

Это первый случай публикации руководством Facebook подробных данных о том, каких усилий от компании требует обеспечение соблюдения в соцсети этих правил.

Facebook также сообщил, что занимается разработкой компьютерные программ с использованием искусственного интеллекта, которые должны прийти на помощь 15 тысячам модераторов компании.


Однако из опубликованного отчета следует, что компьютерные программы пока способны распознавать далеко не все нарушения.

Например, автоматические алгоритмы распознали лишь 38% разжигающих ненависть постов. Это означает, что остальные 62% были обнаружены лишь потому, что о них сообщил кто-то из пользователей.

В то же время, как заявляет компания, разработанные ей программы заметили 99,5% пропагандистских постов в поддержку экстремистов "Исламского государства", "Аль-Каиды" (обе запрещены в России) и других связанных с ними группировок.

Данные, опубликованные компанией, свидетельствуют о том, что в первом квартале текущего года пользователи соцсети с большей вероятностью, чем в предыдущие три месяца, могли столкнуться с изображениями сцен насилия и обнаженной натуры.

Однако компания признается, что еще не разработала способ подобного сравнения в случае с разжиганием ненависти и пропагандой терроризма.

"Когда мы поймем, как это правильно делать, мы усовершенствуем нашу методику", - заявил глава отдела управления продуктами Facebook Гай Розен.


Насилие и секс

Facebook разбил запрещенный контент на несколько категорий:

    изображения сцен насилия;
    взрослая обнаженная натура и сцены секса;
    спам;
    разжигание ненависти;
    фейковые аккаунты.

Что касается последней категории, то, по оценкам компании, фейковыми являются 3-4% всех активных аккаунтов соцсети. Facebook заявил, что с января по март включительно были закрыты 583 млн фейковых аккаунтов.

Данные свидетельствуют о том, что количество изображений, содержащих сцены насилия, резко возросло - на 183% по сравнению с предыдущим периодом.

Facebook считает, что причиной этого стали появление более совершенной системы распознавания подобных изображений и эскалация насилия в Сирии.

В январе-мае из соцсети было удалено 1,9 млн сообщений экстремистского характера, это на 73% больше, чем в предыдущем квартале.

Опубликованные данные выглядят многообещающе для регулирующих органов, особенно в США и Великобритании, где власти призывали Facebook остановить распространение в соцсети материалов экстремистских группировок.

"Компания делает правильные шаги к четкому распознаванию того, что из публикуемого на их платформе контента попадает под защиту законного права на свободу выражения, а что нет", - говорит эксперт Центра изучения информационных технологий в интересах общества Института Калифорнии Бренди Ноннеке.

"Компании Facebook предстоит проделать огромную работу", - добавила она.


Нюансы и контекст

Сложность этой работы становится очевидной на примере постов, разжигающих ненависть - это категория, которую трудно контролировать при помощи автоматизированных процессов.

В январе-марте компания удалила 2,5 млн подобных постов - это на 56% больше, чем в октябре-декабре прошлого года.

С подавляющим большинством из них разбирались не алгоритмы, а модераторы, но даже они испытывали проблемы в определении того, что можно оставить, а что следует удалить.

"Здесь есть нюансы: важен контекст, который компьютерные технологии не в состоянии распознать, - говорит глава отдела обработки данных Алекс Шульц. - Так что в подобных случаях мы часто полагаемся на нашу команду специалистов, которые принимают окончательное решение о том, что должно быть удалено", - говорит он.

Шульц приводит пример использования некоторых слов, которые могут быть оскорблением, если звучат из уст гомофоба, но имеют другое значение, когда их употребляют сами геи.

Поэтому удалять посты только потому, что они содержат определенные слова, было бы неправильно.

"Но как вы узнаете, гей человек или нет, когда просматриваете данные его аккаунта?" - спрашивает он.

"В моем случае у меня это написано прямо в описании аккаунта. Я совершенно открытый гей, - говорит Шульц. - Но не все такие, и мы не всегда можем это знать. Это очень сложная проблема".


Тревожная выборка

Пытаясь понять, не упускают ли они что-нибудь важное, сотрудники компании сделали случайную выборку постов и посчитали, как часто встречаются нарушения правил размещения сообщений в соцсети.

Результаты оказались весьма тревожными.

Согласно выборке, 27 постов из каждых 10 тысяч содержали те или иные сцены насилия. Учитывая, что ежедневно в "Фейсбук" заходят полтора миллиарда пользователей, в соцсети могут каждый день появляться незамеченными модераторами десятки миллионов постов, содержащих сцены насилия.

Согласно все той же выборке, 7-10 постов из каждых 10 тысяч содержат обнаженную натуру или сцены секса.

Материалов, связанных с пропагандой терроризма, в этой выборке, по словам Шульца, оказало слишком мало. Что же касается разжигания ненависти, тот тут у компании "нет какой-либо надежной информации".

"Сейчас мы не можем подсчитать, как часто в "Фейсбуке" появляются посты, которые можно классифицировать как разжигание ненависти, потому что, когда мы просим наших представителей определить, содержит тот или иной пост ненависть или нет, перевести мнения в цифры оказывается довольно непросто", - говорит он.

"Мы совершаем ошибки, но стараемся усовершенствовать нашу систему оценок", - добавляет Алекс Шульц.


На что есть время

Однако Дотти Люкс, обвиняющая Facebook в неспособности эффективно бороться с нападками в соцсети на различные меньшинства, утверждает, что сложность такой задачи не является оправданием.

"У меня заканчивается терпение, когда я слышу оправдания вроде "это действительно очень трудно", потому что это далеко не новая проблема", - говорит она.


"Там находят время, чтобы запустить приложения для знакомств, находят время, чтобы привязаться к моему банковскому счету, но у них нет времени на то, чтобы разобраться в собственных пользователях", - говорит Дотти Люкс.


Армия модераторов

В Facebook с неохотой рассказывают о том, что представляет собой их команда модераторов.

Компания, правда, упомянула, что, если при разборе инцидента необходимо знание американской культуры, с ним разбираются модераторы, базирующиеся в США. То же справедливо и для других стран.

Но Дотти Люкс считает, что компании не помешало бы быть более открытой.

"Если вы набираете людей, которые не представляют определенные социальные слои, различные культуры, эффекта не будет, - говорит она. - Это лишь закрепит существующую проблему"..."

https://www.bbc.com/russian/features-44131924

Войдите, чтобы оценить

Комментировать
Пожаловаться

Напишите свой комментарий

Гость (премодерация)

Войти

Войдите, чтобы добавить фото

Впишите цифры с картинки:

Войти на сайт, чтобы не вводить цифры

Другие публикации в разделе
«Новости России и мира»

Самое читаемое на сайте

Живая лента

В Воронеже пройдёт очередной митинг против повышения пенсионного возраста

Анна Тимофеева
03:45, сегодня
дурак или дура иначе не скажешь.......люди на хлеб зарабатывать даже на пенсии....

Тарифы ЖКХ с июля 2019 года могут поднять на 4%

Евгения Звезднова
02:51, сегодня
Хороший заголовок , могут поднять на 4 % . А могут и на 10 % , но то что подымут...

Тарифы ЖКХ с июля 2019 года могут поднять на 4%

Евгения Звезднова
02:48, сегодня
Народные недра были в СССР , РФ кап страна , здесь все частное и за все нужно пл...

Море - это круто!

Verimatrix
02:44, сегодня
Кабардинка

В Воронеже утонул иностранный студент

Гость
02:20, сегодня
Иностранным студентам невдомёк, что в русских реках после Ильина дня нельзя купа...

Дело обвиняемого в педофилии главного тренера по шахматам дошло до суда

Гость
02:13, сегодня
Я, конечно, не спец, но физиономия на фотографии... очень даже может быть!

100 дней голодания, это рекорд живучести.

Telefon_nedoveriya
02:12, сегодня
Пора бы уже мумифицироваться этому Сенцову))) А он почти не похудел)

Три клипа +1 на ночь

О.медок
01:47, сегодня
Где вы были? Почему так поздно?

Дело обвиняемого в педофилии главного тренера по шахматам дошло до суда

Жёваный Крот
01:36, сегодня
Потому что в нормальных странах есть такая штука, как презумпция невиновности: ч...

Читайте завтра в народных новостях!

Жованый пес
01:23, сегодня
Удивляются чему-то новому. Что нового в нашей деревне?

жена на средиземном море шветский стол жрёт

СаняСаныч
01:13, сегодня
я ток после 18 освобожусь, с Кирюхой сижу

жена на средиземном море шветский стол жрёт

Гость
01:06, сегодня
и не тока нас толе и под столом тоже

В Воронежской области легковушка протаранила автобус: один погибший

Гость
01:05, сегодня
Забыли написать, что при этом легковушка сгорела

Парламентские слушания по пенсионной реформе: о смягчении речи не шло

werth
00:47, сегодня
Пусть лучше ответят,почему это в Великой России нет денег?!Что это за отмаз?!Дор...

Дело обвиняемого в педофилии главного тренера по шахматам дошло до суда

Гость
00:44, сегодня
А почему мальчика , вот тренера и надо на детекторе проверять .

Пользователи