Почти каждого пользователя Facebook хотя бы раз блокировали. Причинами могли стать фривольная фотография, расистская шутка или сомнительный видеоролик. Например, модераторов группы The Village сотрудники Facebook блокировали за публикации фотографий мужского пояса верности и активисток движения Femen в действии. Однако бывает и такое, что на откровенную порнографию или расчленёнку никто не обращает внимания. Не всегда понятно, как Facebook определяет, что может находиться на его страницах, а что нет. The Village поговорил со специалистами направления Policy в Facebook о том, как устроена система безопасности в главной социальной сети, кто следит за нашими неоднозначными публикациями и почему фотографии с кормящей матерью выкладывать можно, а просто с обнажённой грудью — нельзя. 

Сотрудники Facebook о том, кого и за что они банят. Изображение № 1.

Линда Гриффин 

Head of Policy Communications,

Europe, the Middle East and Africa

  

Сотрудники Facebook о том, кого и за что они банят. Изображение № 2.

Томас Майрап Кристенсен

Director, Public Policy Nordics,
Eastern Europe and Russia

 

  

— Расскажите, зачем вообще социальной сети нужны какие-то правила? 

Томас: Мы большая всемирно известная социальная сеть с более чем 1 200 000 000 зарегистрированных пользователей. Конечно, возникают конфликты: люди отличаются по возрасту, взглядам, менталитету, вероисповеданию и ценностям. Для того чтобы контролировать их общение, нужны правила. Они лежат в публичном доступе, их всегда можно почитать. При регистрации пользователь обязан поставить напротив них галочку, то есть согласиться с нашими требованиями.

Правила максимально стандартизированы и подходят для людей любых национальностей. Они являются дистиллятом нашей десятилетней работы, они много раз немного менялись и обязательно будут совершенствоваться дальше. Это естественный процесс, учитывая численность нашего сообщества. Сейчас правила нас устраивают: они достаточно простые и в то же время эффективные. Но мы продолжаем их менять. Есть некоторые экспертные группы вне нашей компании, к мнению которых мы готовы прислушиваться. Например, существует независимый консультативный совет по вопросам безопасности — они могут нам советовать как-то менять правила, а мы рассматриваем их предложения.

— Какие правила менялись или удалялись за последнее время?

Линда: Ярким примером переменчивости нашей политики стали публикации фотографий кормящих матерей. Когда Facebook только появился, у нас было чёткое правило — никаких обнажённых тел, даже их частей. Нам казалось это единственной действенной мерой в борьбе с засильем порнографии в интернете. Это правило распространялось и на фотографии кормящих женщин. Тогда к Facebook было совсем другое отношение, и пользователям в голову не приходило выкладывать настолько личные снимки. Но за годы многое изменилось. Мы начали получать письма от молодых матерей, которые просили не удалять их фотографии во время кормления. Они писали, что хотят показать своим друзьям кормление и не стыдятся этого. В результате пару лет назад мы изменили правила так, чтобы публиковать такие снимки не запрещалось. Но многие до сих пор не знают, что такие снимки публиковать можно. 

Все решения по приемлемости
того или иного контента
принимают живые люди

Ещё один пример касается снимков с насилием. Политика Facebook всегда предполагала ограничение контента, связанного с насилием и жестокостью. При этом мы понимаем, что многие наши пользователи живут в горячих точках, где идёт война или революция. Такие пользователи часто поневоле становятся репортёрами: они публикуют снимки с места событий, а там, естественно, бывают неприятные кадры. Но мы не хотим мешать людям делиться информацией, тем более из первых рук: она достовернее и явно интереснее той, что показывают по телевизору. С другой стороны, мы не хотим, чтобы эта информация вредила другим людям. Поэтому теперь мы разрешаем публиковать такие снимки, правда, наши модераторы внимательно их изучают и анализируют, из каких соображений выложили то или иное фото.

— Кто занимается модерацией публикаций? Их рассматривают люди или это автоматический процесс?

Томас: У нас есть специально обученная команда, которая занимается рассмотрением жалоб на публикации. Они работают в разных часовых поясах. Вы наверняка обращали внимание на кнопку «Пожаловаться» рядом с публикациями в ленте.

Команда состоит из нескольких сотен профессионалов: это и сотрудники Facebook, и внешние эксперты. Их офисы находятся в четырёх городах: Дублине (нашей международной штаб-квартире), индийском Хайдарабаде и два в США — в Техасе и в штаб-квартире Facebook в Менло Парк. Эксперты сортируют все жалобы по степени важности, чтобы реагировать сразу на наиболее тревожные сообщения, например призывы к экстремизму. Потом решают, как поступить. Если изображение действительно нарушает наши правила, мы удаляем публикацию и блокируем пользователя.

Самая важная особенность нашей модерации состоит в том, что мы не пользуемся примитивными инструментами: никакой автоматической блокировки или поиска по запрещённым изображениям. Все решения по приемлемости того или иного контента принимают живые люди. Причём они рассматривают только те публикации, на которые кто-то пожаловался. Если жалобы нет, то никто блокировать изображение не будет. 

Если бы у нас была автоматизированная система, то это было бы не очень красиво с точки зрения вмешательства в частную жизнь и проблематично – с технической. 

— В последнее время начали говорить, что ваши модераторы стали «арбитрами совести»: они решают, что в сети является порнографией, а что произведением искусства, что можно публиковать, а что нет. Кто эти люди? Как их учат и кто может стать одним из них?

Томас: У нас очень разнообразная команда модераторов, каждый со своей историей. Мы специально ищем людей разной национальности, культуры, образования. Когда они устраиваются на работу, то проходят обучение. Им объясняют, что может быть опубликовано в Facebook, а что нет. Во время обучения им предлагают неоднозначные фотографии, которые они должны прокомментировать: оставили бы они их на сайте или нет. 

Вы можете сколько угодно доказывать, что это произведение искусства. Однако найдётся немало людей, которые решат,
что ваша публикация является порнографией

У нашей компании нет задачи стать арбитрами совести. Это не наше дело, не нам судить, где порнография, а где — искусство. При этом у Facebook как у компании есть обязательства перед своими пользователями. Мы обязаны их защищать от контента, который может причинить вред — этим мы и занимаемся.

— А где для Facebook проходит черта между искусством и порнографией? Если я выложу картину с обнажённой натурой, меня заблокируют? А если фотографию Терри Ричардсона или кадр из фильма Бертолуччи?

Томас: Мы стараемся разрабатывать максимально объективные правила. Одно из них гласит, что мы удаляем фотографии женщин, на которых изображены первичные и вторичные половые признаки. Вы можете сколько угодно нам доказывать, что это фантастическое произведение искусства и его необходимо оставить на странице. Однако найдётся немало людей из других стран, которые решат, что ваша публикация возмутительна и является порнографией. Некоторые правительства потом потребуют закрыть наш сайт или потребуют больше цензуры. Поэтому мы не собираемся принимать такие важные решения при нынешнем многообразии пользователей. Наши правила намеренно просты. Их можно критиковать за эту простоту, но нам как руководству такой крупной социальной сети этим они и эффективны.

— А что касается фотографий убитых животных? Недавно была история с жирафом Мариусом. Снимки с его расчленённым телом удалялись или нет? 

Линда: Действительно, тема с жирафом вызвала огромный резонанс по всему миру и эта тема не могла обойти нас. Наша политика в отношении подобных фотографий следующая: если там нет никакого месседжа, а просто кровища, то мы её, вполне возможно, удалим. Не видя фотографии, ответить трудно, всё решается в конкретном случае по-разному. Но вообще мы в таких случаях удаляем только очень жестокие снимки, после которых люди точно спать не смогут. 

Мы очень внимательно следили за ситуацией с Мариусом и заметили, что публиковалось огромное количество самых разных фотографий, но мы почти все оставили. Потому что эти снимки использовались чаще всего во время обсуждений, и их публикация была оправданной.

— Можете дать совет пользователям, как не быть заблокированными лишний раз?

Томас: Вы можете ограничивать доступ к своим публикациям. Например, можно сделать так, чтобы вашу фотографию не видели дети и подростки, или вывесить предупреждение, что снимок не для слабонервных. На наш взгляд, такие меры помогают как-то контролировать свой контент. Мы понимаем, что и у нас бывают ошибки, но стараемся совершенствовать наши правила.  

  

 После интервью два сотрудника The Village решили проверить, как работает система жалоб, и опубликовали сомнительные картинки у себя в хронике.

Густав Курбе «Происхождение мира»
l'Origine du monde, 1866. Изображение № 3.Густав Курбе «Происхождение мира»
l'Origine du monde, 1866

Специальный корреспондент Алиса По: «Я опубликовала шедевр сторонника натуралистической школы Гюстава Курбе "Происхождение мира". Из тысячи с лишним друзей лишь 12 одарили публикацию лайком, остальные ограничились шуточками. Но есть и плюс — никто не пожаловался на картину, никого не оскорбило изображение женских половых органов, меня не заблокировали». 

Бернардо Бертолуччи «Двадцатый век»
1976 год, кадр из фильма. Изображение № 4.Бернардо Бертолуччи «Двадцатый век»
1976 год, кадр из фильма

Корреспондент Анна Чесова: «Я опубликовала кадр из фильма скандалиста Бертолуччи "ХХ век". На более чем спорном изображении оказались и обнажённая грудь, и два пениса. Спустя пять часов снимок попросили удалить — жалобу отправила Алиса. Ей, кстати, предложили заблокировать мои обновления или вовсе удалить меня из друзей, чтобы впредь не видеть этот срам. Никаких других санкций не последовало, только модераторы как бы невзначай подкинули ещё раз условия пользования сетью».