Замедлитель видео онлайн: Видеоредактор | Clipchamp

Бывший модератор Pornhub приводит «странные оправдания» для сохранения видео в сети

Бывший модератор Pornhub выступил с заявлением о небрежной политике и необычных мерах, которые были приняты грязным сайтом для распространения незаконного и тревожного контента.

В интервью Business Insider бывший модератор материнской компании MindGeek сказал, что перед обозревателями контента была поставлена ​​задача найти «странные оправдания для хранения видео на наших сайтах», а не удалять их.

Бывший судья по грязи утверждал, например, что видео, в названии которого рекламируется мужчина, занимающийся сексом со «своей матерью», не будет разрешено. Но если бы в названии было более расплывчатое выражение «мать е… сын», видео могло бы остаться, потому что в нем явно не говорилось, что исполнители были родственниками.

Модераторы должны были просматривать до 400 видео в день, при этом некоторые описывали рабочую нагрузку как влияющую на их личную жизнь, уменьшая или увеличивая их сексуальные влечения.

До того, как Pornhub в этом году стал подвергаться более пристальному вниманию, модератор сказал, что они разрешили бы размещать на сайте «видео, изображающие исполнителей, имитирующих сцены секса с участием спящего человека, некоторый контент БДСМ и видео с видимыми бутылками алкоголя». .

Команде также было поручено решить, какие видеозаписи людей, раздавливающих животных, можно будет оставить на сайте.

«В какой-то момент мы обсуждали, на каких существ можно наступать», — сказал модератор.«Сверчки, насекомые и раки — это нормально, но не золотые рыбки, потому что у людей есть золотые рыбки в качестве домашних животных».

Pornhub недавно удалил со своего сайта более 10 миллионов видео — подавляющее большинство той грязи, которая была доступна — в рамках очистки от незаконного контента после того, как Visa и Mastercard разорвали связи с сайтом после сообщения New York Times.

Самое большое изменение — Pornhub разрешает загружать видео на сайт только проверенным пользователям. Эта привилегия в настоящее время предоставляется контент-партнерам Pornhub и участникам его «Модельной программы», которая требует от исполнителей подтверждения своей личности, загружая свои фотографии.

Советы модератору онлайн-конференции

Фото lizzardo

Вам нужно сделать онлайн-презентацию на конференции? Не паникуйте — в моем последнем сообщении в блоге вы найдете несколько советов о том, как провести увлекательную онлайн-презентацию. Обязательно прочтите и комментарии, там есть хороший совет!

Но как насчет того, вам нужно модерировать вебинар или презентацию конференции? Другими словами, вам не нужно выступать с докладом, вам нужно управлять сеансом и обращаться с аудиторией.Вот некоторые из вещей, которые обычно должен делать модератор онлайн-мероприятия:

• приветствовать публику
• устанавливает повестку дня мероприятия
• обрисовать какие-либо протоколы (например, не рисовать на слайдах PowerPoint без приглашения!)
• представить динамик
• разрешает выступающим и участникам использовать определенные инструменты, такие как общая доска или микрофон.
• отслеживать любые вопросы, которые могут появиться в окне чата во время разговора
• модерировать сессию вопросов и ответов, когда докладчик закончил свою презентацию
• подведите итоги, поблагодарите докладчика и аудиторию и закройте сессию.

Модератор онлайн-мероприятия обычно выполняет эти действия более или менее в указанном выше порядке. Звучит просто, не правда ли? В целом это так, хотя модератору следует помнить о нескольких вещах. Вот несколько советов!

Советы модераторам онлайн-мероприятий:

Совет 1: Техническая проверка!

Задолго до онлайн-мероприятия убедитесь, что докладчик знает, как эффективно использовать программное обеспечение для видеоконференцсвязи. Проверьте, нужно ли ей использовать такие инструменты, как общая интерактивная доска, или она будет использовать общий доступ к Интернету во время выступления.Проведите хотя бы один тестовый сеанс за несколько дней до мероприятия, чтобы убедиться, что настройки ее микрофона и веб-камеры работают. Сделайте это, даже если докладчик клянется, что знает программное обеспечение для видеоконференцсвязи как свои пять пальцев! Еще раз проверьте, будет ли выступающий использовать тот же компьютер в день мероприятия. Многие онлайн-мероприятия теряют половину аудитории из-за того, что настройки микрофона и камеры докладчика не проверялись заранее, и слишком много времени уходит на то, чтобы в начале выступления болтать, пытаясь заставить все работать! Излишняя техническая ошибка — один из самых быстрых способов потерять аудиторию.Не говоря уже о том, что из-за этого все мероприятие выглядит очень непрофессионально.

Совет 2: Удаление имени

Проверьте, как оратор хотел бы быть представлен. Что бы докладчик хотел, чтобы вы сказали о нем или о ней? Должно ли ваше вступление включать только профессиональную информацию или, возможно, вы могли бы упомянуть одно или два хобби? Будете ли вы помещать на доску фотографию или два выступающих во время вступительного выступления? И вы уверены, что знаете, как правильно произнести имя говорящего? Я ясно помню, как меня однажды представили как Ниггли Хогли вместо Ники Хокли…

Совет 3. Кто есть кто и что есть

В какой именно момент во время вебинара или конференции вы будете говорить (модератор)? Какая ваша роль в ? Сообщите аудитории в начале онлайн-мероприятия, как оно будет структурировано и для чего вы здесь.

Каким протоколам вы хотите, чтобы ваша аудитория следовала? Будут ли они, например, разрешены рисовать на доске? Могут ли они использовать окно чата? Имейте в виду, что если у вас открыто окно чата во время сеанса (настоятельно рекомендуется), участники сеанса будут использовать его для … ну, в чате. А если говорящий не увлекает их, они начнут болтать между собой о погоде, своих интересах и общих вещах … и просто отключат говорящего. Это не обязательно плохо, и хороший онлайн-докладчик будет знать, как использовать окно текстового чата, чтобы обеспечить участие аудитории (несколько советов по этому поводу см. В моем предыдущем сообщении в блоге!).

Совет 4: Разрешения

Если докладчик собирается пригласить участников рисовать на общей доске или комментировать с помощью микрофона, вам, модератору, нужно будет тщательно подумать о том, когда и как вы собираетесь обрабатывать разрешения. Разрешения на использование микрофона обычно очень просто предоставить — участник будет сигнализировать, что он или она хочет микрофон, и как модератор вы просто даете разрешение этому человеку.

Предоставление разрешений на использование инструментов рисования на общей доске также несложно, но хорошо подумайте, когда вы собираетесь давать разрешения.Вы дадите всем разрешения на рисование с начала сеанса? В этом случае вы рискуете, что участники будут рисовать слайды PowerPoint во время выступления (это будет не впервые)! Вы дадите всем разрешение на рисование только тогда, когда докладчик предложит им рисовать на доске? В этом случае вам нужно будет быстро предоставить каждому человеку необходимые разрешения — с большой аудиторией это может занять довольно много времени, и те, кому вы даете разрешения первыми, завершат задачу до того, как вы дадите всем разрешения.… Поэтому заранее уточните у докладчика, сколько времени займет их задача (-я) на доске. Это может помочь вам решить, когда именно предоставлять разрешения на рисование.

Совет 5: Вопросы и ответы

Если в конце выступления докладчика будет сессия вопросов и ответов, как вы собираетесь ее проводить? Как аудитория будет задавать вопросы? Через окно текстового чата или вы дадите микрофон людям, чтобы они задавали вопросы? Или вы будете использовать комбинацию окна текстового чата и микрофона? Имейте в виду, что пока участники добавляют вопросы в окно чата, чрезвычайно сложно, , вернуться назад, чтобы прочитать, что люди внесли ранее! Текст в окне чата постоянно обновляется, при этом предыдущий текст перемещается вверх по экрану, что делает практически невозможным прокрутку вверх и удержание фрагмента текста, чтобы его прочитать.

Во время вопросов и ответов модератору рекомендуется просто наблюдать за окном чата и быстро записывать вопросы (и имя человека, задавшего вопрос) на листе бумаги. Эти вопросы затем могут быть устно переданы модератором докладчику в том порядке, в котором они были заданы. Фактически, во время самого выступления модератор должен внимательно следить за окном чата и отмечать темы или проблемы, которые участники поднимают, пока говорит докладчик.Спикеру очень сложно полностью осознавать вопросы, поступающие через окно текстового чата, когда он или она говорит. Никто не может справляться с несколькими задачами одновременно. Работа модератора — следить за окном текстового чата.

Совет 6: До свидания

Как вы подведете итоги или завершите сессию? Сделаете ли вы короткую сводку новостей, например, в окне текстового чата? Или вы просто поблагодарите докладчика и аудиторию? Если докладчик собирается включить обзорное мероприятие (см. Мой предыдущий пост в блоге, чтобы узнать о некоторых предложениях) — и вам нужно будет проверить — то вы можете просто сказать несколько строк, обобщая доклад и то, что вы находите интересным / полезным.Не забудьте сообщить участникам , где они могут получить доступ к слайдам PowerPoint и записи сеанса после мероприятия.

Это несколько основных советов для модераторов онлайн-мероприятий. Я хотел бы услышать мнение любого, кто имел опыт модерации синхронного онлайн-мероприятия. Можете ли вы добавить нам какие-нибудь советы (или предупреждения) в комментариях к этому сообщению?

Спасибо!

Ники Хокли
Консультанты-E
Ноябрь 2009 г.

Пять мифов о модерации онлайн-контента от бывшего модератора контента

Интернет изменил все аспекты нашей жизни.Это помогло нам, , начать политические кампании [1] , завязать романтические отношения [2], открыть для себя далекие места, задокументировать нарушения прав человека [3] и обеспечить безопасность пострадавших от стихийных бедствий и доступ к ресурсам им нужно [4] . Однако, как и у любого другого великого новшества, у него есть и обратная сторона.

Действительно, Интернет стал питательной средой для террористов [5] , рынком торговли людьми [6] , платформой для сексуальной эксплуатации детей [7] и ареной для языка ненависти и насилия.Чтобы бороться с такими ужасными вещами, родилась работа модератора контента.

Модераторы контента просматривают и анализируют отчеты пользователей о оскорбительном контенте, обнаруженном на платформах, и решают, основываясь на заранее определенном наборе правил и рекомендаций, а также в соответствии с законом, следует ли контент продолжать расти или уменьшаться.

Споры, бурлящие в Конгрессе и обществе относительно роли модераторов контента, породили множество безосновательных утверждений. Вот пять самых распространенных мифов.

МИФ № 1

МОДЕРАТОРЫ КОНТЕНТА ЯВЛЯЮТСЯ СОТРУДНИКАМИ НЕПОСРЕДСТВЕННО, РАБОТАЮЩИМИ В НЕИДЕАЛЬНЫХ УСЛОВИЯХ.

Условия, связанные с этим типом работы, породили ужасных историй [8] модераторов контента, работающих в качестве подрядчиков всего за 28 800 долларов в год при экстремальном микроменеджменте. В на Филиппинах [9] сотрудники работают в переполненных торговых центрах, где они проводят более девяти часов в день, модерируя контент, всего за 480 долларов в месяц. Из-за небольшого количества перерывов в работе и отсутствия доступа к консультированию многие из этих людей в конечном итоге страдают бессонницей, депрессией и посттравматическим стрессовым расстройством.

Эти работники реальны, и эти истории правдивы. Однако существует другой набор модераторов контента. Эти сотрудники также часто из-за характера работы не могут справиться с тем, с чем они сталкиваются в Интернете, но их условия работы значительно лучше. Они живут в районе залива, и им хорошо платят. Это юристы, ветераны, бывшие учителя, экономисты и консультанты. Они говорят более чем на 15 языках. Они представляют собой первоначальное видение [10] модератора контента.

Ужасающие условия работы подрядчиков — прямой результат непредвиденного взрыва Интернета. Ни одна из этих платформ не могла представить себе такое количество пользователей, и никто не мог предвидеть ужасающих видео, фотографий и сообщений, которые когда-нибудь попадут в Интернет. В результате возникло серьезное внешнее давление с целью дальнейшего смягчения этого контента, что вынудило некоторые компании прибегать к найму подрядчиков для выполнения этой работы.

Многие считают, что ответ — просто привести всех модераторов к себе.Хотя технологические компании могут себе это позволить, влияние работы на психическое здоровье сохраняется. Действительно, во многих отношениях работа модераторов контента напоминает работу служб быстрого реагирования и следователей на месте преступления. Разница в том, что для этой работы работодатели придумали способы помочь своим сотрудникам справиться с травмой, включая программы поддержки со стороны сверстников, индивидуальные консультации, программы физической подготовки и выделенное количество времени для работы. Включение этих решений будет иметь огромное значение для модераторов контента.

МИФ № 2

МОДЕРАЦИЯ КОНТЕНТА ЯВЛЯЕТСЯ ЦЕНЗУРОЙ.

Некоторые считают модерацию контента формой цензуры; способ для организаций контролировать речь пользователей, блокируя комментарии, сообщения, обзоры, результаты поиска и другие типы контента, которые они считают нежелательными.

По правде говоря, модерация контента — это не цензура; речь идет о создании здоровой и безопасной среды, в которой пользователи могут загружать свои собственные продукты, публикации или комментарии и с комфортом взаимодействовать с другими.Это инструмент для улучшения взаимодействия с пользователем, обеспечения соответствия платформ местным и глобальным законам и помогает пользователям поверить в то, что они могут взаимодействовать через платформу или использовать сервис, не опасаясь быть обманутыми.

Флаги и кнопки отчетов позволяют пользователям уведомлять владельцев сайтов, когда что-то кажется неуместным. Модераторы-люди следят за тем, чтобы все пользователи соблюдали стандарты сообщества. Хорошо обученные решения для модерации ИИ используют фильтры для поиска неуместных слов, фраз и изображений, чтобы помочь отсеять троллей, хулиганов и спамеров.Другими словами, модераторы контента оставляют онлайн-пространство отличным местом для работы.

В кибер-мире, наполненный экстремизм, насилие, сексуальными образами злоупотреблений и мести порно, там едва ли время подумать о цензуре речи, которая не совпадает с конкретной политикой или точки зрения индивида. По общему признанию, модераторы — люди, поэтому допускаются ошибки. Однако есть вероятность, что если контент упал, это связано с тем, что он не соответствует условиям обслуживания или политике платформы, или закону, а не личной предвзятости модератора.

МИФ № 3

TECH МОГУТ ПРОВЕРИТЬ ВЕСЬ КОНТЕНТ ПЕРЕД ЗАГРУЗКОЙ.

Модерация контента никогда не предназначалась для работы с миллиардами пользователей. Тем не менее, в настоящее время на YouTube каждую минуту загружается 300 часов видеоконтента, ежедневно в Instagram загружается более 95 миллионов фотографий и ежедневно в Twitter отправляется более 500 миллионов твитов (то есть 6000 твитов в секунду). Для модераторов-людей просто невозможно проверить каждый загружаемый контент до того, как он будет опубликован.

МИФ № 4

AI МОЖЕТ УМЕРЕНИТЬ СОДЕРЖАНИЕ СВОИМ.

Автоматизированные системы, использующие искусственный интеллект и машинное обучение, безусловно, немало помогают в решении этой непостижимой огромной задачи. Они действуют как система сортировки, например, передавая подозрительный контент модераторам-людям и самостоятельно удаляя нежелательный материал. Однако ИИ не может решить проблему модерации онлайн-контента без помощи человека.

AI либо использует визуальное распознавание для определения относительно широкой категории нежелательного контента, либо сопоставляет контент с индексом запрещенных элементов.Последний подход используется в случаях явно незаконных материалов, таких как материалы терроризма или изображения сексуального насилия над детьми. В этих случаях контенту присваивается «хэш» или идентификатор, поэтому при повторном обнаружении процесс загрузки будет отключен. Независимо от того, какой метод используется, параметры должны устанавливаться людьми.

Более того, хотя эти процессы, основанные на искусственном интеллекте, в основном надежны, могут возникнуть проблемы. Как пишет Тарлтон Гиллеспси в своей книге «Хранители Интернета»: «Автоматическое обнаружение — непростая задача — возможно, это невыполнимая задача, учитывая, что нарушение столь критически зависит как от интерпретации, так и от контекста.«Действительно, AI испытывает трудности с поиском контекста и пониманием определенной динамики, например, различных правовых режимов в разных странах. ИИ также не может учитывать постоянные изменения в том, как люди классифицируют и определяют проблемный контент. Эти сложности затрудняют модерирование контента людьми, так как же мы можем ожидать, что машина, запрограммированная людьми, выполнит свою работу?

Нельзя сказать, что у ИИ нет надежды. Тем не менее, на данный момент он останется дополнением к модерации контента, управляемой людьми, а не заменой.

МИФ № 5

УДАЛЕНИЕ РАЗДЕЛА 230 СДЕЛАЕТ ДЛЯ ЛУЧШЕЙ ПРАКТИКИ МОДЕРАЦИИ.

В соответствии с разделом 230 Закона о порядочности в коммуникациях веб-сайты и поставщики интернет-услуг не несут ответственности за комментарии, изображения и видео, которые публикуют их пользователи и подписчики, вне зависимости от того, насколько они плохи (с некоторыми исключениями [11] ). Предоставляя этот иммунитет, можно было надеяться, что компании смогут свободно принимать базовые кодексы поведения и удалять материалы, которые компании сочли неуместными.Закон также запрещает привлекать платформы к ответственности за добросовестные действия по блокированию «непристойных, непристойных, непристойных, непристойных, чрезмерно жестоких, беспокоящих или иных нежелательных материалов». Фактически, раздел 230 можно рассматривать как начало и возможность модерации контента.

Если законодатели отменят защиту Раздела 230, технологические компании будут открыты для судебного процесса каждый раз, когда модератор решает удалить контент или оставить его на платформе. В результате эти компании будут вынуждены сделать одно из двух: либо оставить все, что публикует кто-либо, в том числе ужасный контент, такой как видеоролики о казнях террористов, пропаганда Ку-клукс-клана и т. Д.- или разрешить публикацию только одобренного контента. Учитывая астрономический объем контента, загружаемого на платформы каждый день (см. Миф № 3), многие компании, скорее всего, предпочтут позволить самому отвратительному контенту оставаться на своих платформах, вместо того чтобы рисковать множеством судебных исков и штрафов, которые могут легко вывести их из бизнеса. .

Короче говоря, отмена иммунитета по Разделу 230 не способствует более «справедливой» модерации; он полностью устраняет стимул к модерированию.

Тем не менее, в июне этого года сенатор.Джош Хоули представил законопроект № , озаглавленный [12] «О прекращении цензуры в Интернете». Согласно законопроекту Хоули, Федеральная торговая комиссия каждые два года будет проверять методы модерации основных платформ, чтобы определить, были ли эти методы «предвзятыми против политической партии, политического кандидата или политической точки зрения». Платформы, которые не соответствуют этому стандарту, потеряют иммунитет к Разделу 230. Это не только устранило бы стимул для этих платформ модерировать контент своих пользователей, но и фактически предоставило бы правительству контроль над онлайн-речью.

ЗАКЛЮЧЕНИЕ

В течение многих лет многие требовали, чтобы различные интернет-платформы «делали больше» в отношении модерации контента. В ответ крупные технологические компании наняли для этой работы тысячи модераторов контента. Эти модераторы должны выполнять сложный баланс: они должны соблюдать закон, обеспечивать безопасность пользователей, защищать свободу слова в Интернете и обеспечивать процветание продукта на рынке. Для этого модераторы ежедневно часами погружаются в море видео с обезглавливанием, видео с изнасилованиями и фотографий с мест преступлений.Даже штатные модераторы контента с хорошей оплатой и хорошими условиями труда страдают от контента, который они постоянно видят.

Многие полагают, что крупные технологические компании могут легко скрыть худшие стороны человечества, которые попадают в Интернет. Но нет простого решения того, что происходит в сети. При миллиардах пользователей модераторов никогда не хватит, чтобы убедиться, что все проверено. Юридические жалобы и методы сообщения о злоупотреблениях помогают сузить круг вопросов, но даже в этом случае задача остается непосильной.Как человеку, который когда-то проделал эту работу, неприятно наблюдать, как многие политики требуют, чтобы компании «что-то сделали», не осознавая связанных с этим сложностей. Более того, многие предлагаемые решения не будут работать, а вместо этого приведут к вредным непредвиденным последствиям.

То, что происходит в сети, является отражением нашего общества. Технологические компании — и в частности модераторы контента — не могут волшебным образом исправить зло, обнаруженное в человечестве, и мы не можем помешать ему найти свой путь в Интернете.

Можно ли улучшить? Конечно. Вот почему я ушел из мира технологий, чтобы работать в политическом пространстве. Я понимаю эти проблемы благодаря своему личному опыту, и я хочу повысить осведомленность и выступить за разумные изменения. Но я не могу сделать это в одиночку. Законодатели и общественность должны понимать, что такое модерация контента и последствия внесения изменений в нее, прежде чем делать выводы или выдвигать требования.

Изображение предоставлено: GaudiLab [13]

Сноски

1. «начать политические кампании»: https: // www.thinkco.com/how-social-media-has-changed-politics-3367534
2. «романтические отношения»: https://www.pewinternet.org/2015/10/01/social-media-and-romantic-relationships/
3. «документируйте нарушения прав человека»: https://www.borgenmagazine.com/technology-transforming-human-rights-monitoring/
4. «ресурсы, которые им необходимы»: https://www.facebook.com/about/crisisresponse /
5. «рассадник террористов»: https://www.rand.org/blog/2018/12/isiss-use-of-social-media-still-poses-a-threat-to-stability.html
6. «рынок торговли людьми»: https://polarisproject.org/human-trafficking-and-social-media
7. «платформа для сексуальной эксплуатации детей»: https://www.thorn.org/child-pornography -and-abuse-statistics /
8. «страшилки»: https://www.theverge.com/2019/2/25/18229714/cognizant-facebook-content-moderator-interviews-trauma-working-conditions-arizona
9. «Филиппины»: https://www.washingtonpost.com/technology/2019/07/25/social-media-companies-are-outsourcing-their-dirty-work-philippines-generation-workers-is-paying- price /
10. «первоначальное видение»: https: // www.nytimes.com/2008/11/30/magazine/30google-t.html
11. «определенные исключения»: https://fas.org/sgp/crs/misc/LSB10082.pdf
12. «под названием»: https: / /slate.com/technology/2019/06/josh-hawley-section-230-cda-internet-speech-conservatives.html
13. «GaudiLab»: https://www.shutterstock.com/g/GaudiLab

Модераторов контента на YouTube, Facebook и Twitter видят худшее в сети и молча страдают

Его все еще преследует то, что он видел. Сегодня вход в высокое здание вызывает воспоминания о самоубийствах, которые он изучал, заставляя его развлекаться возможностью прыгнуть.По ночам он гуглил кадры зоофилии и инцеста — материала, с которым он никогда раньше не сталкивался, но теперь ему стыдно, что его тянет. В течение последнего года он каждую неделю посещал часовню торгового центра, где вместе с одним из церковных братьев он просил Бога «вычеркнуть» эти образы из его памяти.

«Я знаю, что это ненормально, но теперь все нормализовалось», — сказал 33-летний мужчина, назвав только свое имя из-за соглашения о конфиденциальности, которое он подписал, когда приступил к работе.

Такие рабочие, как Лестер, находятся на передовой в нескончаемой битве за безопасность Интернета.Но тысячи миль разделяют Филиппины и Кремниевую долину, что делает этих рабочих уязвимыми для эксплуатации со стороны некоторых мировых технологических гигантов.

За последние пару лет компании, работающие в социальных сетях, создали десятки тысяч рабочих мест по всему миру для проверки и удаления насильственного или оскорбительного контента, пытаясь укрепить свою репутацию после неспособности надлежащим образом контролировать контент, включая прямые трансляции террористических атак и Российская дезинформация распространилась во время президентских выборов в США.Однако фирмы держат этих работников на расстоянии вытянутой руки, создавая разделение, нанимая их в качестве подрядчиков через гигантские аутсорсинговые агентства.

Здесь работники говорят, что компании не оказывают адекватной поддержки для устранения психологических последствий работы. Они сказали, что не могут доверять друзьям, потому что подписанные ими соглашения о конфиденциальности не позволяют им делать это, что трудно отказаться от контента, который они видят, и что ежедневные цели по точности вынуждают не делать перерывов.Индустрия высоких технологий признала важность предоставления модераторам контента этих свобод — в 2015 году они подписали добровольное соглашение о предоставлении таких возможностей работникам, просматривающим контент с эксплуатацией детей, которому, по словам большинства сотрудников, они были подвержены.

Индустрия технологического оборудования уже давно работает путем скопления целых армий нанятых на аутсорсинг заводских рабочих, которые производят мировые смартфоны и ноутбуки в тяжелых условиях труда, иногда с фатальными последствиями. Индустрия программного обеспечения также все больше полагается на дешевую и расходуемую рабочую силу, невидимый человеческий труд, который помогает гарантировать, что голосовые помощники искусственного интеллекта точно реагируют, что системы автоматического вождения могут обнаруживать пешеходов и другие объекты, и что насильственные половые акты не появляются в социальных сетях. медиа-каналы.

Уязвимость модераторов контента наиболее остро стоит на Филиппинах, одном из крупнейших и наиболее быстрорастущих центров такой работы и порождении индустрии колл-центров страны, существующей уже несколько десятилетий. В отличие от модераторов в других крупных центрах, таких как Индия или США, которые в основном просматривают контент, которым делятся люди из этих стран, сотрудники офисов в Маниле оценивают изображения, видео и сообщения со всего мира. Работа возлагает на них огромное бремя — понимать иностранные культуры и модерировать контент на 10 языках, на которых они не говорят, и при этом ежедневно принимать несколько сотен решений о том, что можно оставить в сети.

В интервью The Washington Post 14 нынешних и бывших модераторов в Маниле описали рабочее место, где кошмары, паранойя и навязчивые размышления были обычными последствиями работы. Несколько человек рассказали, как видели своих коллег, страдающих психическим срывом за своим рабочим столом. Один из них сказал, что пытался покончить жизнь самоубийством в результате травмы.

Несколько модераторов называют себя безмолвными героями Интернета, защищающими американцев от бед своего собственного общества, и говорят, что они настолько поглощены ответственностью за безопасность Интернета, что ищут вредных контент в свободное время, чтобы сообщить об этом.

«В конце смены мой разум настолько истощен, что я даже не могу думать», — сказал модератор Twitter в Маниле. Он сказал, что иногда ему снилось, что он стал жертвой взрыва террориста-смертника или автомобильной аварии, его мозг перерабатывает образы, которые он просматривал во время своей смены.«Чтобы выполнять эту работу, нужно быть сильным человеком и хорошо знать себя».

Модераторы работали с Facebook, принадлежащим Facebook Instagram, принадлежащим Google YouTube, Twitter и принадлежащей Twitter платформой видеостриминга Periscope, а также другими подобными приложениями через посредников, таких как Accenture и Cognizant. Каждый говорил на условиях анонимности или соглашался на использование своего имени только из-за соглашений о конфиденциальности, которые они должны были подписать их работодателями и технологическими компаниями.

В интервью представители технологических компаний заявили, что они создали множество новых рабочих мест в спешке, и признали, что они все еще борются с тем, как предложить соответствующую психологическую помощь и улучшить условия труда для модераторов, одновременно управляя чрезмерными ожиданиями общества, что они быстро удалить нежелательный контент. Компании указали на ряд изменений, которые они внесли за последний год или около того, чтобы устранить вред. Консультант Facebook признал, что форма посттравматического стрессового расстройства, известная как заместительная травма, может быть следствием работы, а корпоративное обучение направлено на возможность суицидального мышления.Они признали, что все еще существуют разногласия между политиками, созданными в Кремниевой долине, и их реализацией на сайтах модерации, управляемых третьими сторонами по всему миру.

The Post также поговорила с одним модератором в Дублине и десятками в Соединенных Штатах, которые рассказали о событиях, аналогичных тем, о которых сообщалось в Маниле. Но в отличие от подрядчиков Facebook и Google в США, чья пропаганда в последние месяцы помогла компаниям обещать повышенную заработную плату и льготы, эксперты считают, что филиппинские рабочие гораздо реже выступают за улучшение условий труда.И в то время как американские рабочие рассматривают эту работу как ступеньку к потенциальной карьере в технологической индустрии, филиппинские рабочие рассматривают бесперспективную работу как одну из лучших, которые они могут получить. Они также гораздо больше опасаются последствий нарушения их соглашений о конфиденциальности.

Работа привлекает сюда многих недавних выпускников колледжей. Они предлагают относительно хорошую оплату и являются редким билетом в средний класс. И многие рабочие говорят, что уходят без каких-либо негативных последствий.

Хотя десятки тысяч людей по всему миру проводят дни, просматривая ужасающий контент, формальных исследований влияния регулярного воздействия таких изображений модераторами контента было мало. Хотя многие филиппинские работники говорят, что они стали модераторами контента, потому что думали, что это будет проще, чем обслуживание клиентов, эта работа сильно отличается от других профессий из-за «многочасового стресса, когда люди получают травмы, животные и животные. всевозможные оскорбительные и жестокие образы », — сказала Сильвия Эстрада-Клаудио, декан Колледжа социальной работы и общественного развития при Университете Филиппин, которая консультировала работников индустрии телефонных центров.Она сказала, что беспокоится о поколении молодых людей, которые сталкиваются с такими тревожными материалами. «Для людей с серьезными проблемами это может вызвать психологический кризис».

II.

Горизонт Манилы украшен названиями американских компаний, в том числе Citigroup, Accenture, Trump Tower и десятков менее известных фирм, которые составляют основу аутсорсинговой экономики страны. В их зданиях сосредоточено множество сотрудников колл-центров, которые в течение почти двух десятилетий выполняли бэк-офисные задачи для англоговорящих потребителей в богатых странах.(«Вашингтон пост» использует колл-центр на Филиппинах для обслуживания клиентов, — заявила пресс-секретарь Post Шани Джордж.)

Сегодня, помимо модерации контента, эта работа включает в себя прием звонков в службу поддержки американских телекоммуникационных компаний и медицинских страховых компаний, прополку продавать незаконные товары на eBay, удалять повторяющиеся объявления на Google Maps или размечать видеозаписи, записанные с помощью беспилотных автомобилей.

Лестер работал в call-центре около десяти лет после того, как получил степень инженера в университете в Маниле.Затем, в 2017 году, он перешел в компанию Accenture. Новая работа заключалась в обучении работе с модератором контента в поисковой системе, которая, как он позже узнал, была YouTube. Сначала он думал, что модерация контента в Интернете будет менее напряженной, чем работа с разгневанными клиентами по телефону, и ему понравились бесплатные обеды, которые Accenture предоставляла модераторам в учетных записях Google, сказал он. Но он также обнаружил, что политика YouTube сбивает с толку, и сказал, что у него не было доступа к психологической помощи, когда он смотрел тревожные видео.

Несколько месяцев спустя он перешел в Accenture для работы над учетной записью Twitter, поскольку слышал, что Twitter предлагает лучшую психологическую поддержку. Новая работа, за которую платили около 480 долларов в месяц, давала ему располагаемый доход и означала, что он мог содержать свою бабушку, с которой он жил в небольшом доме с одной спальней в Алабанге, пригороде в двух часах езды.

Он начинал свой путь на близлежащей заправочной станции рядом с семиполосным шоссе, где он останавливал джипни, вездесущие красочные автобусы, разработанные после военных джипов Второй мировой войны, которые стали популярными, когда страна была U.S. территория.

Поездка на работу за 20 центов пролегала мимо фабрик и заброшенных курортов, пока вдали не стали видны сверкающие высотки Манилы. Чтобы занять себя, Лестер иногда рассылал друзьям и коллегам мотивирующие цитаты из Библии через Facebook Messenger. В основном, он просто наверняка выспался.

Когда Лестер приходил работать над аккаунтом в Твиттере, он складывал свой телефон и другие ценные вещи в шкафчик. Он встречался со своим менеджером, который сообщал команде свою статистику за предыдущую смену, такую ​​как количество сообщений, просмотренных каждым человеком, и их точность, а также отслеживаемые хэштеги и последние новости, такие как стрельба в ночном клубе Pulse. в Орландо.

Затем он садился перед большим монитором, который часами разматывал один пост за другим. Монитор отслеживал количество «дел» в его «очереди», выводя его из системы, если ему нужно было передохнуть. По словам нынешних и бывших сотрудников, модераторы Twitter часто просматривали до 1000 сообщений в день, включая отдельные твиты, ответы и сообщения.

Лестер сказал, что не контролирует, какой пост он собирается увидеть — будет ли в ленте показывать ему убийство Исламского государства или ребенка, которого заставляют заняться сексом с животным, или анти-Трамповскую стяжку.У него не было возможности размыть или свести к минимуму изображения размером с открытку или переключиться на другой экран для мысленной передышки, потому что компьютер не был подключен к Интернету.

«Слишком много, чтобы сосчитать», — сказал он, когда его попросили оценить количество изображений насилия, которые он видел в течение восьми месяцев просмотра контента Twitter и YouTube. Одно незабываемое видео, которое, как он предположил, было убийством, связанным с бандой в Африке, показало, как группа мужчин затащила человека в лес и неоднократно перерезала ему горло большим ножом, пока кровь не покрыла объектив камеры.По оценкам Лестера, он просматривал примерно 10 убийств в месяц. По его словам, он просмотрел не менее 1000 материалов, связанных с самоубийством, которые в основном включали фотографии и письменные сообщения людей, взывающих о помощи или объявляющих о своих планах покончить с собой.

Другие рабочие не могли отвести взгляд. «Мы в первую очередь, как и первые реагирующие на теракты 11 сентября», — сказал Джером, еще один бывший модератор, который до ноября 2018 года просматривал видео в Periscope, приложении для потоковой передачи видео, принадлежащем Twitter.Один индонезийский модератор, подвергавший цензуре контент о его родной стране, сказал, что утешается тем, что предотвращает радикализацию каждый раз, когда удаляет пост с флагом ИГИЛ.

Через некоторое время Лестер заметил, что его работа начала сказываться на его самочувствии. Это снова разжигало чувство депрессии, с которым он боролся в свои 20 лет, и он снова начал думать о самоубийстве. Он сказал, что не может позволить себе лечение психического здоровья и не обращался за ним. В то же время ему было стыдно и встревожено, когда он обнаружил, что некоторые из новых сексуальных образов, которым он подвергался, возбуждали его.

Лестер не пытался покончить жизнь самоубийством, но бывший модератор Facebook и Instagram, опрошенный The Post, сказал, что на него повлияла работа. Модератор приступил к работе в то время, когда у него были семейные проблемы, и сказал, что просмотренный контент ухудшил его психологическое состояние. Он уволился в 2015 году через три месяца, а в следующем году попытался покончить жизнь самоубийством в номере мотеля, воспроизводя сцену, которую он просматривал годом ранее. Его друзья поговорили с ним по телефону. «Если бы я остался на этой работе, я был бы мертв прямо сейчас», — сказал он.

III.

Накануне вечером перед Конгрессом Facebook, Google и Twitter давали показания в связи с вмешательством России в их платформы. Осенью 2017 года глава Facebook Марк Цукерберг объявил, что компания наймет 10 000 новых сотрудников по охране и безопасности для проверки содержания сайта. , доведя общее количество до 20 000 в год. (Половина из 30 000 человек, которые сейчас просматривают контент для Facebook, являются подрядчиками.) Месяц спустя YouTube и Google пообещали 10 000 рабочих мест к концу 2018 года.Twitter, которая является гораздо меньшей компанией, начала наращивать модерацию контента, удвоив штат подрядчиков до 1500 человек в течение следующего года.

После провозглашения технических фирм, онлайн-доски объявлений о вакансиях в Маниле начали освещаться вакансиями от подрядных компаний для «модератора», «аналитика данных», «редактора по качеству контента», поскольку компании начали набирать сотрудников, сказала Сара Т. Робертс, доцент Калифорнийского университета в Лос-Анджелесе и автор книги «За экраном: модерация контента в тени социальных сетей.«Некоторые технологические компании уже имели там офисы, но после слушаний в России рост модерации контента ускорился стократно, — сказал один из руководителей отрасли, работающий в США и на Филиппинах.

Филиппины были естественным местом для расширения операций модерации, потому что бывшая территория США является англоязычной и имеет двухлетнюю историю с колл-центрами. В 2012 году Facebook открыл офис модерации контента на Филиппинах через Accenture, у которого там уже были крупные колл-центры.Первый сайт Twitter в Маниле открылся в 2015 году через аутсорсинговую компанию Cognizant.

Николь Вонг, бывший заместитель генерального юрисконсульта Google, которая помогала создавать первые группы по обеспечению соблюдения политики компании, начиная с 2004 года, сказала, что изначально она не хотела отдавать операции на аутсорсинг, потому что она чувствовала, что эта работа требует тонкого понимания правовых и культурных аспектов, что было бы затруднительно для нанимать рабочих за границей для синтаксического анализа без строгого надзора — и что результат может привести к ошибкам в принятии решений.Но по мере расширения технологических компаний им требовалась круглосуточная модерация и поддержка многих языков.

Хотя модераторы в США и Европе сообщили The Post, что их просили проверять контент в основном на языках, на которых они говорят, филиппинские модераторы, говорящие только на тагальском и английском языках, сказали, что их обычно просили проверять контент на 10 языках. . Они сказали, что проконсультируются со свободно говорящим оратором, если он будет доступен на работе, но в остальном полагались на Google Translate и Urban Dictionary, инструменты, которые иногда усугубляли их замешательство и создавали стресс.

Рецензенты контента изначально играли важную роль в странах, где технологические компании могут быть привлечены к уголовной ответственности за контент, размещенный на их платформах, таких как Германия, Австралия, Франция и Турция. В США гораздо более жесткие правила для интернет-платформ, но за последние два года американская общественность и законодатели оказали огромное давление на технологическую отрасль, чтобы избавиться от множества недугов, что способствовало быстрому росту найма модераторов.

Сайты модераторов Facebook, которыми управляют аутсорсинговые компании, сейчас расположены в 20 странах, включая Латвию и Кению, а Twitter — в восьми.(YouTube отказался отвечать на вопросы о своей деятельности, в том числе о местонахождении центров модерации контента.) Facebook заявляет, что Филиппины и Индия являются его крупнейшими зарубежными центрами.

Дональд Хикс, вице-президент Twitter Service, сказал в интервью, что сложно сбалансировать эмоционально чувствительную работу, требующую перерывов и психологической поддержки, с необходимостью соответствовать показателям и целям производительности. После того, как в начале 2018 года его наняли для перестройки работы Twitter, он сосредоточился на преобразовании рабочей среды из более «механического» центра обработки вызовов в центр, ориентированный на благополучие агентов.«Мы не хотим строить эти огромные фермы», — сказал он.

В 2015 году Facebook, Google, Twitter и другие компании объединились в рамках отраслевой группы под названием Technology Coalition, чтобы рекомендовать руководящие принципы для рецензентов, которые сосредоточены на эксплуатации детей, что в то время было основным направлением деятельности отрасли и одним из немногих. области, в которых технологические компании были обязаны удалять контент.

Добровольные руководящие принципы были важным признанием психологического бремени работы и, по словам представителей отрасли, единственной попыткой создать общие стандарты, по которым компании могут нести ответственность.Они призвали компании разработать «программу устойчивости» на рабочем месте, которая позволяет работникам не видеть тревожный контент, делать перерывы, когда они хотят, и рассказывать друзьям о трудностях работы. Он рекомендовал дать работникам возможность переключиться на другой тип задания на час, чтобы получить передышку в уме и сделать консультирование «легко» и «легко» доступным.

Рабочие, которые подвергались эксплуатации детей и другим тревожным материалам, сказали, что на практике руководящие принципы не соблюдаются, добавив, что они даже не знали о них.(Руководящие принципы недавно были удалены с веб-сайта Технологической коалиции.)

Некоторые модераторы на Филиппинах заявили, что никогда не сталкивались с консультантом на работе. Некоторые заявили, что у них был доступ к консультанту один раз в месяц или один раз в шесть месяцев, тогда как модераторы в Соединенных Штатах говорят, что они могут бронировать время с консультантом раз в неделю.

Лестер и другие модераторы рассказали, что в данный момент практически не было возможности отказаться от просмотра контента, который они могли бы посчитать нежелательным, потому что программное обеспечение постоянно подавало поток заявок, и люди никогда не знали, что они собираются получить.Однако они могут потребовать перевода в другую команду, которая рассматривает другой предмет.

Хотя все компании отрицают, что у них есть квоты на проверку определенного количества сообщений в день, работники заявили, что они по-прежнему испытывают давление, чтобы достичь целей по точности и пересмотреть как можно больше сообщений в течение смены, что затрудняло принятие выделенных перерывы. По их словам, эффект был аналогичен квоте. Компании регулярно проверяют модераторов, чтобы убедиться, что они удаляют контент в соответствии со стандартами компании, и ожидают, что модераторы будут поддерживать уровень точности выше 95 процентов.

Facebook, который столкнулся с самым пристальным вниманием среди всех компаний, предпринял самые заметные усилия по улучшению условий для модераторов контента, такие как попытка отменить квоты на просмотр сообщений, повышение заработной платы модераторов в США и наем психологов для работы по дизайну ». устойчивости »по всему миру.

Социальная сеть сообщает, что планирует предоставить неограниченный доступ к личным консультациям своим модераторам в любое время и во всех офисах по всему миру, а также изучает возможность предоставления консультаций после того, как работники увольняются с работы.Facebook также находится в процессе создания способов оценки сотрудников по нескольким показателям, что, как он надеется, снизит давление на точность, с которым сталкиваются сотрудники.

YouTube сообщает, что модераторы по всему миру имеют «регулярный» доступ к консультациям и не просматривают контент более пяти часов в день. Но он отказался предоставить конкретную информацию.

Twitter сообщает, что теперь предлагает ежедневные консультации, и дал указания аутсорсинговым компаниям начать предлагать дополнительную психологическую поддержку работникам после того, как они увольняются с работы.Хикс сказал, что модераторы во всем мире имеют право покинуть свою смену раньше, если они увидят часть контента, которая их беспокоит, и что им в любом случае будут платить за всю смену.

Twitter и Facebook также защищали использование соглашений о конфиденциальности, заявляя, что такие соглашения необходимы для защиты конфиденциальности пользователей и модераторов, которые в прошлом подвергались нападкам за свои решения.

«Мы гордимся нашими сотрудниками и работой, которую мы делаем в Маниле — партнером с нашими клиентами в совместных усилиях, направленных на повышение безопасности Интернета», — сказала пресс-секретарь Accenture Рэйчел Фрей.«У нас есть ведущая программа, предлагающая упреждающие консультации и консультации по запросу, которые мы постоянно анализируем, сравниваем и инвестируем, чтобы создать наиболее благоприятную рабочую среду». Она отказалась сообщить, как долго было доступно консультирование по требованию.

«Для наших сотрудников, которые предпочитают работать в режиме модерации контента, мы предлагаем различные варианты поддержки, включая круглосуточную поддержку по телефону, доступ к внешним консультантам и регулярным выездным консультантам», — говорится в заявлении Cognizant, отправленном по электронной почте.«Учитывая динамичные и постоянно развивающиеся тенденции в этой относительно новой области работы, мы продолжаем работать с ведущими консультантами по персоналу и здоровью, а также с нашими клиентами, чтобы разрабатывать и внедрять оздоровительные практики следующего поколения».

Несмотря на то, что колл-центры являются распространенной формой занятости на Филиппинах, только недавно работники начали предпринимать согласованные усилия по объединению в профсоюзы, сказал Ян Падиос, доцент Мэрилендского университета в Колледж-Парке, который написал книгу о вызове работники центра на Филиппинах.

Квоты точности, показатели наблюдения и другие механизированные процедуры работы call-центра, отточенные годами ИТ-аутсорсинговыми компаниями, плохо подходят для работы, которая требует перерывов, психологической поддержки и времени для обработки эмоционально душераздирающих материалов, сказала Стефания. Пайфер, психолог, который руководит проектом Workplace Wellness Project, консалтинговой службой в Сан-Франциско для компаний, работающих в социальных сетях. «Это старый тип модели, который пытается приспособиться к новому типу работы», — сказала она.«И это может привести к неэтичным условиям труда».

IV.

Руководители Кремниевой долины постоянно говорят об автоматизации труда, а в филиппинских центрах обработки вызовов использование технологий становится реальностью.