С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как бренд косметики с маркетплейсов зарабатывает миллиарды за счет штата блогеров Как бренд косметики с маркетплейсов зарабатывает миллиарды за счет штата блогеров

В 2024 году VOIS первой в России стала нанимать блогеров в штат

Forbes
Пора валить спать Пора валить спать

«Песочный человек»: Нил Гейман о лучшем способе эскапизма

Weekend
Компания в кризисе: как не утонуть, когда все вокруг рушится? Компания в кризисе: как не утонуть, когда все вокруг рушится?

Как сохранить самообладание и профессионализм, когда компания в кризисе?

Inc.
Озарение по Эдисону: как использовать фазы сна для решения сложных задач Озарение по Эдисону: как использовать фазы сна для решения сложных задач

Главное в этом процессе — не заснуть слишком глубоко

VC.RU
Исследование показало что удовлетворенность жизнью имеет генетические корни Исследование показало что удовлетворенность жизнью имеет генетические корни

Черты личности и удовлетворенность жизнью в большей степени наследуются

Inc.
«Хочу быть вместе с ней»: каким был Михаил Горбачев в мемуарах своей жены Раисы «Хочу быть вместе с ней»: каким был Михаил Горбачев в мемуарах своей жены Раисы

В день смерти Михаила Горбачева Forbes Woman обратился к мемуарам его жены Раисы

Forbes
Как на самом деле действуют отбеливающие пасты и чем могут быть опасны Как на самом деле действуют отбеливающие пасты и чем могут быть опасны

Советуют ли стоматологи использовать отбеливающие пасты?

Лиза
Растения, которые должны быть в доме у настоящего мужика Растения, которые должны быть в доме у настоящего мужика

Никаких фиалок и хлорофитумов. Только хардкор!

Maxim
Как не нужно делать: оказалось, что опытные Как не нужно делать: оказалось, что опытные

Опыт — не главный критерий, когда речь заходит об общении кошки и человека

ТехИнсайдер
«Самое опасное звено — сам человек»: как воруют криптовалюту и можно ли ее вернуть «Самое опасное звено — сам человек»: как воруют криптовалюту и можно ли ее вернуть

Как у криптовалютных инвесторов пропадают цифровые активы

Forbes
Люди сжульничали независимо от предыдущей победы или поражения Люди сжульничали независимо от предыдущей победы или поражения

От чего зависит жульничество в азартных играх?

N+1
«Сила женщины в ее слабости»: почему важно быть разной «Сила женщины в ее слабости»: почему важно быть разной

Чередование противоположностей поможет женщинам стать полноценными личностями

Psychologies
Как вычислить плохого мастера по наращиванию ресниц: главные признаки- Как вычислить плохого мастера по наращиванию ресниц: главные признаки-

Определить плохого лашмейкера не так-то просто, однако эти "маяки" помогут

VOICE
«Создательница ангелов»: история Хильды Нильссон, которая убивала детей «Создательница ангелов»: история Хильды Нильссон, которая убивала детей

«Создательница ангелов с улицы Брюкс» — самая известная в Швеции серийная убийца

VOICE
Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок Призрачный успех: почему российскому бизнесу сложно покорить китайский рынок

Как оценивать потенциально новый рынок Китая?

Forbes
Дачное настроение Дачное настроение

Боремся с сорняками, ищем применение для старой бочки и высаживаем клумбы

Лиза
Скоро осень: как спасти дачные растения от предстоящих заморозков Скоро осень: как спасти дачные растения от предстоящих заморозков

Готовим растения к осеннему сезону

ТехИнсайдер
Какими бывают токсичные отцы Какими бывают токсичные отцы

Основные особенности характера токсичных отцов

Psychologies
10 научных фактов о фильме «День независимости» 10 научных фактов о фильме «День независимости»

Кинофильм, запрещенный на планетах, где нет чувства юмора

Maxim
«Дживс и Вустер» и много олигархов: пять фильмов и сериалов о жизни богатых людей «Дживс и Вустер» и много олигархов: пять фильмов и сериалов о жизни богатых людей

Художественный и документальные фильмы о жизни олигархов

Forbes
Археологи раскопали дом небогатых жителей Помпей Археологи раскопали дом небогатых жителей Помпей

Внутри дома в Помпеях находились предметы быта и остатки мебели

N+1
Роберто Боланьо Роберто Боланьо

Чилийский поэт и прозаик Роберто Боланьо глазами Дмитрия Быкова

Дилетант
Металлические стекла оказались частично жидкими Металлические стекла оказались частично жидкими

Доказано, что часть атомов в металлических стеклах движется подобно жидкости

N+1
Право на месть и милосердие: о чем говорили сторонники и противники смертной казни Право на месть и милосердие: о чем говорили сторонники и противники смертной казни

Отрывок из книги Тамары Эйдельман «Право на жизнь. История смертной казни»

Forbes
5 загадочных массовых заболеваний, которым не нашли объяснения до сих пор 5 загадочных массовых заболеваний, которым не нашли объяснения до сих пор

Семь случаев эпидемий, вызванных массовой истерией

ТехИнсайдер
Что не так с истребителем F-35: проблемы авиации V поколения Что не так с истребителем F-35: проблемы авиации V поколения

Почему в истребителях F-35 пилоты чувствуют себя плохо?

ТехИнсайдер
Барбикор: откуда взялся тренд на образы куклы Барби и почему знаменитости все чаще одеваются в розовый Барбикор: откуда взялся тренд на образы куклы Барби и почему знаменитости все чаще одеваются в розовый

Рассказываем, что стоит за трендом, который уже окрестили «барбикор»

Правила жизни
Инструмент мечты или экзистенциальная угроза: сможет ли нейросеть заменить художника Инструмент мечты или экзистенциальная угроза: сможет ли нейросеть заменить художника

Человек vs машина: кто способен лучше рисовать картины?

Forbes
6 главных ошибок при заваривании чая, превращающих благородный напиток в яд 6 главных ошибок при заваривании чая, превращающих благородный напиток в яд

Может ли чай быть вреден для здоровья?

ТехИнсайдер
5 картин, иллюстрирующих эпоху неопределенности — время, в котором мы все живем сегодня 5 картин, иллюстрирующих эпоху неопределенности — время, в котором мы все живем сегодня

Пять художников и иллюстраторов изобразили, как представляют неопределенность

Правила жизни
Открыть в приложении