С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С особым подходом: почему хакеры атакуют компании разных отраслей по-разному С особым подходом: почему хакеры атакуют компании разных отраслей по-разному

Как бизнес-интересы определяют способы атак на сайты российских компаний

Forbes
7 романов и циклов космической фантастики, которые буквально просятся на экраны 7 романов и циклов космической фантастики, которые буквально просятся на экраны

Фантастические циклы, которые перенесут тебя на просторы космоса

ТехИнсайдер
Как брат с сестрой создали в Томске бизнес с незрячими массажистами Как брат с сестрой создали в Томске бизнес с незрячими массажистами

Что подтолкнуло брата с сестрой на открытие школы массажа с незрячими

Forbes
Водители с признаками Водители с признаками

Научный подход к искоренению пьянства на дорогах

Автопилот
4 ингредиента, которых не должно быть в твоем шампуне: мнение трихологов 4 ингредиента, которых не должно быть в твоем шампуне: мнение трихологов

Ингредиенты в шампунях, которые могут нанести урон здоровью кожи головы

VOICE
5 сайтов продажи авто, где вы точно найдете покупателя 5 сайтов продажи авто, где вы точно найдете покупателя

Онлайн-сервисы, которые помогут вам продать автомобиль

РБК
Как бессонница вдохновила бывшего консультанта придумать систему домашнего освещения, которая бережет ваши глаза (и психику) Как бессонница вдохновила бывшего консультанта придумать систему домашнего освещения, которая бережет ваши глаза (и психику)

Колин Биллингс терял сон

Inc.
Какие тайны выдают дома Анастасии Волочковой, Николая Баскова и Яны Рудковской о своих владельцах — рассказывает эксперт Какие тайны выдают дома Анастасии Волочковой, Николая Баскова и Яны Рудковской о своих владельцах — рассказывает эксперт

О чем говорит дизайн домов знаменитостей

Maxim
«Хотел попробовать девственность»: история маньяка Романа Бурцева, который охотился на девочек «Хотел попробовать девственность»: история маньяка Романа Бурцева, который охотился на девочек

Роман Бурцев — самый яркий маньяк 90-х

VOICE
У древних колоссальных динозавров была мягкая У древних колоссальных динозавров была мягкая

Что позволяло огромным зауроподам иметь такой большой вес?

ТехИнсайдер
Что делает мужчину сексуальным: 11 возбуждающих качеств Что делает мужчину сексуальным: 11 возбуждающих качеств

«Что ты замечаешь в мужчине в первую очередь?»

Psychologies
Скорость взаимодействия ридберговских кубитов приблизили к фундаментальному пределу Скорость взаимодействия ридберговских кубитов приблизили к фундаментальному пределу

Японским физикам удалось добиться обмена энергией между кубитами

N+1
Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта Что вы знаете о Лермонтове? 7 неожиданных фактов из жизни русского поэта

7 неочевидных фактов о самом романтичном поэте своего времени

ТехИнсайдер
Как отпустить умершего человека: 3 совета, чтобы начать двигаться вперед Как отпустить умершего человека: 3 совета, чтобы начать двигаться вперед

Чтобы отпустить умершего, потребуется пройти через несколько стадий горевания

Psychologies
Что происходит, когда семью содержит женщина? Что происходит, когда семью содержит женщина?

Женщины, которые полностью обеспечивают семью, рассказали о своем выборе

Psychologies
Светочувствительные метки сделали бумажную книгу интерактивной Светочувствительные метки сделали бумажную книгу интерактивной

Интерактивная книга, которая максимально приближена к обычной бумажной книге

N+1
«Пока не сыграл в ящик»: как составить список самых важных дел «Пока не сыграл в ящик»: как составить список самых важных дел

Как составить bucket list и при этом избежать ошибок?

Psychologies
В пищевых добавках обнаружили избыток вещества, составляющего основу для лекарства от болезни Паркинсона В пищевых добавках обнаружили избыток вещества, составляющего основу для лекарства от болезни Паркинсона

Пищевые добавки могут содержать необычайно высокие уровни молекулы леводопа

ТехИнсайдер
«Другой папа». Как построить новые отношения женщине с детьми «Другой папа». Как построить новые отношения женщине с детьми

Женщина второй раз выходит замуж. Как в этом случае вести себя с ребенком?

СНОБ
Секреты стиля Патрика Шварценеггера — от белых костюмов до выверенной базы Секреты стиля Патрика Шварценеггера — от белых костюмов до выверенной базы

Разбираем стиль Патрика Шварценеггера на составляющие

Правила жизни
Советские мультфильмы, которые учили детей вредному Советские мультфильмы, которые учили детей вредному

Если пересмотреть мультики нашего детства, то к многим из них возникают вопросы

Maxim
Протесты, допинг и бункер в гараже: 10 документальных фильмов о современной России Протесты, допинг и бункер в гараже: 10 документальных фильмов о современной России

Самые острые и важные документальные фильмы о России последнего времени

Forbes
Инвесторы назвали 5 фраз, от которых фаундерам нужно отказаться во время питчинга стартапа Инвесторы назвали 5 фраз, от которых фаундерам нужно отказаться во время питчинга стартапа

Фразы, которые не стоит использовать в презентации стартапа

Inc.
Сына никогда не видел, а дочь встретил однажды и потом тосковал до самой смерти: как сложилась судьба детей Маяковского Сына никогда не видел, а дочь встретил однажды и потом тосковал до самой смерти: как сложилась судьба детей Маяковского

Дети Маяковского родились и жили в разных странах

ТехИнсайдер
Обезболивающие препараты могут усугубить болезнь: новые доказательства Обезболивающие препараты могут усугубить болезнь: новые доказательства

Снимая воспаление, эти лекарства провоцируют превращение боли в хроническую

Psychologies
Что мешает нам любить себя? Что мешает нам любить себя?

Как научиться принимать себя и заботиться о себе?

Psychologies
Треть цинка попала на Землю вместе с метеоритами Треть цинка попала на Землю вместе с метеоритами

Метеориты могут быть источником цинка, ртути, селена на Земле

N+1
«Каждый день?»: как часто необходимо мыться «Каждый день?»: как часто необходимо мыться

Как найти золотую середину в вопроса регулярной гигиены?

Psychologies
Тянет на солёное и поплакать: ранние признаки беременности Тянет на солёное и поплакать: ранние признаки беременности

Как уловить изменения в своем теле на ранних сроках беременности

VOICE
Если голуби перестанут трясти головой, они ослепнут! 5 удивительных фактов про голубей, о которых вы не догадывались Если голуби перестанут трясти головой, они ослепнут! 5 удивительных фактов про голубей, о которых вы не догадывались

Оказывается, голуби не так просты, как кажется!

ТехИнсайдер
Открыть в приложении