С какими материалами работают модераторы контента в TikTok?

ForbesБизнес

Зачем TikTok база изображений сексуализированного насилия над несовершеннолетними

Бывшие подрядчики TikTok заявляют, что справочным материалом для сторонних модераторов контента соцсети служит множество изображений с детьми, подвергшимися сексуализированному насилию, ― и все это находится в почти неограниченном корпоративном доступе

Александра С. Левин. Перевод Forbes USA. Перевод Антона Бундина

Фото Scott Eells / Bloomberg via Getty Images

Бывший сотрудник TikTok Нассер (фамилии этого и некоторых других собеседников не называются из соображений конфиденциальности) знал, что в процессе обучения на должность модератора контента TikTok ему придется иметь дело с неприятными материалами. Но когда ему и другим новичкам на обучении показали изображения сексуального характера без цензуры с участием детей, для него это стало настоящим шоком.

Нассер работал в сторонней компании Teleperformance, которая модерирует контент социальной сети. Нового сотрудника взяли на специальный проект, в рамках которого планировалось научить искусственный интеллект (ИИ) TikTok выявлять на платформе худшее из худшего. Спустя всего несколько дней после начала работы Нассеру и его коллегам показали натуралистические изображения и видео, где дети подвергаются действиям сексуального характера, ― все ролики и фотографии, удаленные из TikTok.

«У меня самого есть дочь, и мне кажется, что неправильно, когда это смотрит толпа незнакомых людей, ― рассказал Forbes Нассер (из Teleperformance он ушел в 2020 году). ― Думаю, что такое для обучения использовать нельзя».

Уитни Тернер, работавшая в Teleperformance по этой же программе TikTok в Эль-Пасо на протяжении чуть больше года и уволившаяся в 2021-м, тоже вспоминает, как на обучении ей показывали визуальные материалы с сексуализированным насилием над детьми. Сотруднице дали доступ к общей таблице. Сама Уитни и ее бывшие коллеги утверждают, что в файле полно материалов, нарушающих правила сообщества TikTok, в том числе сотни изображений с детьми, которых заставляют раздеваться или насилуют. Бывшие модераторы заявляют, что документ под названием DRR (англ. Daily Required Reading, «обязательная ежедневная вычитка») находился в широком доступе для сотрудников Teleperformance и TikTok еще этим летом. Несмотря на то что некоторым модераторам, задействованным по другим направлениям, просмотр этого документа был запрещен, многие источники рассказали Forbes о том, что свободный доступ к файлу имели сотни работников из обеих компаний. DRR и другие справочные материалы хранились в программе Lark, корпоративной системе китайского гиганта ByteDance, владельца социальной сети.

Уитни была настолько ошеломлена небрежным обращением с материалами, что сообщила об этом в ФБР и впоследствии, в июне, встречалась по этому поводу с агентом. В ФБР на вопросы о том, предвидится ли какое-то расследование, не ответили.

«Я модерировала контент и думала: это же чей-то сын, чья-то дочь. И их родители даже не знают, что у нас сохранены эти фотографии, эти видео, этот ужас, настоящее преступление, ― поделилась Уитни. ― Будь родители в курсе, я уверена, они бы сожгли TikTok дотла».

Президент глобального подразделения по доверию и безопасности Teleperformance Акаш Пугалия заявил Forbes, что ролики откровенного содержания с участием детей компания в целях обучения не применяет. Кроме того, он добавил, что фирма не хранит подобный контент в своих «инструментах калибровки», хотя, что это за инструменты и для чего используются, он не пояснил. Отвечать на другие вопросы из обширного списка о том, сколько людей имеют через DRR доступ к материалам с насилием в отношении детей и как Teleperformance охраняет визуальный данные, управленец тоже отказался.

TikTok ― далеко не единственная платформа, которая борется с материалами сексуального насилия над несовершеннолетними. Крупнейшие социальные сети мира давно прибегают к машинному обучению и помощи сторонних проверяющих, чтобы находить и удалять подобные записи до того, как они разлетятся по интернету. Многие фирмы сотрудничают с Национальным центром по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children), чтобы сообщать о подобных постах в своем приложении органам правопорядка.

Однако уникально то, как TikTok и его сторонние консультанты обращаются с таким контентом. Эксперты называют сложившийся подход в лучшем случае небрежным и халатным, а в худшем ― опасным и травмирующим снова и снова. Специалисты подчеркивают, что изображения сексуального характера с детьми при обучении модерации контента ― не важно, с цензурой или без, ― лишь унижает жертв каждый раз заново. Кроме того, хранение записей в документе с общим доступом безответственно и излишне.

Пресс-секретарь TikTok Джейми Фавацца заявила, что «материалы для обучения в компании имеют строгий контроль доступа и не включают в себя наглядные примеры материалов сексуального насилия над детьми», но признала, что бизнес работает со сторонними фирмами, у которых внутренние процессы могут отличаться. Отвечать на вопросы о том, сколько сотрудников имеют доступ к файлу DRR и где документ хранится, в TikTok отказались. Родительская компания ByteDance, разработчик платформы Lark, многочисленные запросы прокомментировать эту информацию оставила без внимания.

«Свободный и неограниченный оборот здесь не пройдет»

Изображения насилия над детьми и их эксплуатации противозаконны, и существуют строгие правила по обращению с такими данными в случае обнаружения. Материал подлежит незамедлительной блокировке, и о нем необходимо сообщать в систему CyberTipline Национального центра по поиску пропавших и подвергшихся насилию детей. Там персонал анализирует файлы и ищет их первоисточник, чтобы уведомить соответствующие правоохранительные органы. Как только компания сообщает о материале в профильный центр, ей официально разрешается хранить контент в течение 90 дней для помощи следствию. Но федеральный закон США четко требует от предприятий «минимизировать число сотрудников, которым дается доступ» к незаконному контенту, «хранить материалы в безопасном месте» и «обеспечивать полное уничтожение любого визуального изображения по запросу от органов правопорядка».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Сон в палатках и кино под открытым небом: топ-7 идей для отдыха всей семьей Сон в палатках и кино под открытым небом: топ-7 идей для отдыха всей семьей

Используйте наши идеи для семейного отдыха на выходных

Караван историй
Сила маркетинга: рекламные кейсы, которые меняют индустрию Сила маркетинга: рекламные кейсы, которые меняют индустрию

Отрывок из книги «50 кейсов, которые изменили маркетинг»

Inc.
Токсичные родители: стоит ли прекратить общение? Токсичные родители: стоит ли прекратить общение?

Поможет ли взрослым людям полный разрыв с родителями-агрессорами?

Psychologies
Почему вам может быть трудно переключаться между задачами Почему вам может быть трудно переключаться между задачами

Почему у нас так плохо получается работать в режиме многозадачности?

ТехИнсайдер
Резинки-пружинки и другие небезопасные аксессуары, которые портят твои волосы Резинки-пружинки и другие небезопасные аксессуары, которые портят твои волосы

Сегодня мы расскажем тебе, какие аксессуары и как могут навредить твоим локонам

VOICE
Светочувствительные метки сделали бумажную книгу интерактивной Светочувствительные метки сделали бумажную книгу интерактивной

Интерактивная книга, которая максимально приближена к обычной бумажной книге

N+1
Кто умнее: кошки или собаки? Кто умнее: кошки или собаки?

Учение измерили когнитивные способности кошек и собак

Maxim
Охота на ведьм и поиски козла отпущения: как работают механизмы коллективного насилия Охота на ведьм и поиски козла отпущения: как работают механизмы коллективного насилия

Почему на протяжении всей истории человечества одни сообщества преследуют другие

Forbes
Как создать финансовую подушку безопасности Как создать финансовую подушку безопасности

Как сформировать финансовую подушку, можно ли иногда изымать из нее средства?

Psychologies
Илон Маск в переработке. Как выпускник Принстона создал крупнейшую в мире частную компанию по утилизации мусора с оборотом $70 млн в год Илон Маск в переработке. Как выпускник Принстона создал крупнейшую в мире частную компанию по утилизации мусора с оборотом $70 млн в год

История компании по утилизации отходов TerraCycle

Inc.
Опасные люди: как их распознать, если они кажутся «нормальными» Опасные люди: как их распознать, если они кажутся «нормальными»

Опаснее всего не явные тираны, а те, кто поначалу кажутся нормальными

Psychologies
Макс-фактор Макс-фактор

О том, почему Pro Max в итоге не промах

Автопилот
Почему мы боимся одиночества и что делать, если вы одиноки? Почему мы боимся одиночества и что делать, если вы одиноки?

Почему одиночество гильотиной нависает над людьми?

Правила жизни
Инновации на кухне. Кто и как может стать изобретателем Инновации на кухне. Кто и как может стать изобретателем

Что важно для современного изобретателя и почему не всегда нужен узкий профиль

СНОБ
Как обустроить гостиную и не разориться. Советы от эксперта Как обустроить гостиную и не разориться. Советы от эксперта

Гостиная – место встречи всех членов семьи и друзей. Как ее обустроить?

Лиза
Каким был величайший океан в истории Земли? Каким был величайший океан в истории Земли?

Так каким же был самый большой океан когда-либо существовал на нашей планете?

ТехИнсайдер
«Совместное родительство — это предприятие»: как отцы включаются в заботу о детях «Совместное родительство — это предприятие»: как отцы включаются в заботу о детях

Почему в России до сих пор есть проблемы с включением отцов в воспитание детей

Forbes
Как оживить орхидею за пять простых шагов Как оживить орхидею за пять простых шагов

Орхидеи в целом неприхотливы, однако они тоже могут заболеть

ТехИнсайдер
Режиссер Келли Райхардт — о фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века Режиссер Келли Райхардт — о фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века

Вспоминаем наше интервью с Келли Райхардт о картине «Первая корова»

Правила жизни
«Слежка за бывшими приводит к зависимости»: как заняться своей жизнью «Слежка за бывшими приводит к зависимости»: как заняться своей жизнью

Как появляется зависимость от слежки за бывшим партнером?

Psychologies
Почему цивилизация Древнего Египта пришла в упадок: главная причина падения цивилизации Почему цивилизация Древнего Египта пришла в упадок: главная причина падения цивилизации

Почему некогда великая Египетская империя медленно опускалась на колени?

ТехИнсайдер
Как приготовить омлет «Пуляр», фирменное блюдо Александра Богданова, бренд-шефа Cafe Claret и Marius Как приготовить омлет «Пуляр», фирменное блюдо Александра Богданова, бренд-шефа Cafe Claret и Marius

Омлет «Пуляр» настолько пышный и воздушный, что напоминает скорее десерт

Правила жизни
Почему израильский танк Почему израильский танк

Танк "Меркава" была впервые задумана израильским генералом Исраэлем Талем

ТехИнсайдер
«Золото партии». Советские машины на элитных западных аукционах «Золото партии». Советские машины на элитных западных аукционах

Какие машины участвовали в торгах с сокровищами ценой в миллионы долларов

РБК
Мужские гаремы и женская дружба: как устроены отношения полов в дикой природе Мужские гаремы и женская дружба: как устроены отношения полов в дикой природе

Натуралист Евгения Тимонова: о борьбе полов, феминизме, бодипозитиве — у зверей

Forbes
«В офисе «степлеры летают»: чем буллинг на рабочем месте опасен для компаний «В офисе «степлеры летают»: чем буллинг на рабочем месте опасен для компаний

Почему представители старшего поколения чаще подвержены буллингу на работе?

Forbes
Палеонтологи отыскали останки чудовищного морского хищника, в разы превосходившего современных крокодилов Палеонтологи отыскали останки чудовищного морского хищника, в разы превосходившего современных крокодилов

Как этот древний вымерший зверь правил морем 66 миллионов лет назад

ТехИнсайдер
8 самых опасных для жизни мест на Земле 8 самых опасных для жизни мест на Земле

Самые экстремальных места на планете, которые требуют стойкости для выживания

ТехИнсайдер
Как не испортить первый ужин на свидании Как не испортить первый ужин на свидании

Как готовить? Учимся делать это красиво (а некрасиво — не делать)

Maxim
Открыть в приложении