Сенаторы США требуют от TikTok объяснений по поводу скрытого эксперимента с функцией безопасности
Сенаторы Марша Блэкберн и Ричард Блюменталь требуют от TikTok объяснить, почему компания в 2021 году намеренно не внедрила для миллионов пользователей функцию безопасности алгоритма, чтобы изучить её влияние на вовлечённость. Поводом стало сообщение о подростке, покончившем с собой, который входил в контрольную группу этого теста.
Сенаторы США Марша Блэкберн и Ричард Блюменталь направили руководству TikTok жёсткое письмо с требованием объяснить, как компания тестировала — а в некоторых случаях сознательно не внедряла — функции безопасности для пользователей.
Письмо последовало за расследованием Bloomberg об эксперименте, который TikTok начал в 2021 году в связи с функцией, призванной помочь пользователям избегать так называемых «фильтрующих пузырей» — повторяющихся тематических блоков контента в ленте «для вас». Тогда компания заявляла, что обновление должно было предотвращать чрезмерный показ одной категории контента, которая по отдельности может быть безобидной, но проблематичной при скоплении.
Контрольная группа и трагические последствия
Компания не раскрыла, что намеренно не внедряла эту функцию для миллионов пользователей, используя их в качестве «контрольной группы» для оценки влияния обновления на вовлечённость. По данным Bloomberg, один американский подросток, Чейз Наска, покончил с собой вскоре после того, как его аккаунт попал в эту контрольную группу. Согласно внутреннему документу TikTok, его аккаунту систематически рекомендовался контент, связанный с суицидом, самоповреждением и депрессией, особенно в период, предшествующий его смерти.
Требования сенаторов
В письме сенаторы требуют от TikTok предоставить подробную информацию об этом и подобных экспериментах, а также сообщить, отказывалась ли компания когда-либо от внедрения функции безопасности из-за её возможного влияния на вовлечённость или доходы от рекламы. Ответ TikTok должен предоставить до 1 сентября.
Оба сенатора давно выступают за усиление защиты подростков в соцсетях и являются активными сторонниками закона Kids Online Safety Act (KOSA). Они отмечают, что эксперимент 2021 года начался вскоре после слушаний в Конгрессе, на которых представитель TikTok заявлял о готовности сделать больше для защиты детей на платформе. Сенаторы называют эти разоблачения особенно тревожными, поскольку TikTok уже тогда был осведомлён о потенциальном вреде своего рекомендательного алгоритма для детей. TikTok не сразу ответил на запрос о комментарии.
