TikTok провел новое исследование распространения опасных проблем и тенденций в приложении с целью улучшения понимание того, как молодые люди взаимодействуют с такими людьми, и выработка более эффективных мер защиты от связанных с ними опасностей.
Со временем это стало основной проблемой для приложения. В прошлом году в Италии 10-летняя девочка умерла после того, как приняла участие в «закрытии» в приложении, в результате чего итальянские власти вынудили TikTok заблокировать учетные записи любых пользователей, возраст которых не удалось проверить. Популярная тенденция «Milk Crate Challenge», которая проводилась ранее в этом году, также привела к тому, что многие люди получили серьезные травмы после попыток взобраться на стопки пластиковых ящиков, в то время как другие вызывающие беспокойство тенденции включают «вызов Бенадрила», воск для всего лица, «вызов трещин на спине». ‘ и более.
Ясно, что здесь есть некоторые серьезные проблемы – и когда вы также учитываете более молодой перекос приложения и его постоянно растущий охват, важно, чтобы TikTok старался устранять эти элементы везде, где это возможно, чтобы ограничить потенциальный вред.
Исследование вредных вызовов TikTok включало ответы от более 10 000 подростков, родителей и учителей из разных стран, что дает платформе широкий спектр знаний о различных элементах игры. Исходя из этого, TikTok поручил Praesidio Safeguarding, независимому агентству по охране, собрать воедино основные выводы и рекомендации, которые помогут улучшить его процессы.
Как вы можете видеть в этом обзоре, подавляющее большинство молодых пользователей не считают, что они участвуют в небезопасных задачах. Но опять же, это самооценка, и в соответствии с вышеупомянутыми тенденциями явно существуют некоторые серьезные проблемы с безопасностью в рамках этих тенденций.
Но добиться этого может быть сложно, особенно когда эти тенденции растут, и они еще не находятся в поле зрения TikTok как ключевой объект взаимодействия. Также может быть сложно определить тенденции, основываясь только на хэштегах. «Benadryl Challenge», скорее всего, привлечет внимание модераторов TikTok, а «Milk Crate Challenge» – нет.
Изучая данные, TikTok обратил внимание на мистификации членовредительства и связанные с ними тенденции, в частности, на ключевой элемент, вызывающий беспокойство.
Мошенничество с самоповреждениями обычно подразумевает побуждение людей к совершению ряда вредных действий, которые постепенно усиливаются и могут в конечном итоге привести к членовредительству и даже к самоубийству. Такие тенденции, как «Вызов синего кита» и «Момо», относятся к числу этих более тревожных элементов, в которых вымышленные персонажи разыгрывают сценарий, похожий на ужас, который может втянуть пользователей на опасные пути поведения.
Такие тенденции настолько опасны, что даже предупреждения о них могут вызвать беспокойство, – поясняет TikTok:
«Исследование показало, как предупреждения о мистификациях членовредительства – даже если они делятся с самыми лучшими намерениями – могут повлиять на благополучие подростков. Хотя мы уже удаляем и принимаем меры по ограничению распространения обманов такого рода, для дальнейшей защиты нашего сообщества мы начнем удалять панические предупреждения о них, поскольку они могут причинить вред, рассматривая обман как самоповреждение. Мы продолжим позволять вести беседы, направленные на рассеивание паники и распространение точной информации.”
Другими словами, TikTok в качестве первого шага будет принимать более жесткие меры в отношении таких мистификаций, помимо предупреждений, вместо того, чтобы подтверждать их с любым уровнем достоверности путем выдачи предупреждений в приложении.
В дополнение к этому, TikTok сообщает, что он также работает с экспертами по здоровью подростков для разработки новые ресурсы для центра безопасности посвященный вызовам и розыгрышам.
«Это включает в себя советы для лиц, осуществляющих уход, которые, как мы надеемся, помогут устранить неуверенность, которую они выражали при обсуждении этой темы со своими подростками».
TikTok также обновление язык, на котором написаны предупреждающие надписи, которые показываются пользователям, которые пытаются найти контент, связанный с вредоносными задачами или мистификациями.
Как уже отмечалось, это ключевая проблема, но она также представляет собой серьезную проблему, поскольку нет окончательного способа обнаружить потенциальный вред в восходящей тенденции, часто до тех пор, пока не станет слишком поздно, в то время как ограничение такового также может иметь свои собственные негативные последствия. в отношении предупреждений и предупреждений, которые могут непреднамеренно способствовать их продвижению.
По сути, подход, который использует TikTok, заключается в том, чтобы сосредоточиться на наиболее вредных типах проблем, которые он работает, чтобы лучше выявлять и принимать меры, в то время как дополнительные предупреждения и информационные ресурсы помогут предоставить больше рекомендаций для родителей и подростков о том, как их избежать. риск.
Но всегда будет определенный уровень опасности, и контролировать его будет сложно. Таким образом, приятно видеть, что TikTok проводит больше исследований, чтобы лучше понять ключевые элементы в игре, с целью улучшения обнаружения и обеспечения соблюдения в будущем.
Вы можете прочитать полный отчет Praesidio о вредоносных тенденциях здесь..
