TikTok продвигается к дальнейшему ограничению потенциального воздействия вредоносного контента с помощью автоматического удаления


    TikTok продвигается к дальнейшему расширению возможностей своих автоматических инструментов обнаружения нарушений политик с новым процессом, который будет видеть, что контент, который он обнаруживает как нарушающий его политики при загрузке, полностью удаляется, гарантируя, что его никто никогда не увидит.

    Как объясняет TikTok, в настоящее время в рамках процесса загрузки все видео TikTok пройти через его автоматизированную систему сканирования, которая работает для выявления потенциальных нарушений политики для дальнейшего рассмотрения членом группы безопасности. Затем член группы безопасности сообщит пользователю, было ли обнаружено нарушение, но в масштабе TikTok это оставляет место для ошибки и разоблачения, прежде чем проверка будет завершена.

    Теперь TikTok работает над улучшением этого или, по крайней мере, над тем, чтобы потенциально оскорбительные материалы никогда не доходили до зрителей.

    Как пояснил TikTok:

    “В течение следующих нескольких недель мы начнем использовать технологию для автоматического удаления некоторых типов недопустимого контента, выявленного при загрузке, в дополнение к удалению, подтвержденному нашей командой безопасности. Автоматизация будет зарезервирована для категорий контента, в которых наша технология имеет наивысшую степень защиты. точность, начиная с нарушений нашей политики в отношении безопасности несовершеннолетних, обнаженного тела для взрослых и сексуальных действий, насильственных и графических материалов, а также незаконных действий и регулируемых товаров “.

    Таким образом, вместо того, чтобы пропускать потенциальные нарушения, система TikTok теперь будет блокировать их загрузку, что может помочь ограничить вредоносное воздействие в приложении.

    Что, конечно, приведет к некоторым ложным срабатываниям, что вызовет некоторую обеспокоенность создателей, но TikTok отмечает, что его системы обнаружения оказались очень точными.

    «Мы обнаружили, что количество ложных срабатываний при автоматическом удалении составляет 5%, а запросы на апелляцию на удаление видео остаются неизменными. Мы надеемся со временем улучшить нашу точность».

    Я имею в виду, что 5% при миллиардах загрузок в день все еще могут быть значительным числом в необработанных цифрах. Но, тем не менее, риски раскрытия значительны, и для TikTok имеет смысл продолжить автоматическое обнаружение с такой частотой ошибок.

    И еще одно важное преимущество:

    «Помимо улучшения общего опыта на TikTok, мы надеемся, что это обновление также поддержит отказоустойчивость в нашей команде по безопасности, уменьшив объем вызывающих беспокойство видео, просматриваемых модераторами, и позволит им проводить больше времени в узкоконтекстных и тонких областях, таких как запугивание и домогательства. , дезинформация и ненавистническое поведение “.

    Модерация платного контента может потребовать значительных усилий, как это было задокументировано в нескольких исследованиях, и любые шаги, которые могут быть предприняты для ее уменьшения, вероятно, того стоят.

    В дополнение к этому, TikTok также развертывает новый дисплей для нарушений учетной записи и отчетов, чтобы повысить прозрачность и, в идеале, не дать пользователям выйти за пределы.

    Нарушения политики TikTok

    Как видите, новый Система будет отображать нарушения, накопленные каждым пользователем, а также новые предупреждения, отображаемые в разных областях приложения в качестве напоминаний об одном и том же.

    Наказания за такие нарушения возрастают от этих первоначальных предупреждений до полных запретов на основе повторяющихся проблем, в то время как за более серьезные проблемы, такие как материалы о сексуальном насилии над детьми, TikTok автоматически удалит аккаунты, хотя может также полностью заблокировать устройство, чтобы предотвратить создание учетных записей в будущем.

    Это важные меры, особенно с учетом молодой пользовательской базы TikTok. Внутренние данные, опубликованные The New York Times в прошлом году, показали, что около трети пользовательской базы TikTok составляют люди 14 лет или младше, что означает, что существует значительный риск воздействия на молодежь – как создателей, так и зрителей – в приложении.

    TikTok уже сталкивался с различными расследованиями на этом фронте, включая временные запреты в некоторых регионах из-за его содержания. В прошлом году TikTok стал объектом пристального внимания в Италии после того, как десятилетняя девочка умерла при попытке воспроизвести вирусную тенденцию из приложения.

    Подобные случаи подчеркивают необходимость того, чтобы TikTok, в частности, реализовал дополнительные меры для защиты пользователей от опасного воздействия, и эти новые инструменты должны помочь бороться с нарушениями и предотвращать их появление.

    TikTok также отмечает, что 60% людей, получивших первое предупреждение за нарушение его руководящих принципов, не совершили второго нарушения, что является еще одним вотумом доверия процессу.

    И хотя будут некоторые ложные срабатывания, риски намного перевешивают возможные неудобства в этом отношении.

    Вы можете узнать больше о новых обновлениях безопасности TikTok здесь.

    Предыдущая статьяProject Winter: Лучшее оружие, рейтинговое
    Следующая статьяПочему важно обращаться только в профессиональное бюро переводчиков?
    Александр Владимирович
    Главный редактор издания ITBusiness. Эксперт по SDN, Cloud Computing, авиабезопасности и BigData