YouTube, огромная платформа для обмена видео, находящаяся на полпути между культурным анклавом и маркетинговым инструментом . Существо настолько велико, что объединяет практически половину всех пользователей сети или, другими словами, почти 30% населения мира.
Хотя вначале его политика была более мягкой, когда дело дошло до навязывания своих критериев тому, что могло быть опубликовано или размещено, правда в том, что в течение некоторого времени YouTube ужесточает свои собственные правила, чтобы избегать определенных деликатных тем . Не вдаваясь в подробности, несколько недель назад он снова обновил свою политику монетизации в отношении «деликатных событий», включив в свой черный список любые упоминания о текущем кризисе в области здравоохранения.
Но как Youtube определить неуместные комментарии? Кто или что определяет, какие слова и фразы потенциально «опасны»? Шаг номер один - понять механизмы, которые использует платформа, чтобы попытаться понять, как работает цензура в комментариях YouTube .
Как работает цензура на YouTube?
В связи с тем, что на YouTube более 2 миллиардов активных пользователей, необходим способ автоматизации контроля активности всех этих профилей. Этот механизм представляет собой сложную компьютеризированную систему, управляемую ИИ, которая отвечает за отслеживание, профилирование и классификацию контента и активности всех тех, кто находится на сайте.
Эта впечатляющая система использует машинное обучение для обнаружения не только слов, но и выражений, которые могут быть неуместными .
Мы не просто говорим об алгоритме в строгом смысле слова, который просто блокирует определенный комментарий на основе списка «запрещенных» слов. Это идет гораздо дальше. Скорее, мы говорим о вычислительной модели, основанной на машинном обучении, которая берет миллионы образцов комментариев, ранее модерированных владельцем канала или другим пользователем.
Не поймите нас неправильно, конечно, есть список запрещенных слов, которые контролируются алгоритмом, но не менее важны все инструменты и ресурсы, которые YouTube предоставляет сообществу для сообщения о некоторых случаях неприемлемого поведения. Все эти данные, поступающие от пользователей, используются в системе анализа данных платформы для более эффективного и точного контроля активности внутри сообщества.
Другими словами, старший брат - это комбинация алгоритма, который автоматизирует поиск по ключевым словам, машинное обучение и ответственные действия сообщества YouTube. Все термины и выражения, которые потенциально могут подвергнуться цензуре, включены в раздел платформы «Правила безопасности».
Весь этот набор правил старается избегать особо вредных , опасных, порнографическим, ненавистным, авторские права и т.д. содержание .
Цензура в цифрах
Чтобы дать вам представление о том, насколько эффективны описанные выше инструменты, вам просто нужно взглянуть на количество комментариев, удаленных только за последний квартал 2019 года (последний из зарегистрированных). Речь идет о 541 миллионе удаленных комментариев .
Вы также можете посмотреть процент комментариев, удаленных собственной системой YouTube, и тех, которые были удалены или заблокированы непосредственно самими пользователями YouTube (которые не являются пользователями). Еще одна интересная информация - это процент удаленных комментариев по определенной теме.