Несмотря на модерацию контента, YouTube не может остановить распространение пугающих видео среди детей. Об этом пишет Associated Press со ссылкой на исследование некоммерческой организации Tech Transparency Project.
Почему это важно для медиа? Есть вероятность, что YouTube ужесточит требования к «опасному» контенту. Поскольку решения будет принимать алгоритм, это чревато автоматической пессимизацией видео, где изображено насилие в любых формах – например, подавление демонстраций силовиками или хроника военных преступлений разных лет. Такие меры могут помешать медиа распространять социально важный контент. О том, как другая крупная платформа – Facebook – банит «чувствительный» журналистский контент мы уже писали здесь.
Ключевые факты
- Исследователи Tech Transparency Project, изучающие социальные сети, создали две учётные записи на платформе, имитирующие поведение типичных 9-летних мальчиков, которые живут в США и любят видеоигры. Оба «виртуальных» ребёнка вели себя одинаково с одной лишь разницей: один кликал на видео, рекомендованные YouTube, а другой их игнорировал.
- Вскоре алгоритм платформы стал предлагать владельцу первого аккаунта всё больше роликов о стрельбе в школе, о том, как обращаться с тактическим и создавать автоматическое огнестрельное оружие. Одно видео показывало девочку младшего школьного возраста с пистолетом, а другое – человека, стрелявшего из пистолета 50-го калибра по модели головы, внутри которой были фальшивые кровь и мозг.
- В итоге аккаунт, следивший за рекомендациями YouTube, получил 382 различных видео, связанных с огнестрельным оружием, за один месяц. Другой профиль, которые такие подсказки игнорировал, тоже получил несколько видеороликов об оружии. Однако их было в 10 раз меньше – всего 34. Позже исследователи повторили эксперимент, но уже с аккаунтами 14-летних подростков, и получили аналогичные результаты.
Основные цитаты
- Представитель YouTube ответила на запрос Associated Press, что платформа приняла необходимые меры для защиты детей. Так, пользователям младше 17 лет нужно получать разрешение своих родителей, прежде чем использовать их сайт, а учётные записи пользователей младше 13 лет связаны с родительскими.
- По словам директора по расследованиям ведущей организации, выступающей за контроль над оружием, Everytown for Gun Safety Джастина Вагнера, на фоне отсутствия федерального регулирования платформы должны делать больше для обеспечения соблюдения своих же собственных правил. Он подчеркнул, что у детей не должно быть возможности найти на YouTube инструкцию, как создать или модифицировать огнестрельное оружие.
- «Вы можете играть в такие игры, как «Call of Duty», не попадая в оружейный магазин — но YouTube ведёт вас туда», — сказала Кэти Пол, директор проекта Tech Transparency Project. – Дело не в видеоиграх и не в детях. Это алгоритмы».
Бэкграунд
YouTube вместе с TikTok остаётся популярной видеоплатформой, в том числе для детей и подростков. Оба проекта уже критиковались за ролики с призывами к насилию с применением огнестрельного оружия.
Известны случаи, когда виновные в массовым убийствах, использовали видеоплатформы и прямые включения для распространения жестокого, человеконенавистнического контента. Так, у неонациста, убившего в мае восемь человек в торговом центре Далласа, был аккаунт на YouTube, где он публиковал ролики о сборке винтовок, а также видео о стрельбе и убийствах.
При этом TikTok принял некоторые меры для того, чтобы обезопасить юзеров. Правила платформы запрещают видео, где поощряется опасное поведение, а пользователям, которые ищут такой контент, автоматически предлагают ресурсы, оказывающие психологическую помощь.
Источник: Associated Press.