
Как соцсети модерируют контент?

Состав Facebook Oversight Board в конце марта
По штату FOB состоит из 40 сотрудников, сейчас работают только 19 — на момент публикации статьи в FOB нет представителей Китая, России, Германии, средней Азии (из Восточной Европы представлена только Венгрия). Каждую жалобу рассматривает 5 членов комиссии, их решение становится окончательным после одобрения большинством голосов всех члены комиссии. Сейчас FOB выступает в роли убер-модератора — рассматривает апелляции на восстановление заблокированного аккаунта или спорного контента, который не пропустили в ленту обычные модераторы. Со временем комиссия получит больше полномочий относительно постов, комментариев, лайков. Вопросы алгоритмов и рекламного контента, харассмента и фейковых новостей в закрытых группах не входят и не будут входить в компетенцию FOB. Кроме FOB, частично вопросы модерации и дистрибуции в соцсетях закрывают некоторые журналисты. Какой контент должны видеть пользователи соцсетей решают внешние модераторы из либеральных изданий:- журналисты раздела технологий New York Times: Mike Isaac, Sheera Frenkel, Kevin Roose.
- медиа журналисты редакции CNN: Brian Stelter, Oliver Darcy.
- “Отряд по борьбе с дезинформацией” NBC: Brandy Zadrozny, Ben Collins.
- модерация контента в Facebook, Instagram
- модерация контента в Twitter
- альтернатива: Parler, Mastodon
- модерация контента в Telegram, OK, VK
Модерация контента в Facebook
Большая часть контента в Facebook не доходит до конечного получателя. Это справедливо для умной ленты в большом Фейсбуке — закрытые группы в этой соцсети живут по другим правилам. Конкуренция: сотни тысяч продюсеров, журналистов, дизайнеров создают классный контент на Facebook. Любой пост с качеством выше среднего не проходит сквозь жернова конкуренции — побеждает самый сильный контент. Такова особенность этой соцсети, но эту особенность легко обойти попаданием в информационные пузыри и рекомендации. Какой контент чаще попадает в рекомендации? Сейчас увидим. Алгоритмический редактор ленты в Facebook умеет показывать большому количеству пользователей только те посты, которые:«Чувствуешь запах? Это Facebook, сынок. Больше ничто в мире не пахнет так… Я люблю запах свежего поста в ленте поутру. Однажды мы таргетили политическую группу Donald Trump Is Our President в Facebook. Рекламной каруселью из 6 слайдов, двенадцать часов подряд. И когда всё закончилось, я зашел в ту группу. Там уже никого не было, даже ни одного вонючего трупа. Но запах! Вся группа была им пропитана. Это был запах… победы!»
Апокалипсис сегодня
- платные
- недавно опубликованы
- опубликованы с аккаунта, у которого есть история вирусных постов
- могут быть интересны отдельному сегменту аудитории — люди со схожими интересами, реакциями на посты
- вызывают наибольший отклик у отдельного сегмента аудитории
- провоцируют пользователей на примитивную реакцию: смогут ли они одним словом выразить эмоциональное вовлечение к посту? Заставит ли одна картинка, одно видео пользователей дружно сказать «вау!», «лол!»
- опубликованы с аккаунта, на который подписаны пользователи
А теперь рассмотрим правила модерации контента Facebook на практике
Стандарты сообщества однозначно защищают права и свободы всех пользователей. Противоречивый, сомнительный контент улетает в бан, даже не проходит алгоритмических фильтров модерации. Или остается скрытым в ленте, если он может быть полезен для спецслужб. Это знакомо всем, чьи рекламные аккаунты без причины блокировались, а попытки апеллировать к модераторам приводили к невнятным отговоркам и/или продолжению бана на 30-60-90 дней. Но веселее глядим, товарищи. Контент, который способен производить килотонны ненависти, угрожать жизни и безопасности реальных людей можно постить на Facebook при одном условии: такой контент должен быть вирусным, генерировать вовлеченность и прибыль для Facebook, давать возможность заработать крупным СМИ, или облегчать работу сотрудникам внешней разведки. Например, все проблемы с модерацией контента растворяются как только ваш пост: 1) размещается через рекламный кабинет 2) способствует росту продаж косметических средств в промышленных масштабах 3) повышает конкуренцию и стоимость рекламы для косметических брендов Социальная реклама Nike, Dove — если о вашей рекламе говорят говорящие головы в СМИ и в телевизоре, если миллионы людей готовы перейти к физическому устранению несогласных, то Facebook простит вам любое нарушение правил. Потому что, если вы поможете Facebook заработать больше, то к вам будут применяться совсем другие правила. Особенно важен правильный тайминг — со своими креативными рекламными кампаниями нужно выходить на рынок в год выборов. В 2016 и в 2020 году Facebook и часть крупных СМИ заработали на 8-13% больше, чем в обычные годы: Соцсеть получает $7.89 USD прибыли в год на одном пользователе. При годовой выручке в 26-28 миллиардов, это примерно 3 миллиарда сверх ожиданий и прогнозов аналитиков. Как думаете, захочет ли Facebook показывать слабые посты, которые плохо конвертят и продают? Особенно в год выборов, когда вовлечение аудитории ощутимо возрастает? Трамп это лучшее, что было в жизни Facebook и крупных изданий. Это самый удачный кейс, который принес этой соцсети 2-3 миллиарда долларов сверху в двух отчетных периодах прошлого года: +22% прибыли в третьем квартале 2020 и +33% в четвертом квартале. Главным СМИ война с Трампом дарила по несколько сотен миллионов долларов каждый год и +8-11% годовой выручки в год выборов. Именно поэтому Facebook долго еще будет пугать своих пользователей чучелом этого политика, несмотря на все заверения в обратном. Но Facebook и New York Times вам об этом не расскажут. Для обычных людей найдутся милые, нейтральные примеры успеха — например, автоматизация вовлечения в 4 раза с помощью платформ контент менеджмента. Но если знать, куда смотреть, то алгоритмы Facebook не так уж сложны, правда? Пример оптимизированной под алгоритмы Facebook рекламы: [caption id="attachment_635" align="alignleft" width="231"]
Здоровье — это то, что мы называем здоровьем.
Вирусная реклама от 1 января 2021 года. Тайминг безупречный — в начале года в штатах решалась судьба президентских выборов, все люди обновляли ленту Facebook по 200 раз в сутки. Реклама Космо создавалась под Facebook, удачно. Целых 7-10 дней соцсети тихо гудели недовольным гулом: блогеры записывали свое мнение о безответственной рекламе ожирения; физически активные пользователи громко кричали от негодования; любители поесть ночью временно перестали чувствовать вину за свои полуночные набеги на холодильник. Ведущие в телевизоре звонили врачам и диетологам с просьбой устроить прожарку этой рекламе. Идеальный кейс. Татуировка на правой руке модели — «Кому принадлежит мир? Тебе». Милая пасхалка от спонсоров рекламы. «Esse quam videri» — «быть, а не казаться» — девиз многочисленных учебных заведений. И студенческих объединений Lambda Kappa Sigma (фарма), Phi Beta (искусство), Phi Gamma Nu (бизнес). Все они передают вам привет и считают, что вы должны поправиться немедленно. Ибо это и есть здоровье, на самом деле. Разберем детали. Реклама Космо намеренно провоцирует: — полных людей: «я буду защищать свое право оставаться полной, потому что так сказал Космополитен», — нормальных людей: «я что, зря похудела?», — экспертов по фитнесу, питанию, стилю: «сейчас я им всем расскажу, что такое здоровое тело!» — skinny fat офисных сотрудников, которые ежедневно колеблются между желанием похудеть и желанием съесть булочку на ночь, разрываются между колючим мнением экспертов и мягким поглаживанием Космополитен. Как видим, соцсетям и кликбейтным помойкам нравится такой контент, они готовы копипастить скрины комментариев и называть это журналистикой. Facebook, Twitter подняли волну провокаций, лайфстайл- и фуд-блогеры на YouTube подхватили новый инфоповод, СМИ и ТВ каналы получили очередной сюжет для дневного слота в эфире. Шлейф бесплатной рекламы и вирусного пиара растянулся на пару недель и несколько миллионов долларов. Это прямые результаты рекламы в моменте. Косвенно получаем отложенные во времени результаты:- кондитерские и пиццерии получат больше заказов;
- целевая аудитория поляризуется, увеличится кратно — сегменты «за» и «против» реагируют на раздражитель одинаково (привычек своих не меняют, покупают больше, едят пиццу или голодают с одинаковым остервенением);
- средства для похудения (кремы, пластыри, массажеры) на Amazon получат кратковременный приток новых клиентов, которым можно допродавать косметику и коврики для йоги;
- контент-менеджеры добавят в свои контент-планы новую тему «здоровое ожирение 101: подробный мануал»;
- поисковые системы получат новые ключевые запросы «как поправиться и быть здоровым одновременно»;
- модные бутики закажут китайским/пакистанским потогонкам большие партии купальников размера XL;
- маркетологи срочно начнут продавать обучающие курсы по работе с модным хештегами в Instagram/Pinterest типа #fitbutfat #thickfit #slimthiccc #thiccc #thiccc #thiccc+;
- дестигматизация ожирения рождает новую тему для разговоров на пляже;
- продажи алкоголя растут как среди мужчин, так и среди женщин.
- всегда регистрируйтесь в Facebook под своим реальным именем, указывайте свой город и место работы, загружайте свои фотографии и фото своих друзей. Facebook хочет знать вас в лицо, за доступ к вашим данным он прощает многое
- модерация контента в этой соцсети не так страшна, как ее принято считать. Провоцируйте, но не жадничайте: и для вас модерации не будет
- повышайте вовлечение с помощью манипуляций негативными эмоциями пользователей. Разжигайте ненависть только если это поможет вам и Facebook заработать пару долларов или собрать больше данных о вашей аудитории. Старайтесь попасть в актуальный информационный пузырь с живой аудиторией или формируйте свой пузырь
Модерация контента в Instagram
Здесь все просто. Instagram не изобретает ничего нового, пользуется алгоритмами Facebook, делится собранными данными. Акцент в этой соцсети смещается на некорректные сравнения между обычными людьми и генетическими фриками на зарплате у брендов (инфлюенсерами) с целью повышения продаж.
Нет, это не фотошоп. Это икона Instagram-инфлюенсеров, Michelle Lewin на следующий день после Нового Года (источник).
Модерация контента в Twitter
Дисклеймер: следующий текст может содержать упоминания политики, насилия, расизма. SocialJet решительно осуждает любые проявления жестокости, а нижеследующие примеры служат иллюстрацией качества и скорости модерирования контента в Twitter. В своих правилах Twitter прямо запрещает контент с изображением жестокости по отношению к людям и животным, расистский контент, изображения и видео обнаженного тела. Но этот контент разрешено постить в Twitter, если пометить этот тип контента, как образовательный или документальный. Главный критерий контента в Twitter допустимости вам уже знаком: вовлечение. Если ваш контент вовлекает, то правила уже не выглядят такими строгими. Сомалийские исламисты из Аш-Шабаб впервые вышли на просторы Twitter в 2011 году. Именно в этой соцсети радикальные исламистские группировки с 2012 года регулярно вербуют новых искателей приключений. Повстанцы и террористы в Ираке, Сирии, Афганистане, по всему Сахелю взяли на вооружение лучшие практики Голливуда и стрелялок от первого лица. На автомат подвешивали камеру GoPro, записывали видеостримы с перестрелок, монтаж видео аутсорсили профессионалам с Final Cut Pro. Для координации маркетинга в Twitter создавались медиа штабы вроде Al Hayat Media Center. Продавался тематический мерч, рисовалась анимация, собирались донаты: революции научились монетизировать свои франшизы, как и любой другой бизнес. В 2013 году это казалось чем-то запредельно невероятным: при желании, можно было отвлечься от своих таблиц Excel на прямую трансляцию, где бородатые инфлюенсеры кричали в камеру «illa tahin!». В прямом эфире людей подстреливали снайперы, подрывали смертники, бомбила авиация. Авторы документальных видео зачитывали религиозные скрипты перед обезглавливанием своих жертв. Постоянные обитатели Twitter могут помнить эти документалки из серии The Clanging of the Swords. Прошло пару лет и террористы начали вести свои Twitter аккаунты, как настоящие представители диджитал бизнеса. Аудитория подогревалась, воронки строились, подключались команды аутрича, запускались рассылки, анонсировались видеостримы, накручивались просмотры для попадания в тренды и рекомендации. Аккаунты ИГИЛ велись на разных языках, таргетировали разные аудитории, использовали большое количество хештегов. Конкуренция среди криминала, особенно среди радикальных группировок Ближнего Востока и западной Африки, зашкаливает — поэтому они первыми используют все новинки маркетинга в Интернете. В 2013 году Twitter-аккаунты, связанные с ИГИЛ (запрещена в России), фолловили целые редакции мировых СМИ, простые люди, независимые журналисты, представители спецслужб и правительственных организаций. Twitter понял, что терроризм генерирует вовлечение даже среди профессионалов: журналисты, разведчики и специалисты по Ближнему Востоку переписывались в личке с террористами, чтобы лучше понять их мотивы. Для вовлечения подростков и молодых людей рисовались тематические мемы:Иллюзия свободы будет продолжаться до тех пор, пока выгодно поддерживать эту иллюзию. Когда поддержка иллюзии становится слишком дорогостоящей, они разберут сцену, унесут столы и стулья, поднимут занавес, и вы увидите кирпичную стену в конце театрального зала.
Фрэнк Заппа
Толстая пародия на гедонистическую мантру YOLO (you only live once)
Стилизация под известную видеоигру
Модераторам Twitter понадобилось три года, чтобы научиться блокировать аккаунты террористов. Аккаунты, которые с первых дней публиковали кадры обезглавливаний и публичными казней военнопленных, боестолкновений в городе и авиаударов по мирным жителям. С 2015 года пошли массовые баны, удаления связанных с ИГИЛ аккаунтов, по 130-360 тысяч аккаунтов ежегодно. Однако, примерно четверть аккаунтов террористов остается в эфире до сих пор — американские спецслужбы объясняют это тем, что такие аккаунты нужны для практического обучения внешней разведки, для идентификации преступников. Террористов модерировали в Twitter нехотя, всячески оттягивая время. Потому, что такой контент идеален: вовлечение топовое, риски нулевые. Отличное сочетание для платежеспособных аудиторий США и Западной Европы. Данные за 2015-2017 года: 95% всех террористических атак случаются на Ближнем Востоке, в Северной и Западной Африке. В Европе и Северной Америке доля смертей от терроризма составляла менее 0,01% от общего количества смертей в год. Что не мешает половине жителей США бояться стать жертвами террористов, потому что так сказали в Twitter, а СМИ подтверждают все, что публикуется в этой соцсети:

Левые радикалы выпали из актуальной повестки.
На следующий день после инаугурации, 22 января, Twitter мягко напомнил антифа, что они уже нерелевантны — Байден взял президентство, можно прекращать охоту на ведьм. Даже в штабе BLM стали подозревать что-то неладное…

Модераторы смотрят на ваш аккаунт в предчувствии хорошего вечера
Ну а пока рядовые твиторчане не ощущают на себе внимательного взгляда праведных блюстителей сетевого порядка, им остаются доступны простые народные забавы, которые с одинаковым жаром разделяют анонимы в Twitter, кинозвезды и редакции СМИ. Называются эти игры «что сегодня сказала Джоан Роулинг?» Благодарные читатели Джоан Роулинг фолловят ее, чтобы найти повод оскорбиться и начать травлю. Самому популярному автору последних лет кибер-травля ничем не угрожает, только портит настроение и дает возможность поупражняться в едких ответах. Но когда благодарные читатели понимают ничтожность своих нападок на Роулинг, они публикуют похоронки о ее кончине. Так модераторы Twitter самоутверждаются в символической победе над идеологическим врагом, который озвучивает свои политические убеждения или недостаточно хорошо разбирается в интерсекциональной повестке дня. Twitter с удовольствием включается в игру #RIPJKRowling: травля такого автора генерирует стабильный трафик, риски нулевые, вовлеченность выше среднего. Twitter никогда не заблокирует аккаунт Джоан Роулинг: травля такого человека приносит прибыль Twitter, журналистам, СМИ, всем и относительно безопасна. Си Цзиньпина, арабских принцев почему-то не спешат травить в соцсетях, хотя они более известны и противоречивы, чем Джоан Роулинг. С похоронами карьеры Джины Карано модераторы Twitter справились за полгода. Начиная с лета 2020 года актриса франшизы «Звездных Войн» трижды посмела высказать свое мнение в соцсети: отказалась поддерживать трансгендерных людей в своей подписи в Twitter, усомнилась в результате выборов в США, сомневалась в необходимости носить маску. Как в бейсболе, три промаха и прощай. В феврале 2021 года Джина Карано попыталась защититься от нападок в Twitter, чем только подлила масла в огонь. Хештег #FireGinaCarano заставил работодателя Карано киностудию Disney извиниться перед модераторами Twitter за высказывания своей актрисы, которую уволили и поставили в черный список. Простым людям везет меньше, чем известным писателям и актрисам. Всего 24 часа понадобилось блюстителям пансексуализма в Twitter, чтобы довести до суицида ментально нестабильную порно-актрису August Ames. Причина: модераторам не понравилось то, как она использовала популярный слоган «моё тело — моё дело» и они наказали выскочку за попытку проявить свободу воли. Пожелания модераторов были прогрессивными: дерзкой порно-актрисе предложили убить себя. Что она и сделала.
Последний твит жертвы за пару часов до смерти. #fuckyall
Новые правила модерации контента в рунете не позволяют нам объяснить все слои символизма в этой горькой шутке, в последней попытке отбиться от толпы twitter-воинов. Блюстителей пансексуализма Twitter не наказал за доведение до самоубийства, для них ситуация обошлась без бана. Вовлечения было много, СМИ целую неделю перепечатывали подробности травли, — за такое не банят в Twitter. Совет для креаторов и маркетологов: переход на личности, политика, травля известных людей — самые прибыльные и низкозатратные виды контента в Twitter. Сара Чон (Sarah Joeng) на этом карьеру сделала. Издания The Verge, Motherboard, New York Times с удовольствием нанимают людей, которые могут производить токсичный контент, разжигать ненависть, призывать к расправе над белыми людьми. Ищите таких людей — они дают большие охваты. А проверять успешных Twitter-журналистов можно на симуляторе Twitter-инфлюенсеров, который показывает, сколько подписчиков можно набрать, если у игрока есть стратегия и он ее придерживается. На грубом примере показана логика реакций пользователей и алгоритмов. Промежуточный вывод по модерации в Twitter- всегда регистрируйтесь в Twitter под своим реальными именем, указывайте место работы, тегайте друзей, заливайте видео своих военных трофеев. Twitter желает знать вас в лицо, за это он прощает многое
- учитесь монетизировать раздраженных анонимов или хотя бы получайте бесплатную рекламу на волне негодования
- модерации в Twitter нет, прямо сейчас эта соцсеть учится играть по правилам и готова идти навстречу требованиям правительств. А пока вместо модераторов эта соцсеть может предложить толпы оскорбленных жертв и праведников, которые точно знают, кто нарушил правила и как его наказать
Модерация контента в альтернативах: Parler и Mastodon
Новые соцсети конкурируют с Facebook, Twitter, Google. Большая тройка (Google, Amazon, Apple) и Microsoft защищают свои доминирующие позиции отключением конкурентов от своих облачных серверов, запретом на подключение платежных систем. Противостояние лидеров и новичков обострилось после штурма Капитолия в январе 2021 года. Тогда в Кремниевой долине главными виновниками штурма назначили соцсети Gab и Parler, хотя организация протестов проходила в закрытых группах Facebook, там до сих пор можно купить футболки трампистов. На фоне обвинений и отключений молодые соцсети Gab и Parler открыли свои объятия всем недовольным цензурой, принимают по десять тысяч новых пользователей каждый час, а Telegram в январе 2021 пережил вторую молодость и пополнился свежей кровью (+ несколько миллионов новых пользователей в сутки). Parler использует минимальную выборочную модерацию: из общего пула в примерно 2000 добровольцев выбранные случайным образом 5 модераторов проверяют контент определенного типа. Автоматически блокируется только порно, остальной контент модерируется вручную. Для небольшой соцсети такая модерация не является чем-то необычным: первоочередной задачей новичка на рынке всегда будет набор новых пользователей. Создатели Mastodon модерируют всего три вида контента на уровне соцсети: расистский, экстремистский, трансфобный. Широкие правила модерации оставляют свободу выбора за администраторами сообществ и пользователями. Mastodon поощряет локальную и удаленную модерацию: сообщества в этой соцсети находятся на разных серверах и называются instances. Такая кластеризация позволяет строить устойчивые сообщества, защищаться от массовых атак вроде нашествия неонаци из соцсети Gab. Администраторы разных сообществ могут обмениваться опытом, защищать права своих пользователей, предупреждать друг друга и вырабатывать совместные правила реагирования на нетипичные случаи. Mastodon позволяет админам самим решать, каким правилам следовать на их сервере и с кем они будут общаться в своих сообществах. Аккаунт может уйти в бан на одном сообществе и продолжить общение на всех остальных серверах, правила которых не настолько строги. Или создать свой сервер со своими правилами. Блокировку и удаление аккаунта Mastodon на отдельном сервере можно оспорить через 30 дней — это критическая мера для повторяющихся нарушений. Администраторы Mastodon могут применять фильтрацию по ключевым словам в описании аккаунтов, изменять неадекватные правилам аватары пользователей. На стороне клиента есть возможности:- ставить NSFW-плашки на свой контент
- фильтровать контент и аккаунты в ленте по отдельным символами и целым словам
- временно скрывать посты отдельного пользователя в своей ленте, что никак не отражается на активности этого пользователя в лентах других людей
- блокировать, скрывать в ленте отдельные сообщества и целые сервера
- Mastodon показывает то, что Twitter и Facebook обещали десять лет назад — прозрачный свод правил, разумный баланс между свободой слова и защитой от деструктивных тенденций внутри соцсети.
- Parler сейчас переживает детские проблемы развития — для этой соцсети идеологическое противостояние с лидерами рынка сегодня важнее модерации контента.
Модерация контента в Telegram, OK и VK
Особенности национальной модерации Правила пользования Одноклассников и Вконтакте запрещают постить чужой авторский контент, защищают интеллектуальную собственность, персональные данные пользователей. Но если сильно хочется, то можно слушать музыку бесплатно, пробивать личные данные любого зарегистрированного человека и продавать их на черном рынке. Если держаться подальше от таких тем, как религия, политика, унижение негроидной расы, оправдание нацистской и экстремистской идеологии, прогулки на свежем воздухе в определенные дни года, то можно обойтись без бана. Как и в других соцсетях, противоречивый контент разрешено публиковать в Одноклассниках, во Вконтакте с правильными формулировками, — «образовательный», «порицающий». Это простое правило понимают SMM-щики Ижевской епархии, когда на Рождество демонстрировали в соцсетях фотографии циркового номера, где дрессировщики в советской военной форме побеждали животных, «несущих на себе нацистскую символику». Цирковое искусство и соцсети созданы для зрелищ, какие-то правила модерации не могут остановить тягу зрителей к прекрасному. Модерация контента в OK/VK этот суслик рунета — ее не видно, но она есть. Как и везде: чтобы попасть в бан, стоит на время забыть о золотом правиле всех соцсетей «Или ты генерируешь вовлеченность (даешь народу зрелища), или мы загоним тебя в пессимизацию охватов. Бан для самых непонятливых». Лирическое отступление. Большинство соцсетей, поисковиков и мессенджеров умеют применять теневые блокировки. Мягкий бан. Пользователь видит свой пост или рекламу, но его подписчикам заблокированный контент не виден. Instagram, Reddit, Twitter, WeChat, Craigslist были замечены в теневых блокировках и пессимизации показов разного контента без оповещений о бане. Недавно Facebook добавил возможность теневого бана на стороне клиента — пользователи сами могут отключать комментарии к своим постам со стороны определенных аккаунтов. Не гнушается теневой блокировкой и Yandex — этот поисковик умеет использовать теневой бан, о чем пользователи узнают только после обращения в службу поддержки. Цитата (орфография автора сохранена):«Таким образом, при формировании, что ленты новостного агрегатора, что ленты платформы ЯДзен, — достаточно научить алгоритм «правильно» расставлять приоритеты, и одни новости и публикации поднимутся в топ, а другие уйдут за границу видимости для большинства пользователей.
Но ведь для этого надо уметь «правильно учить» алгоритм, а это совсем не просто. Тут набором ключевых слов не обойтись.
Слава богу, есть куда более продвинутые методики машинного обучения, обеспечивающие развитый функционал для любого «цифрового министерства пропаганды». Будь то настоящее министерство или мега-корпорация, — всё одно.
Остается не отвеченным лишь один вопрос – за что же дискриминируется именно канал «Малоизвестное интересное»? Чем он не угодил алгоритму ЯДзена?
Полагаю, ответ лежит на поверхности. И «мотивация алгоритма» ЯДзена та же, что и «мотивация алгоритма» поиска в кейсе Яндекса с Роскомнадзором — нужно продвигать своих. Тех, кто, как пишет ТАСС, «входит в цифровую экосистему Яндекса».
Сергей Карелов
Конец лирического отступления. В Одноклассниках и во Вконтакте непонятливых пользователей банят редко. Техподдержка внимательно выслушает все жалобы, но сверхурочно не работает, надбавок за интенсивность труда не получает. Поэтому техподдержка Вконтакте аутсорсит часть воспитательной работы специально обученным людям, у которых прайс наказаний за контент не отличается вариативностью — только ст. 148, 280 и 282 УК на все случаи жизни.
Модерация контента в Telegram
Никто не знает точное число команды модераторов мессенджера. Пока только редкие каналы проходят проверку в ручном режиме. Блокируют каналы нечасто, по жалобе; обычно за экстремизм, за детское порно в публичных каналах. Администраторы каналов имеют возможность банить подписчиков в чатах: модерация локального уровня. По сравнению с Twitter телеграм-каналы исламских радикалов удаляются быстро, решительно. Остальные серые и полулегальные сферы (инфобизнес, букмекерство, крипта, сливы/пробивы, договорные матчи и ставки) мирно сосуществуют с полностью белыми каналами. Администраторам каналов доступны бесплатные и платные боты для постинга в каналах, боты для модерирования чатов (chatkeeper, angrymoderbot, shieldy). Боты могут похвастать несложными фильтрами по ключевым словам, триггерам, стоп-словам, простыми решениями по автоматизации отправки предупреждений и сбору аналитики. Техподдержка Telegram живо реагирует на жалобы и подозрительную активность — если новый канал резко прибавляет по несколько десятков тысяч подписчиков в сутки, то на него могут повесить плашку [SCAM] до выяснения подробностей.
Подозрительный канал имени Дональда Трампа резко набрал популярность. Но его проверили и осадили.

А вот telegram-канал Трампа-мл. живет и здравствует, близится к миллиону подписчиков.
Промежуточный вывод по модерации контента в Telegram, OK, VK.- Как и в случае с заокеанскими соцсетями, в российских аналогах модерация контента непрозрачна, случайна, работает через раз.
- Владельцев Одноклассники и Вконтакте сегодня больше заботит монетизация и поиск возможностей остаться на плаву. Поэтому они аутсорсят модерацию контента специально обученным людям в погонах, пока сами лихорадочно ищут способы повысить вовлечение своих пользователей.
- Telegram стоит особняком ввиду своей относительной независимости от регулирующих органов. Но слабая модерация в мессенджере позволяет злоумышленникам угонять каналы, нагонять ботов, регистрировать популярные telegram-каналы на чужое имя, сливать и пробивать личные данные пользователей. В отдельных чатах модерация на высоте, но это уже личная заслуга администраторов, которые умеют пользоваться готовыми инструментами и головой.
Глобальный вывод по модерации в соцсетях
Обычно соцсети смещают бремя ответственности за модерацию контента на своих пользователей, а правила модерации прописаны таким образом, что их можно трактовать широко. И даже шире, чем вы себе можете представить. Признание проблемы затянулось: большинству соцсетей понадобилось 8-12 лет, чтобы опубликовать пресс-релиз, в котором они соглашаются, что им нужно поработать над модерацией. 8 февраля 2021 года соцсети решили более строго проверять UGC контент в своих лентах. Заслуженно получив тонны негатива за теневые блокировки и несовершенную модерацию, соцсети встали на путь исправления только после регулярных бесед в сенате США. Представители Twitter, Facebook, Google подтвердили свое намерение оказывать поддержку в борьбе с экстремизмом, теориями заговора и фейковыми новостями на своих платформах. Речь идет о Законе о Порядочной Коммуникации (раздел 230), который сенаторы США призвали изменить в сторону увеличения ответственности соцсетей и технологических компаний за контент, который появляется на их платформах. Во Франции, России, Австралии правительства решили применять похожие законодательные акты в отношении соцсетей. В общих чертах обе стороны (технокомпании+соцсети vs. правительства) соглашаются, что модерацию контента в Интернете нужно сделать строже и прозрачнее. В данный момент между правительствами и соцсетями идут многоуровневые торги за степень прозрачности алгоритмов дистрибуции контента, за глубину таргетинга рекламой в соцсетях. Наблюдая за выработкой новой ответственности за модерацию контента, новые соцсети вынуждены публиковать правила модерации, объяснения к правилам модерации, интерпретации объяснений правил модерации. Получив недвусмысленное предупреждение от общества, соцсети взялись за модерацию контента не с той стороны. Не только люди-модераторы решают, что показывать в лентах — алгоритмы соцсетей определяют видимость и скорость распространения контента. И эти алгоритмы любят определенные виды контента в соцсетях: фейковые новости получают больше внимания и распространяются быстрее и шире, чем истинные репортажи.
Фейковые новости (фиолетовая медуза), истинные репортажи (золотистая медуза). Источник
Именно такое неконтролируемое людьми появление в социальных медиа инфокаскадов заставляет нервничать правительства, вводить новые требования к модерации платформ и UGC контента. Правительства закономерно не любят бесконтрольные эмоциональные заражения (геймергейт, шведские активистки-восьмиклассницы, интервью Меган Маркл), финансовые заражения (декабрьский скачок BitCoin, февральский демарш GameStop, мартовское помешание на NFT артефактах), которые регулярно происходят в соцсетях. Несмотря на стремления разработчиков, алгоритмы соцсетей не любят умеренных людей. Бинарная логика алгоритмов не понимает золотую середину, поэтому в соцсетях пользователи с умеренной жизненной позицией рано или поздно становятся экстремистами. Исследование проводилось на пользователях соцсетей в США и показало, что алгоритмы социальных медиа поляризуют людей, их точки зрения и аргументы. Это прекрасно понимают опытные пользователи соцсетей, которые уже делают свои методички для привлечения обычных людей в экстремальные течения разного толка — между правыми и левыми экстремистами на YouTube уже давно идет своя холодная война за внимание зрителей и благосклонность алгоритмов. Более того, реальные экстремисты используют мемы и SEO-неймдроппинг (подпишитесь на PewDiePie) для того, чтобы алгоритмы соцсетей быстрее подхватывали и распространяли их манифесты — узнав логику социальных алгоритмов, некоторые люди взламывают ее целенаправленно. Именно об этом беспокоятся сенаторы США, когда предлагают Facebook разобраться с модерацией контента. Но Facebook и остальные соцсети делают вид, что не понимают, чего от них хотят — так появляются чисто формальные подрядчики Facebook Oversight Board и Twitter Birdwatch. Не все так плохо, как может показаться после прочтения данной статьи. Некоторые соцсети быстрее остальных реагируют на вызовы, оперативнее исправляют недостатки модерации контента. YouTube и Discord регулярно публикуют годовые показатели своих усилий по удалению опасных тенденций со своих площадок. Например, команда YouTube говорит, что с октября по декабрь 2020 год они удалили 2 миллиона каналов, 9 миллионов видео роликов и 900 миллионов комментариев. Более 80% удаленных каналов загружали мошеннические видео или спамили вторичным контентом. Это уже n-й раунд борьбы алгоритмов YouTube с Эльзагейтом (потоком видео, в которых эксплуатируются дети, игрушки) — видеохостинг начал жестче реагировать на детский контент.
Есть вопросы?
Оставьте заявку с помощью формы ниже, и мы свяжемся
с вами и обсудим все ваши вопросы.