Як російська війна в Україні впливає на модерацію контенту в соцмережах

16 листопада Наглядова рада компанії Meta скасувала рішення про видалення публікації, в якій росіян порівняли з нацистами. Техногігант визнав, що зображення тіла загиблого в Бучі не порушує політики Meta щодо зображення сцен насильства. Наглядова рада закликала компанію переглянути свої політики, щоб урахувати обставини вторгнення Росії в Україну.

За часів повномасштабної війни українські користувачі соцмереж стали значно частіше бачити повідомлення про «потенційно неприйнятний контент». Воно зʼявляється в наших стрічках у фейсбуку та інстаграмі щоразу після масованих обстрілів або чергового викриття звірств російської армії. Спроби поділитися фотографіями або емоціями від пережитого нерідко викликають спротив компанії Meta. Дописи із закликами покарати росіян просто видаляють через порушення політик щодо мови ворожнечі, зображення насильства та з інших причин.

Схожа історія сталася з користувачем фейсбука з Латвії на початку квітня 2022 року. Тоді він опублікував такий допис, супроводжуючи його фотографією тіла людини, яку російські військові застрелили в Бучі: 

На цей допис поскаржився інший користувач фейсбука, а компанія Meta у відповідь на скаргу видалила публікацію через порушення стандарту щодо мови ворожнечі. Автор допису подав апеляцію до Наглядової ради й зазначив, що публікація не закликає до насильства, а просто документує злочини російської армії в Бучі. Згодом компанія відновила допис, але застосувала екран попередження про «потенційно неприйнятний контент» через порушення політики щодо зображення сцен насильства. Втім Наглядова рада Meta вирішила розглянути цей випадок детальніше. Як її рішення вплине на модерацію контенту в Meta?

Політики Meta та аналіз Наглядової ради

Претензії компанії до допису мотивовані двома важливими стандартами – щодо мови ворожнечі й зображення насильства.

Стандарт Meta щодо мови ворожнечі забороняє «агресивні» чи «принизливі» висловлювання, спрямовані проти конкретних людей або груп на підставі їхніх характеристик (віку, статі, раси, національності тощо). Компанія пояснює, що на платформі заборонено:

• критикувати людину або групу людей без урахування контексту («безумовні твердження про поведінку»);
• приписувати певні риси людині або групі на підставі її етнічної належності, національності чи інших характеристик («узагальнення»);
• порівнювати поведінку конкретних людей або груп із діями злочинців.
• При цьому, якщо якась людина або група людей справді вчинили злочин («обґрунтовані твердження про поведінку»), стандарт на них не поширюється.

Допис видалили якраз через порушення цього стандарту. Відповідно, головне питання, яке розглядала Наглядова рада Meta, – чи справді порівняння російських солдатів із нацистами часів Другої світової, а також твердження про зґвалтування, катування та вбивство є порушенням стандарту щодо мови ворожнечі?

Рада зробила висновок, що допис не порушує політики щодо мови ворожнечі, бо містить «обґрунтовані твердження про поведінку» російської армії під час російсько-української війни (вони справді вчинили ці злочини). Крім того, допис спрямовано на російських солдатів через їхню роль як учасників бойових дій, а не через національність, а отже вони не є захищеною групою.

Натомість стандарт Meta щодо насильства та підбурювання забороняє «погрози смертю (та іншими формами насильства)», а також «заклики до насильства» й «заяви, що пропагують насильство». За внутрішніми правилами Meta, ця політика дозволяє контент із «нейтральним посиланням на потенційний результат дії» (наприклад, «якщо засунути пальці в розетку, ти помреш»), і контент, який засуджує насильство або підвищує обізнаність про нього. Водночас зображення насильницької смерті або смерті через нещасний випадок чи вбивство має приховувати екран попередження. У внутрішніх правилах для модераторів Meta визначає як ознаки насильницької смерті «кров або рани на тілі, кров навколо жертви, роздуте чи знебарвлене тіло або тіла, викопані з місць поховання». Будь-які інші зображення тіла не є забороненими на платформі.

Наглядова рада вирішила, що допис не закликає до насильства та не пропагує його, а лише нейтрально стверджує, що українці можуть відреагувати на дії російської армії так само жорстко, як і радянські солдати на дії нацистів. Натомість вірш із рядками «Убий його» – це лише мистецьке та культурне послання й відображення душевного стану, а не заклик до насильства. Також рада визначила, що Meta помилково встановила екран попередження на фото із загиблим, оскільки воно не містило жодних ознак насильницької смерті.

Цінності Meta

Отже, Наглядова рада дійшла висновку, що видалений допис задовольняє всі формальні вимоги Meta й не порушує жодної з політик. Однак найважливіший висновок ради – те, що рішення про видалення контенту та попередження про «потенційно неприйнятний контент» не відповідає цінностям компанії Meta.

Рада пояснила, що вибрала для розгляду саме цю справу, бо видалення цього допису викликало в неї серйозні занепокоєння щодо свободи самовираження. За словами ради, рішенням про обмеження та видалення цього допису Meta порушила свої корпоративні зобов’язання щодо прав людини, а саме свободи вираження поглядів. Контент видаленого допису пов’язаний із політичним дискурсом і привертає увагу до порушень прав людини в контексті війни. Компанія Meta знехтувала правом на власну думку, хоча саме зараз компанія має надати постраждалим від війни користувачам можливість обговорити її наслідки.

На думку Наглядової ради, це сталося в першу чергу через непрозорість політик Meta. Нині користувачам не до кінця зрозуміло, що дозволено, а що заборонено публікувати у фейсбуку та інстаграмі. І хоча у внутрішніх правилах Meta є конкретні визначення, що вважається порушенням стандартів спільноти, ці правила досі не включені в загальнодоступні тексти стандартів. На думку ради, це може сприяти самоцензурі користувачів соціальних мереж, що належать Meta. І хоча відкрита публікація цих правил може допомогти обходити стандарти спільноти, рада вважає, що «потреба в зрозумілості та конкретності має перевагу над занепокоєнням щодо спроб окремих користувачів “обдурити систему”».

Рада також спробувала передбачити майбутні закиди: мовляв, дотримання права українських користувачів вільно виражати свої погляди може конфліктувати із захистом прав інших користувачів (прав на рівність, відсутність дискримінації на підставі етнічної приналежності або національності). Наглядова рада визнала, що захист росіян від ненависті є законною метою, однак наголосила, що захист «солдатів» від звинувачень у правопорушеннях не є законною метою, коли вони зазнають утисків через свої дії як учасники бойових дій під час війни. У контексті міжнародного збройного конфлікту міжнародне гуманітарне право щодо поведінки ворожих сторін дозволяє висувати звинувачення на адресу активних учасників бойових дій. Враховуючи це, рада закликала компанію Meta переглянути свої політики, щоби врахувати обставини незаконного вторгнення Росії до України.

Рішення Наглядової ради

Наглядова рада скасувала рішення Meta про видалення й обмеження контенту допису через те, що це рішення не відповідає ані стандартам спільноти Facebook, ані цінностям компанії Meta та її зобов’язанням щодо прав людини. Крім того, рада рекомендувала Meta:

• додати до загальнодоступного тексту політики спільноти щодо насильства та підбурювання пояснення, що компанія дозволяє публікувати контент із «нейтральним посиланням на потенційний результат дії або консультативним попередженням», а також контенту, який «засуджує погрози насильством або привертає до них увагу»;
• додати до загальнодоступного тексту стандарту спільноти щодо зображення сцен насильства пояснення, як вона визначає, чи контент є «зображенням насильницької смерті людини чи людей через нещасний випадок або вбивство»;
• оцінити можливість впровадження інструментів налаштування, за допомогою яких користувачі фейсбука й інстаграма віком від 18 років можуть вирішити, чи переглядати сцени насильства – з екранами попередження чи без них.

Попри те, що російсько-українська війна триває вже дев’ять місяців, адміністрації соціальних мереж досі не розуміють, як вони мають реагувати на емоційні дописи та закривавлені фотографії українських користувачів. Ми не раз спостерігали, як Meta блокує сторінки українських активістів, обмежує їхні дописи або ж відправляє їх у тіньовий бан. Зрідка проблему вдавалося розв’язати хіба що шляхом особистого звернення міністра цифрової трансформації України до керівництва соціальної мережі: так було, зокрема, з інстаграм-акаунтом Асоціації родин захисників «Азовсталі». Це, своєю чергою, грало на руку російській пропаганді та зменшувало можливості України протистояти Росії в інформаційному вимірі війни.

Описане вище рішення Наглядової ради Meta – один із перших кроків, що пояснюють, які змінні компанія повинна брати до уваги, намагаючись модерувати українські стрічки фейсбука та інстаграма. Справді, дописи українців під час війни можуть містити не надто привабливі фотографії або лагідні слова, але Наглядова рада визнала, що такі публікації є нашим правом на самовираження. І хоча досі не до кінця зрозуміло, чи не заборонить вам фейсбук опублікувати побажання смерті російському президенту, збільшення прозорості модерування контенту дає нам надію на зменшення цензури навколо російсько-української війни.

Ольга Снопок, фахівчиня з моніторингу соціальних мереж Громадянської мережі «Опора»