Як TikTok підсаджує дітей на відео з сексом і наркотиками. Розслідування Wall Street Journal

Тринадцятилітній підліток ввів у пошук onlyfans – відомий «дорослим» контентом вебсайт. Після цього соцмережа видає в результатах секс-відео, зокрема посилання на два сайти, що продають порнографію.

Після цього користувач іде в персоналізовану стрічку «Для тебе», де спершу все добре: песики, бумбесики та інший «дитячий» контент.

Однак система не забула інтерес до сексу та почала підсовувати новий контент ось такого типу:

Якщо дитина швидше прогортає відео без сексу та трохи затримується на сексуально орієнтованих – стрічка «Для тебе» невдовзі майже повністю заповнена сексуальними відео.

У багатьох із них присутні елементи насильства та «обміну владою».

Алгоритм системи загнав неповнолітнього в діру з батогами, ланцюгами й тортурами. Частина цього контенту нібито заборонена платформою.

Wall Street Journal створили від імені неповнолітніх десятки автоматизованих акаунтів, щоб зрозуміти, що показує TikTok. Усі боти зареєстровані як користувачі у віці від 13 до 15 років. Штучний інтелект запустили для вільного «походу» по «Для тебе» – персоналізованій нескінченній стрічці, якою керує алгоритм соцмережі.

Аналіз відео показав, що TikTok може швидко загнати неповнолітніх – а саме вони є переважною частиною користувачів цієї соцмережі – в нескінченний вир контенту, пов'язаного з сексом і наркотиками.

Так, платформа надала одному з акаунтів, зареєстрованих на 13-літню дитину, 569 відео про вживання наркотиків, зокрема кокаїну та метамфетаміну, а також рекламні відео з онлайн-продажу наркотиків і пов'язаних із ними речей. Сотні подібних відео з'являлися також у стрічках інших зареєстрованих на неповнолітніх акаунтів.

TikTok також рекомендував підліткам понад сотню відео з рекламою платних порносайтів, а також секс-шопів. Тисячі інших відео також стосувалися контенту, позначеного як «тільки для дорослих».

Інші уславлювали алкоголь, включно з зображеннями п'яного водіння чи різних алкоігор.

Серед секс-відео були десятки, де дорослі виступають в ролі «секс-татусів», а люди, які грають роль дітей, названі «маленькими», вступають із ними у стосунки.

Речниця компанії відмовилась обговорювати зміст окремих відео, заявивши, що «більшість із них не порушують правил».

Деякі з відео були видалені, однак уже після того, як їх переглянули створені Wall Stree Journal акаунти.

Машина створення залежності

Раніше розслідування WSJ показало, що платформі TikTok вистачає лише однієї важливої ввідної, щоб визначити, чого саме хоче користувач: це визначається кількістю часу, який людина проводить за переглядом певного відео. Кожну секунду, яку ви вагаєтеся, гортати далі чи дивитися ще, та щоразу, коли ви переглядаєте відео заново, – програма відстежує ваші дії.

Єдиного потужного сигналу вистачає, щоб алгоритм TikTok визначив ваші приховані інтереси й емоції. Це дозволяє загнати користувачів будь-якого віку глибоко в чорну діру контенту, де потужно домінуватимуть відео на певну тему.

«Ми бачили всі ці проблеми, пов'язані з алгоритмами на основі цікавості, на YouTube – на TikTok усе те саме, але гірше», – заявив колишній інженер YouTube Гільом Шазло, який працював над розробкою алгоритму YouTube, а нині публічно виступає над прозорістю компаній щодо використання цих інструментів.

Завдяки особливостям, коли користувачу показують сотні коротких відео, алгоритм TikTok навчається значно швидше.

Wall Street Journal створив 31 акаунт від імені неповнолітніх, із різними датами народження та різними IP-адресами. Більшість із них за програмою мали різні інтереси – TikTok міг дізнатися про це лише через затримку програм на різних відео з певними гештегами. Водночас акаунти було запрограмовано так, щоб вони швидко прогортали решту відео.

Більшість акаунтів не робили жодних пошукових запитів – а просто з різною швидкістю дивилися різні відео, які у персоналізованій стрічці підсовував їм TikTok.

Спершу теми відео були різноманітними...

...але невдовзі абсолютна більшість стосувалися марихуани, психоделіків і речовин, які можна отримати лише за приписом лікаря

Наприклад, на одному з відео чоловік видихував дим, а лінк вів на сайт із написом «дружній до 420» (кодова цифра для марихуани в субкультурі). Власник сайту не відповів на запитання про те, чому це відео не позначено як 18+. Його подивився акаунт, зареєстрований на 13-літнього підлітка.

Десяток із 31 акаунту через короткий час переглядав переважно відео на конкретну тему.

Це може бути особливою проблемою для неповнолітніх, яким може бракувати сили волі, щоб перестати це дивитися, вважає клінічний психолог Інституту дитячого розуму Девід Ендерсон. Соцмережі, за його словами, «нормалізують» наркотики.

Навіть якщо Wall Street Journal програмував акаунт на цікавість до різних тем – TikTok часом «напосідав» на одну з них і показував сотні відео поспіль на цю одну тему. Так, одному з акаунтів, який було запрограмовано на різні зацікавленості, сотнями показувало японські мультфільми. Одного разу зі 150 відео всі, крім чотирьох, містили японські мультфільми – багато з них із виразно сексуальною тематикою.

Речниця у відповідь на запитання журналістів заявила, що живі люди можуть вибрати «нецікаво», якщо їм трапляється щось, чого вони не хочуть бачити.

Деякі з відео, які рекламують платну порнографію, після розслідування були видалені. В деяких випадках творці самі позначали відео як «тільки для дорослих» – але програма все одно показувала їх також і неповнолітнім.

В одному з випадків, із 200 відео поспіль 40% були позначені тими, хто створив їх, як «тільки для дорослих», але це дивився акаунт, зареєстрований на неповнолітнього. Загалом акаунтам неповнолітніх, створеним WSJ, було показано принаймні 2800 відео, позначених як «тільки для дорослих».

За даними джерел у керівництві TikTok, відео з посиланнями на платний сайт OnlyFans стали настільки поширеними, що на зустрічі керівництва голова компанії Vanessa Pappas просила колег роз'яснити їй, що це за сайт.

Після цієї зустрічі спершу вирішили заборонити посилання на цей сайт, однак інші люди заявили, що не все там є порнографією і що інші платформи дозволяють такі посилання – тож у результаті від ідеї відмовилися.

Речниця TikTok заявила журналістам WSJ, що платформа забороняє зображення оголених тіл, а також видаляє акаунти, які відсилають людей до сексуального змісту чи послуг.

Речниця OnlyFans натомість заявила, що сайт лише для людей у віці понад 18 років, і відмовилася коментувати акаунти на TikTok, які спрямовують людей на її сайт.

Відстежування

TikTok відстежує свій велетенський обсяг контенту за допомогою алгоритмів і понад 10 тисяч живих людей. За другу половину 2020 року було видалено 89 мільйонів відео.

Однак обсяг їх росте так швидко, що компанія не встигає. Зараз TikTok має лише у США понад 100 млн користувачів, які як споживають, так і виготовляють відео. Користувачі у всьому світі завантажують десятки тисяч відео щохвилини.

Через це модератори зосереджуються лише на відео з найбільшою кількістю переглядів, тоді як менш популярні залишаються практично без нагляду.

На початку TikTok пропонував акаунтам WSJ найпопулярніші відео – але через три дні дедалі частіше траплялися менш популярні, які не модеруються.

У липні TikTok заявив, що (йдеться про США, а не світ) алгоритми автоматично видалятимуть певні типи відео. Раніше це робили після визначення алгоритмом люди, але швидкість була надто низькою.

Заява TikTok була пов'язана з розслідуванням WSJ, коли журналісти показали сотні прикладів небезпечного контенту. Однак речниця TikTok заявила, що алгоритми ніколи не зможуть правильно розуміти зміст, особливо щодо наркотиків, оскільки тут присутня велика кількість контенту (як відомо, багато людей не вловлюють його, якщо належать до інших «інформаційних бульбашок»).

Крім того, компанія недавно послабила обмеження, наприклад, щодо бікіні та відвертого одягу – результатом одразу стало збільшення кількості сексуалізованих відео.

Чорні діри

Один із ботів, створених WSJ, потрапив у чорну діру світу рольових секс-ігор та БДСМ. Багато відео, які він переглядав, описували зав'язування вузлів для сексу, одужання після насильницького сексу, фантазії про зґвалтування.

У певний момент подібних відео про бондаж і секс у його стрічці «Для тебе» стало 90%

Методологія розслідування

Wall Street Journal упродовж кількох місяців створював понад 100 акаунтів на TikTok, які користувалися програмою з мінімальним втручанням. 31 із них було зареєстровано від імені користувачів віком 13–15 років.

Більшості акаунтів було запрограмовано інтереси на основі ключових слів, а також машинної класифікації зображень. Якщо відео збігалося з запрограмованим інтересом – акаунт довше затримувався на нього. В іншому випадку відео швидко пропускалося.

WSJ збирав відео, значки, описи й метадані, пов'язані з кожним із цих відео.

Потім вони піддавалися внутрішньому аналізу.

Загалом акаунти переглянули 400 тисяч відео, в тому числі акаунти 13–15 літніх – близько 100 тисяч відео.