Індонезія перша у світі заблокувала чатбот Grok через сексуальні діпфейки
Уряд Індонезії оголосив про тимчасове блокування ШІ-інструмента Grok компанії xAI Ілона Маска. Причиною став сплеск створення порнографічного контенту за допомогою нейромережі, що суперечить суворим законам країни
Станом на 11 січня 2026 року Індонезія стала першою державою, яка на загальнонаціональному рівні закрила доступ до Grok. Рішення було прийняте після того, як у мережі X (колишній Twitter) почали масово поширюватися сексуалізовані діпфейки, створені чатботом, – зокрема реальних громадян Індонезії, світових знаменитостей та навіть політичних діячів. Про це повідомляє «Главком» з посиланням на Reuters.
«Уряд розглядає практику сексуальних діпфейків без згоди як серйозне порушення прав людини, гідності та безпеки громадян у цифровому просторі», – заявив міністр зв’язку та цифрових технологій Меутія Хафід.
У відомстві додали, що також викликали представників соцмережі Х для обговорення цього питання.
Індонезія, як країна з найбільшим мусульманським населенням у світі, має нульову толерантність до поширення «непристойного» контенту.
Блокування стало відповіддю на новий віральний тренд у мережі X. Користувачі використовували Grok для редагування фотографій реальних людей, даючи запити на створення зображень у напівоголеному або повністю оголеному вигляді.
Раніше Маск заявив, що будь-хто, хто використовує Grok для «створення незаконного контенту, зазнає тих самих наслідків, як і завантаження незаконного контенту».
Нагадаємо, на платформі X Ілона Маска продовжується розповсюдження принизливих зображень дітей та жінок, одяг яких був видалений за допомогою цифрового вилучення за допомогою Grok AI. Зобов’язання платформи блокувати користувачів, які їх створюють досі не діють. Після кількох днів занепокоєння щодо використання чат-бота для зміни фотографій з метою створення сексуалізованих зображень справжніх жінок та дітей, роздягнених до спідньої білизни, без їхньої згоди, британський наглядовий орган у сфері комунікацій Ofcom заявив у понеділок, що «терміново зв’язався з X та xAI, щоб зрозуміти, які кроки вони вжили для виконання своїх юридичних обов’язків щодо захисту користувачів у Великій Британії». Ofcom додав, що оцінить необхідність розслідування на основі відповіді компанії.