Малайзія та Індонезія наклали обмеження на доступ до чат-бота Grok від Ілона Маска через занепокоєння щодо застосування інструменту для створення контенту сексуального характеру.
11 січня малайзійський регулятор наказав встановити тимчасові обмеження після «повторюваних невдач X Corp» у подоланні ризиків, пов’язаних із сервісом ШІ.
За добу до цього Індонезія призупинила доступ до чат-бота через аналогічні побоювання та викликала представників фірми для обговорення питання.
Рішуча реакція країн Південно-Східної Азії виникла після повідомлень про те, що Grok дає змогу створювати матеріали за участі неповнолітніх та генерувати порнографічні зображення.
У X повідомили, що фірма усуває проблему. Як тимчасовий крок функцію генерації та редагування зображень зробили доступною лише для платних підписників.
Компанія Маска нещодавно покращила можливості Grok Imagine, полегшивши створення зображень за допомогою промптів у чат-боті. Зі свого боку підприємець попередив про відповідальність для тих, хто використовує нейромережу в нелегальних цілях.
Будь-хто, хто застосовує Grok для генерації незаконного контенту, зіткнеться з тими ж наслідками, що й у разі завантаження незаконного контенту
— Elon Musk (@elonmusk) January 3, 2026
Цих заходів недостатньо
Органи контролю Малайзії та Індонезії залишилися незадоволені вжитими діями.
Малайзійська комісія зі зв’язку та мультимедіа зазначила, що заходи «не враховують небезпеки, пов’язані з розробкою та функціонуванням інструменту ШІ».
«Обмеження запроваджується як превентивний і пропорційний захід на час проведення юридичних і нормативних процедур. Доступ до Grok буде обмежено до тих пір, поки не з’являться ефективні запобіжники, зокрема, для недопущення появи контенту, пов’язаного з жінками та дітьми», — заявив регулятор.
У Малайзії та Індонезії діють суворі закони проти порнографії, які забороняють широке розповсюдження подібного контенту в мережі інтернет.
Міністр зв’язку і цифрових технологій Індонезії Мейтія Хафід зазначила, що уряд розглядає створені без дозволу сексуальні дипфейки як значне порушення прав людини, гідності та безпеки громадян у цифровому просторі.
Вона класифікує застосування ШІ для створення фальшивої порнографії як форму «цифрового насилля».
Масштабні наслідки
Регулятори ЄС, Великої Британії, Бразилії та Індії вимагають розслідувати роль Grok у поширенні діпфейків.
Британська організація Internet Watch Foundation повідомила, що її аналітики виявили «кримінальні зображення» дітей віком від 11 до 13 років, які, ймовірно, зроблені за допомогою Grok.
У Лондоні допустили радикальні заходи: міністерка технологій Ліз Кендалл підтвердила, що підтримає рішення про блокування X, якщо платформа не дотримуватиметься норм безпеки. Американські законодавці також запропонували маркетплейсам видалити додаток до вирішення проблеми.
Влада різних держав в екстреному порядку вирішує, як регулювати ШІ, який використовують для «роздягання» людей на знімках.
Не перший скандал
Раніше Grok неодноразово піддавали критиці за розповсюдження фейків та сумнівної інформації.
У грудні чат-бот давав неправдиву інформацію про масову стрілянину на пляжі Бонді в Австралії. У відповідь на питання про відео, на якому випадковий перехожий Ахмед аль-Ахмед боровся зі стрільцем, ШІ відповів так:
«Схоже, це старий вірусний ролик, на якому чоловік вилазить на пальму на парковці, можливо, щоб підрізати її. В результаті гілка впала на пошкоджений автомобіль. Пошук за різними джерелами не надав підтверджених відомостей про місце, дату та травми. Можливо, це інсценування, автентичність не доведена».
У липні користувачі зауважили, що нейромережа покладається на думку Ілона Маска під час формування відповідей. Це стосувалося зокрема теми конфлікту між Ізраїлем і Палестиною, абортів та імміграційного законодавства.
Спостереження дають привід припустити, що чат-бота навмисно налаштували враховувати політичні погляди Маска у відповідях на контроверсійні питання.
Раніше мільярдер заявив, що його стартап перепише «всі людські знання» для навчання нової версії Grok, оскільки зараз «занадто багато сміття в будь-якій базовій моделі, навченій на невідкоригованих даних».
Згодом з’явилася Grokipedia — заснована на базі штучного інтелекту онлайн-енциклопедія, «орієнтована на істину».
Нагадаємо, у листопаді користувачі звернули увагу на упередженість Grok 4.1 — нова модель суттєво переоцінювала здібності Ілона Маска.