Індонезія заблокувала чат-бот Grok через скандал із генерацією забороненого контенту

10 січня Індонезія тимчасово обмежила доступ до чат-бота Ілона Маска Grok через ризик порнографічних матеріалів. Це відбулося після того, як уряди та регуляторні органи від Європи до Азії засудили, а деякі почали розслідування щодо сексуалізованого контенту в додатку.

Про це повідомляє Reuters.

Фото: Reuters / Dado Ruvic

Це перший випадок, коли держава офіційно заблокувала доступ до чат-бота, розробленого компанією xAI, що належить Ілону Маску. Міністерка зв’язку та цифрових технологій Індонезії Меутія Хафід заявила, що створення сексуальних діпфейків без згоди є серйозним порушенням прав людини, а також загрозою гідності та безпеці громадян у цифровому просторі.

Індонезійське міністерство також викликало представників компанії X для пояснень і обговорення ситуації. 

У США група сенаторів-демократів — Рон Вайден, Бен Рей Лухан та Едвард Маркі — звернулася до Apple і Google із закликом тимчасово видалити соціальну мережу X та чат-бот Grok з магазинів застосунків. На їхню думку, платформи мають залишатися недоступними, доки компанія не усуне порушення власної політики.

Скандал розгорівся після повідомлення Bloomberg від 2 січня, у якому йшлося про те, що Grok генерував зображення неповнолітніх у відвертому вигляді, попри заборону сексуалізації дітей у правилах самого чат-бота.

Після резонансу в медіа Ілон Маск заявив, що користувачі, які створюють незаконний контент за допомогою Grok, нестимуть таку саму відповідальність, як і ті, хто його поширює. Сам чат-бот визнав наявність “прогалин у захисних механізмах”.

Розслідування щодо діяльності Grok уже розпочали у Франції та Малайзії, де йдеться про створення сексуалізованих зображень жінок і дітей. В Індії заявили, що компанія X повинна вжити заходів для обмеження генерації контенту, який порушує національне законодавство. Європейська комісія назвала подібні діпфейки на платформі X незаконними та неприйнятними, а прем’єр-міністр Великої Британії Кір Стармер допустив можливість блокування X у країні.

За даними Bloomberg, Grok щогодини створював близько 6,7 тисячі зображень із сексуальним підтекстом або оголеними тілами, тоді як інші подібні платформи — лише кілька десятків. На тлі хвилі критики 9 січня стало відомо, що Grok вимкнув функцію генерації зображень для більшості користувачів.

Нагадаємо, що 10 січня компанія xAI, що належить американському мільярдеру Ілону Маску, обмежила функцію створення та редагування зображень у чат-боті Grok, вбудованому в соціальну мережу X. Рішення ухвалили після скандалу через генерацію сексуалізованого контенту, зокрема за участі жінок і дітей.

Після розголосу журналісти Reuters зафіксували зміни в роботі чат-бота: під час спроби перетворити звичайні фото на зображення в бікіні Grok відмовив у виконанні запиту, заявивши, що ця функція доступна лише для платних передплатників X. У компанії зазначили, що дані передплатників зберігаються, що дозволяє ідентифікувати користувачів, які порушують правила.