Grok AI продовжує створювати сексуалізовані зображення дітей та жінок усупереч обіцянці платформи припинити такі дії

На платформі X, яка належить Ілону Маску, користувачі продовжують публікувати зображення дітей і жінок із цифровим видаленням одягу через Grok AI попри заяву компанії про блокування акаунтів, що створюють такий контент.

Про це повідомляє The Guardian.

Фото: Dado Ruvic / Reuters

Британський регулятор Ofcom заявив, що звернувся до X та xAI, щоб дізнатися, які заходи компанія вжила для дотримання законодавства Великої Британії щодо захисту користувачів. За даними регулятора, він оцінить необхідність відкриття розслідування залежно від відповіді компанії.

Політики та активісти з прав жінок критикують уряд Великої Британії за затягування впровадження закону, ухваленого шість місяців тому, який забороняє створення таких інтимних зображень без згоди особи. Європейська комісія також заявила, що серйозно розглядає скарги на використання Grok для створення та поширення сексуально відвертих зображень, що нагадують дітей.

Проблема виникла після оновлення Grok у грудні, що спростило користувачам можливість завантажувати фотографії та змінювати їх, щоб показати людину в мінімальному одязі або спідній білизні в сексуально провокативних позах. Хоча платформа не дозволяє повне оголення, користувачі можуть створювати зображення, які роблять людей “підкреслено оголеними”.

Дослідження AI Forensics у Парижі показало, що понад половину з 20 тисяч перевірених зображень демонструють людей у білизні або купальниках, більшість – жінки до 30 років, а близько 2% – діти, деякі віком до п’яти років. Значна частина матеріалу досі доступна онлайн і охоплює запити на створення пропаганди нацистів та ІДІЛ.

Ілон Маск спочатку жартував з контенту, але після світового резонансу заявив, що користувачі, які створюють незаконний контент через Grok, отримають ті самі наслідки, що й за завантаження незаконного матеріалу. Представник X повідомив, що компанія видаляє незаконний контент, включно з матеріалами сексуального насильства над дітьми, та блокує акаунти.

Попри попередні заяви Grok про виправлення недоліків у безпеці, компанія не підтвердила реальні дії для усунення проблем.

Законодавство Великої Британії вже забороняє створення інтимних зображень дітей, тоді як правила щодо дорослих ще не повністю впроваджено. Кампанії активістів закликають уряд якнайшвидше реалізувати закон, який робить незаконним створення та запит на створення інтимних дипфейків без згоди, щоб захистити права потерпілих.

Представники Консервативної та Лейбористської партій вважають, що Grok AI та Ілон Маск є безпосередньо відповідальними за сексуальне приниження людей і що уряд має терміново впровадити наявні норми для захисту від насильства в цифровому середовищі.

Нагадаємо, що торік чатбот Grok уже потрапляв у скандал, коли поставив під сумнів загальновизнану оцінку кількості єврейських жертв Голокосту.