У xAI заявили, що закон порушує право на свободу слова, гарантоване Конституцією США. Компанія також стверджує, що її інструмент Grok Imagine має захист від створення оголених або сексуалізованих зображень реальних людей.
Фахівці IWF відзначили, що в даркнеті педофіли цікавляться тим, наскільки реалістичною стає генерована ШІ картинка або відео, і як технологія може додавати звук або змінювати зображення реальних дітей, яких вони знають.
У коментарях користувачі соцмереж зазначали, що така естетика нормалізує сексуалізацію школярок, змішує освітній простір із дорослою еротизованою візуальною мовою та суперечить принципам захисту прав дитини.
Компанія X поки не прокоментувала жодне з розслідувань. Раніше вона називала дії французьких органів атакою на свободу слова.
Наприкінці грудня користувачі X масово почали надсилати чатботу запити змінювати реальні фото жінок і дітей – зокрема прибирати одяг або зображати їх у сексуалізованому вигляді. Grok публічно викладав створені ШІ зображення, що викликало хвилю обурення з боку постраждалих і регуляторів у різних країнах.
Протягом шести місяців, з грудня 2024 до травня 2025 року, Тецуро Чіба незаконно продавав пакети з 14 графічних зображень за встановленою ціною. Його прибутки, за даними слідства, перевищили 70 000 доларів.
Водночас обмеження залишаються неповними. Grok і далі створює зображення чоловіків або неживих об’єктів у бікіні. Окремий мобільний застосунок Grok, який працює незалежно від платформи X, також продовжує генерувати такі зображення.
Журналісти Reuters зафіксували зміни в роботі чат-бота: під час спроби перетворити звичайні фото на зображення в бікіні Grok відмовив у виконанні запиту, заявивши, що ця функція доступна лише для платних передплатників X.
Grok створював зображення дітей у мінімальному одязі, що прямо суперечить внутрішній політиці сервісу, яка забороняє будь-яку сексуалізацію неповнолітніх. Після виявлення порушень відповідний контент було видалено з платформи.
Щоп’ятниці отримуйте найцікавіші матеріали тижня: важливі новини та актуальні анонси, розлогі тексти й корисні інструкції.