Чат-бот Grok від xAI, який генерував фотографії сексуалізованого характеру, тепер дозволяє робити це лише за гроші

Компанія xAI, що належить американському мільярдеру Ілону Маску, обмежила функцію створення та редагування зображень у чат-боті Grok, вбудованому в соціальну мережу X. Рішення ухвалили після скандалу через генерацію сексуалізованого контенту, зокрема за участі жінок і дітей.

Як повідомляють Reuters та The Guardian.

Фото: NurPhoto

Обмеженню передували численні скарги користувачів і правозахисних організацій. Зокрема, Grok дозволяв редагувати фото людей, створюючи зображення напівоголеного або оголеного характеру, фактично “знімаючи одяг” із зображених осіб.

Організація Internet Watch Foundation (IWF) виявила в мережі зображення оголених дівчат віком від 11 до 13 років, які, за твердженнями користувачів форумів, були створені саме за допомогою Grok. Про це раніше повідомляла BBC.

Після розголосу журналісти Reuters зафіксували зміни в роботі чат-бота: під час спроби перетворити звичайні фото на зображення в бікіні Grok відмовив у виконанні запиту, заявивши, що ця функція доступна лише для платних передплатників X. У компанії зазначили, що дані передплатників зберігаються, що дозволяє ідентифікувати користувачів, які порушують правила.

Обмеження також пов’язують із реакцією влади Великої Британії. За інформацією The Guardian, країна почала попереджати про можливі штрафи та навіть блокування платформи. Відповідно до британського закону про онлайн-безпеку, регулятор Ofcom може вимагати обмеження доступу до сервісу або накласти штраф у розмірі до 10% глобального обороту компанії.

Водночас журналісти з’ясували, що в окремому застосунку Grok, який працює поза соціальною мережею X і де зображення не публікуються публічно, функція створення сексуалізованого контенту для всіх користувачів усе ще залишається доступною, зокрема і щодо жінок та дітей.

Нагадаємо, чатбот Grok, розроблений компанією Ілона Маска xAI, на запити користувачів у соціальній мережі X генерував і публікував сексуалізовані зображення неповнолітніх.