Чат-бот Grok перестав створювати сексуалізовані зображення жінок після погроз заборони в Британії

Соціальна мережа X, яка належить Ілону Маску, обмежила роботу свого чат-бота зі штучним інтелектом Grok після тиску з боку британської влади та загрози заборони платформи у Великій Британії.

Про це повідомляє портал Yahoo!. 

Фото: Shutterstock

Так, Grok перестав виконувати запити на створення сексуалізованих зображень жінок, зокрема в купальниках, а також відмовляється від прохань зобразити жінок у сексуальних позах або відвертих сценаріях. Це свідчить про те, що компанія xAI, яка розробляє Grok і належить Маску, посилила обмеження в роботі бота на тлі тиску з боку урядів, зокрема у Великій Британії.

Водночас обмеження залишаються неповними. Grok і далі створює зображення чоловіків або неживих об’єктів у бікіні. Окремий мобільний застосунок Grok, який працює незалежно від платформи X, також продовжує генерувати такі зображення.

Регулятор у сфері медіа Ofcom розпочав розслідування щодо X. Уряд Великої Британії заявив, що підтримає регулятора, якщо той ухвалить рішення про заборону платформи в країні. Міністри публічно назвали згенеровані зображення неприйнятними. Міністерка технологій Ліз Кендалл заявила, що платформа може порушувати закон, створюючи й поширюючи такі матеріали, і повідомила про намір уже цього тижня криміналізувати створення дипфейків.

Прем’єр-міністр Кір Стармер раніше заявив у парламенті, що X може втратити право на саморегулювання, якщо компанія не здатна контролювати роботу Grok. Він наголосив, що в такому разі втрутиться держава. Європейський Союз також пригрозив X власним розслідуванням, яке може завершитися значними штрафами.

Після оновлення наприкінці минулого року Grok масово створював і поширював зображення жінок у бікіні. Також з’являлися повідомлення про генерацію зображень дітей у купальному одязі. Користувачі платформи систематично використовували бот для цькування жінок, зокрема у відповідях на їхні дописи, замовляючи зображення з їхніми обличчями. Серед постраждалих опинилися відомі публічні особи, зокрема принцеса Уельська та віцепрем’єрка Швеції Ебба Буш.

У п’ятницю X обмежив доступ до функції створення таких зображень лише для користувачів платної верифікації. Водночас Grok і далі виконував відповідні запити для підписників. Представники уряду Великої Британії розкритикували це рішення, заявивши, що компанія фактично перетворила зловживання інтимними зображеннями на платну послугу.

У вівторок у приватних чатах Grok почав відмовлятися від створення зображень жінок у купальниках або сексуальних позах. У відповідях бот пояснював, що не може виконувати такі запити, оскільки вони пов’язані з несанкціонованою маніпуляцією зображеннями реальних людей. Він також посилався на суспільну критику, регуляторний тиск із боку Великої Британії, ЄС та інших країн, а також на зафіксовану шкоду для потерпілих.

Зміни в роботі Grok підтвердили й незалежні спостерігачі. Представник некомерційної дослідницької організації AI Forensics, яка відстежує генерацію зображень цим ботом, повідомив, що організація зафіксувала нові обмеження з вівторка. Засновник некомерційної ініціативи Fairly Trained Ед Ньютон-Рекс зазначив, що ситуація демонструє ефективність суспільного тиску і доводить, що великі технологічні компанії не можуть нескінченно ігнорувати шкоду від своїх продуктів.

На цьому тлі міністр оборони США Піт Гегсет заявив, що американські військові планують інтегрувати Grok у свої системи.

Компанія X не надала коментарів у відповідь на запити медіа. Регулятор Ofcom повідомив, що не коментує перебігу чинного розслідування.