Чатбот Grok згенерував мільйони сексуалізованих зображень жінок і дітей лише за 9 днів – розслідування

Чатбот зі штучним інтелектом Grok за короткий час згенерував і публічно поширив щонайменше 1,8 мільйона сексуалізованих зображень жінок.

Про це свідчить дослідження даних платформи X, які провели The New York Times і Центр протидії цифровій ненависті (Center for Countering Digital Hate, CCDH).

Фото: Shutterstock

Наприкінці грудня користувачі X масово почали надсилати чатботу запити змінювати реальні фото жінок і дітей – зокрема прибирати одяг або зображати їх у сексуалізованому вигляді. Grok публічно викладав створені ШІ зображення, що викликало хвилю обурення з боку постраждалих і регуляторів у різних країнах.

За дев’ять днів Grok опублікував понад 4,4 мільйона зображень. Аналіз The New York Times показав, що щонайменше 41% із них, тобто близько 1,8 мільйона, імовірно містили сексуалізовані образи жінок. Ширше дослідження CCDH з використанням статистичної моделі дійшло висновку, що 65% зображень – понад три мільйони – мали сексуалізований характер і стосувалися жінок, чоловіків або дітей.

Дослідження показали, з якою швидкістю Grok поширював неприйнятний контент. Саме це раніше змусило уряди Великої Британії, Індії, Малайзії та США розпочати перевірки на предмет можливих порушень законодавства. За оцінками експертів і аналізом The New York Times, обсяг таких несанкціонованих зображень за кілька днів перевищив масштаби відомих онлайн-архівів сексуалізованих дипфейків.

Голова CCDH Імран Ахмед заявив, що йдеться про масштабне системне насильство щодо жінок і дівчат. Він наголосив, що інструменти для “оголення” зображень існували й раніше, але жоден із них не мав такої простоти використання, охоплення та інтеграції у велику соціальну платформу, як це сталося з Grok.

Інтерес до функцій Grok різко зріс 31 грудня після того, як Ілон Маск опублікував створене чатботом зображення себе в купальнику, а також інші провокативні візуали. Після цього користувачі почали масово звертатися до Grok із запитами на зміну фото реальних людей, а бот публічно викладав результати.

З 31 грудня до 8 січня Grok створив понад 4,4 мільйона зображень – для порівняння, за дев’ять днів до публікацій Маска їх було трохи більше ніж 300 тисяч. Підрахунки ґрунтувалися на даних аналітичної компанії Tweet Binder.

8 січня X обмежила створення зображень Grok лише для платних користувачів, що різко зменшило обсяги контенту. Згодом компанія оголосила, що більше не дозволятиме запити на створення зображень реальних людей у відвертому одязі. У X заявили, що дотримуються нульової толерантності до сексуальної експлуатації дітей, оголення та небажаного сексуального контенту.

Після цього Grok почав відхиляти частину подібних запитів, однак обмеження не поширилися на окремий застосунок і сайт чатбота, де користувачі й далі можуть створювати сексуалізований контент приватно.

Аналіз The New York Times показав, що зміненими зображеннями стали як фото відомих інфлюенсерок, музиканток і акторок, так і знімки звичайних користувачок платформи. Деякі зображення мали відверто принизливий і сексуалізований характер.

Редакція The New York Times використала дві моделі штучного інтелекту для аналізу 525 тисяч зображень, опублікованих Grok з 1 по 7 січня, а частину результатів перевірила вручну. Окремо CCDH проаналізував випадкову вибірку з 20 тисяч зображень, створених із 29 грудня по 8 січня, і встановив, що близько 65% з них були сексуалізованими. Організація також зафіксувала понад сотню сексуалізованих зображень дітей і, проаналізувавши дані, оцінила загальну кількість таких зображень у понад три мільйони.

На тлі масового поширення цих матеріалів користувачі почали публічно вимагати їх видалення, наголошуючи, що не давали згоди на використання своїх зображень.

Експерти з онлайн-насильства зазначають, що подібні інструменти існували й раніше, однак ситуація з Grok стала безпрецедентною через публічність і масштаб. Для порівняння, один із найбільших форумів сексуалізованих дипфейків до закриття у 2023 році містив десятки тисяч відео, що стосувалися кількох тисяч людей – значно менше, ніж обсяги, зафіксовані у випадку Grok.

Нагадаємо, що поліція Японії затримала 31-річного чоловіка за продаж порнографічних матеріалів із зображеннями знаменитостей, створених за допомогою штучного інтелекту. Його колекція налічувала близько 520 000 зображень жінок, серед яких понад 300 – відомі публічні особи.