Британська парламентарка вимагає через суд заборонити Grok генерувати її сексуалізовані зображення

Британська депутатка Джесс Асато подала позов проти компанії xAI, що належить Ілону Маску, через створення чат-ботом Grok фейкових сексуалізованих зображень за її участю. Вона вимагає, щоб суд зобов’язав компанію технічно заблокувати можливість генерувати будь-які сексуалізовані зображення без її згоди.

Про це повідомляє Reuters.

Джесс Асато. Фото з її соцмереж

Депутатка від Лейбористської партії Джесс Асато ще минулого місяця заявила, що після її публічної критики Ілона Маска та чат-бота Grok користувачі почали створювати фейкові зображення й відео за її участю. Серед них, за її словами, було й відео, на якому її нібито присипляють хлороформом перед сексуальним насильством.

Асато звернулася до Високого суду Лондона. Вона звинувачує xAI в незаконному використанні приватної інформації та порушенні законодавства про захист персональних даних. На її думку, компанія розробила й навчила Grok так, що він здатен генерувати сексуалізований контент.

У позові депутатка просить суд зобов’язати xAI запровадити постійні й ефективні технічні обмеження, які унеможливлять створення змінених зображень з її участю.

Адвокати Асато вважають, що ця справа може вплинути на всіх розробників систем штучного інтелекту. Раніше суди ще не застосовували норми законодавства про захист персональних даних і приватності до розробників ШІ саме в такому контексті.

Компанія xAI, яка входить до бізнес-імперії Ілона Маска, на момент публікації не прокоментувала позов. Водночас Grok, який працює на платформі X, також поки не подав офіційної відповіді до суду.

Останнім часом Grok опинився під увагою регуляторів у кількох країнах через можливість створювати сексуалізовані зображення людей без їхньої згоди.

Сам Ілон Маск неодноразово критикував британське законодавство щодо безпеки в інтернеті. Він стверджував, що, зокрема, Закон про онлайн-безпеку (Online Safety Act), який вважають одним з найсуворіших у світі, може обмежувати свободу слова.

У матеріалах справи адвокати Асато також навели внутрішні інструкції (промпти), за якими працює Grok. Зокрема, чат-боту наказували не допомагати користувачам, якщо ті очевидно намагаються скоїти злочин. Водночас, за словами юристів, система також отримала вказівку, що не має обмежень щодо сексуального контенту для дорослих або образливого контенту.

Крім того, в іншій внутрішній інструкції зазначено, що для вигаданого сексуального контенту за участю дорослих, навіть із жорстокими чи насильницькими сюжетами, також не встановили жодних обмежень.

Адвокат депутатки Раві Наїк заявив, що Grok працює саме так, як його запрограмували розробники, а тому вони мають юридично відповідати за наслідки своїх рішень. За його словами, якщо xAI не усуне проблему добровільно, позивачка просить суд зобов’язати компанію погодити систему з вимогами закону.

Позов подали на тлі дедалі більшого занепокоєння щодо роботи Grok. У середині січня xAI повідомила, що обмежила можливості редагування зображень у чат-боті та заблокувала створення зображень людей у відвертому одязі там, де це забороняє закон.

Утім, на початку лютого журналісти Reuters зʼясували, що навіть після запровадження цих обмежень Grok продовжував створювати сексуалізовані зображення людей, хоча користувачі прямо зазначали, що зображені особи не давали на це згоди.

У березні влада американського міста Балтимор також подала позов проти xAI через створення Grok фейкових сексуалізованих зображень. Подібні судові справи вже розглядають і в інших штатах США, а також у Нідерландах.

Нагадаємо, що жінки, які працюють у публічній сфері, дедалі частіше стикаються з новими й складнішими формами онлайн-насильства. Розвиток штучного інтелекту зробив так зване віртуальне зґвалтування доступним інструментом для кривдників.