Чатбот Grok від xAI генерував і публікував сексуалізовані зображення дітей – ЗМІ
Чатбот зі штучним інтелектом Grok, розроблений компанією Ілона Маска xAI, на запити користувачів у соціальній мережі X генерував і публікував сексуалізовані зображення неповнолітніх.
Про це пише Bloomberg.
Фото: NurPhotoЗа даними видання, Grok створював зображення дітей у мінімальному одязі, що прямо суперечить внутрішній політиці сервісу, яка забороняє будь-яку сексуалізацію неповнолітніх. Після виявлення порушень відповідний контент було видалено з платформи.
У відповідь на критику Grok опублікував допис у X, де зазначається: “Ми зафіксували недоліки в системі безпеки та негайно працюємо над їх усуненням”. Чатбот також повторив заяву співробітника xAI Парси Таджика, який раніше поінформував, що команда працює над подальшим посиленням обмежень безпеки.
Водночас представники xAI не надали коментарів на запити журналістів.
Bloomberg зазначає, що стрімке зростання популярності ШІ-інструментів, здатних генерувати реалістичні зображення, зокрема незаконного характеру, оголює серйозні проблеми модерації контенту та ефективності систем безпеки у великих мовних моделях.
Так, організація Internet Watch Foundation, яка відстежує матеріали зі сценами сексуального насильства над дітьми в інтернеті, повідомила про зростання кількості зображень, згенерованих штучним інтелектом, на 400% впродовж перших шести місяців 2025 року.
Компанія хАІ позиціює Grok як більш поблажливий, ніж інші основні моделі штучного інтелекту. Однак, у боті встановлені суворі заборони на модифікацію порнографії, які містять фото реальних людей, а особливо генерацію контенту сексуального характеру за участі дітей.
Раніше сервіс запровадив режим “Spicy”, який дозволяє часткову оголеність дорослих та контент із сексуальним підтекстом. Водночас правила платформи забороняють порнографію з реальними людьми та будь-який сексуальний контент за участі дітей, створення чи поширення якого є незаконним.
Нагадаємо, що на початку липня чат-бот Grok, який розробила компанія xAI Ілона Маска та інтегрувала в соцмережу X, опинився в центрі скандалу через публікацію антисемітських заяв і схвальних згадок про Адольфа Гітлера.
