За допомогою штучного інтелекту деякі користувачі генерують та продають дитяче порно – розслідування ВВС
Компанія ВВС виявила, що деякі користувачі використовують технологію штучного інтелекту для створення та продажу реалістичних матеріалів про сексуальне насильство над дітьми. “Покупці” отримують доступ до зображень за підписку на облікові записи на основних сайтах обміну контентом, таких як Patreon. Сам Patreon нібито дотримується політики “нульової толерантності” до таких зображень на своєму сайті.
Про це йдеться у новому розслідуванні ВВС.
Фото: OutlookТворці таких зображень використовують програмне забезпечення зі штучним інтелектом під назвою Stable Diffusion.
Ця програма дозволяє користувачам описувати будь-яке зображення, яке вони хочуть створити, а потім вона генерує його. Програма призначена для створення зображень для використання в мистецтві чи графічному дизайні, проте розслідувачі BBC виявили, що її також використовують для створення зображень сексуального насильства над дітьми, зокрема зґвалтування немовлят.
Після цього таку рекламу цих зображень “продавці” публікують на популярній японській платформі соціальних мереж під назвою Pixiv, яку в основному використовують художники манги та аніме. Сайт розміщено в Японії, де поширення сексуалізованих мультфільмів і малюнків дітей не є протизаконним.
У Pixiv заявили, що компанія приділяє величезну увагу розвʼязанню цієї проблеми. Зокрема, вона заборонила всі зображення сексуального контенту за участю неповнолітніх, які схожі на реалістичні.
Ці облікові записи мають посилання, які скеровують клієнтів до відвертіших зображень, за перегляд яких люди мають платити гроші на таких сайтах, як Patreon.
Рада начальника національної поліції вважає обурливим, що деякі платформи одержують величезний прибуток, але не беруть на себе моральної відповідальності за розміщення такого контенту.
Тим часом урядове агентство з розвідки, безпеки та кібербезпеки відреагувало на розслідування, заявивши: “Злочинці, які вчинили сексуальне насильство над дітьми, використовують усі доступні технології. Дехто вважає, що деякі матеріали про сексуальне насильство над дітьми є контентом, згенерованим штучним інтелектом”.
За володіння, публікацію чи передачу “псевдозображень”, створених компʼютером, на яких зображене сексуальне насильство над дітьми, передбачається така ж відповідальність перед законом, як і за справжні фотографії.
Керівник Національної ради начальників поліції з захисту дітей Ян Кричлі наголосив, що було б неправильно стверджувати, що через ці згенеровані зображення ніхто не постраждав, оскільки до їх створення не залучали справжніх дітей.
Він попередив, що такі користувачі можуть “перейти від штучного до фактичного жорстокого поводження з живою дитиною”.
Нагадаємо, що у 2022 році платформа PornHub повідомила, що почне співпрацювати з благодійними організаціями, щоб запобігти поширенню контенту, пов’язаного із сексуальним насильством над дітьми.
Якщо користувач сайту введе в пошукову стрічку одне з цих ключових слів, пов’язаних із жорстоким поводженням з дітьми, він отримає повідомлення про відсутність результатів і те, що він шукає потенційно образливий і незаконний контент. Після цього користувача переспрямують до чату службової підтримки, де з ним проведуть розмову й запропонують психологічну допомогу від благодійної організації.
