“Привіт, мене звуть Джеймс Балджер” – так починається відео, створене за образом дворічного британського хлопчика, якого викрали та вбили 1993 року, поки його мати платила за продукти.
Редакція CNN змогла створити відео з цитатами Гітлера в тіктоку: це трапилося через помилку в ШІ-інструменті
Дата:
24 Червня 2024
Тікток випадково розмістив посилання на внутрішню версію свого нового інструменту цифрових аватарів зі штучним інтелектом без обмежень, які дозволяють користувачам створювати ролики з будь-яким озвучуванням. Збій виявила редакція CNN, яка спробувала створити відеоролики, які містять цитати Гітлера і повідомлення із закликами до людей пити відбілювач. Згодом тікток видалив цю версію інструменту.
Про цей інцидент повідомляє видання The Verge.
Фото: Dan Kitwood / Getty ImagesСоцмережа “Тікток” випробовує новий ШІ-інструмент під назвою “Symphony Digile Avatars Tiktok”, який дозволяє створювати відео з цифровими аватарами та їхнім озвученням на основі зображень на плакатах та розміщених на них закликів.
Через помилку посилання на цей інструмент опублікували для користувачів-рекламодавців у тіктоку Ads Manager. Скориставшись цією можливістю, редакція CNN створила відео з цитатами Гітлера, що суперечать правилам контенту соцмережі. Зокрема, журналісти згенерували відео з цитатами Гітлера про “білу расу”, відео з промовою Осами Бін Ладена “Лист до Америки”, а також фейкову інструкцію щодо голосування на виборах.
Хоча CNN не опублікувала ці відео, The Verge зазначає, що наразі інструмент не має жодних обмежень щодо створення забороненого контенту і не передбачає додавання водяних знаків на ШІ-відео.
Прессекретарка соцмережі “Тікток” Лора Перес запевнила медіа, що, якби CNN опублікувала такі відео в соцмережі, їх би заблокували за порушення встановлених стандартів.
Нагадаємо, що минулого року в тіктоці з’являлися відео, на яких померлі діти детально розповідали про власну смерть. Реалістичні зображення справжніх дітей генерував штучний інтелект. Рідні, які побачили історії своїх померлих дітей у соцмережі, були обурені.
“Якби моя мама повернулася праворуч, зараз я міг би бути живим. На жаль, вона повернулася ліворуч”, – каже дитячий голос, посилаючись на матір Джеймса. Та дійсно колись казала, що це стало найбільшим її болем: якби вона повернулася праворуч, то побачила б, як її сина забрали двоє 10-річних хлопців, які потім знущалися з нього й зрештою вбили.
Рідні померлих дітей борються проти таких публікацій. Зокрема, Амелі Лемʼє побачила в тіктоці відео, у якому її 11-річна донька Нора розповідала про те, що її та її шестирічну сестру Ромі вбив їхній батько, який потім покінчив життя самогубством.
Після розголосу тікток видалив анонімний обліковий запис, на якому з’явилося відео. Автор ролика досі невідомий.
Також мережа видалила кілька відеороликів, на яких хлопчик, на імʼя Джеймс, розповідає про своє викрадення та смерть у Кіркбі, багато з них досі доступні для перегляду на ютубі.
