Китайська компанія за допомогою ШІ згенерувала клон реальної українки, який у соцмережах видає себе за росіянку

Ольга Лоєк, 20-річна українка, яка навчається в Університеті Пенсильванії та веде ютуб-канал, де розповідає про ментальне здоров’я, виявила в китайських соцмережах свій клон, згенерований штучним інтелектом, який видає себе за “російську красуню” і розповідає про любов до Китаю.

Про це пише “Голос Америки”.

Джерело: “Голос Америки”

Для створення клону використали технологію компанії штучного інтелекту HeyGen. Її раніше вже використовували, зокрема, для відео, де Дональд Трамп і Тейлор Свіфт розмовляють ідеальною китайською мовою. Ці відео стали вірусними в китайських соцмережах у жовтні 2023 року.

Клон українки в китайських соцмережах, представлений росіянкою на ім’я Наташа, або Анна, або Грейс, залежно від платформи соцмереж, розмовляє китайською, розповідає про свою любов до Піднебесної та бажання вийти заміж за китайця.

Лоєк виявила кілька десятків відео, на яких її аватар розмовляє китайською. Більшість з облікових записів запрошує глядачів відвідати онлайн-магазини, щоб купити “справжні російські товари”.

В інших роликах аватари українки розповідають про те, як вони цінують тісні зв’язки Росії та Китаю, а також вихваляють китайську історію та культуру. У деяких – розповідають про те, як росіянки хочуть вийти заміж за китайця.

“Якщо ви одружитеся з російськими жінками, ми будемо прати білизну, готувати, мити посуд щодня. Ми також народимо вам дітей скільки захочете”, – каже клон Лоєк.

Китайська версія TikTok – Douyin – деякі з цих відео позначила як потенційно згенеровані ШІ. Попри це багато хто з користувачів, судячи з коментарів, вірить, що це справжня жінка.

У коментарі “Голосу Америки” Ольга Лоєк наголосила, що ніколи не скаже подібних речей.

На найбільшому відеосайті Китаю Bilibili деякі відео з ШІ, в яких використовується клон Лоєк, позначено логотипом HeyGen. Це вказує на те, що відео створено на вебсайті компанії. В одному відео з Bilibili навіть показують, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Лоєк, пише “Голос Америки”.

Компанія штучного інтелекту HeyGen має штаб-квартиру в Лос-Анджелесі та працює в Китаї з 2020 року. Вона спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладі відео. 

У політиці модерації компанії зазначено, що користувачі не можуть створювати аватари, які зображують реальних людей, включно зі знаменитостями або громадськими діячами, без явної згоди. Навчальний ролик компанії зі створення аватарів показує, що користувачі повинні надіслати відео людей, які дають на це згоду.

Після того як Лоєк та її підписники на ютубі надіслали скарги китайським соцмережам, близько десятка облікових записів з її клоном видалили.

Дівчина не планує залишати ютуб або припиняти публікації, але впевнена, що потрібна певна нормативна база, щоб запобігти подібним речам.

Як пише “Голос Америки”, уряд Китаю на початку 2023 року запровадив положення щодо регулювання дипфейків та інших сервісів глибокого синтезу. Документ забороняє створювати дипфейки без згоди людей, чиє зображення чи інша інформація використовуються.

У лютому 2023 року дослідницька компанія Graphika виявила кампанію в соцмережах, яка просувала інтереси Пекіна у відео з використанням реалістичних людей, створених комп’ютером.

У вересні того ж року Державний департамент США попередив: “Доступ до глобальних даних у поєднанні з останніми розробками в технології штучного інтелекту дозволить КНР хірургічним шляхом націлюватися на іноземну аудиторію і в такий спосіб, можливо, впливати на економічні рішення та рішення щодо безпеки на свою користь”.

Раніше ZMINA повідомляла про те, що 2 лютого 27 країн, які є членами Євросоюзу, одноголосно схвалили першу у світі комплексну збірку правил роботи штучного інтелекту. Це перша спроба регулювання ШІ.