Штучний інтелект може загрожувати пам’яті про Голокост через фабрикування або спотворювання історичних записів– ЮНЕСКО

Штучний інтелект (ШІ) загрожує пам’яті про Голокост, оскільки створений ним контент може фабрикувати або спотворювати історичні записи та посилювати упередження.

Про це пише “Детектор медіа” з посиланням на статтю у виданні The Art Newspaper.

Джерело: © nellis.af.mil

Зловмисники можуть використовувати ці недоліки для поширення дезінформації, наголосили у звіті. Особливо вразливим у цьому сенсі є молоді люди, оскільки вони дедалі більше покладаються на генеративні інструменти для пошуку інформації в інтернеті.

Якщо дозволити “розмивати, спотворювати або фальсифікувати через безвідповідальне використання ШІ жахливі факти Голокосту”, це може призвести до вибухового поширення антисемітизму та поступового зменшення розуміння причин і наслідків цих жорстокостей, заявив директор ЮНЕСКО.

Дослідники наголосили, середній вік тих, хто пережив Голокост, зараз складає 86 років, тож живий зв’язок зі свідками геноциду євреїв поступово зникає. Завдання захисту історичних пам’яток та збереження свідчень для майбутніх поколінь у боротьбі з ненавистю та антисемітизмом покладений на заклади освіти та культури.

Інструменти на базі ШІ можуть допомогти дослідникам опрацьовувати та видобувати величезну кількість даних про Голокост, які охоплюють роки, мови та носії від фотографій і тексту до відео та аудіозаписів.

Як приклад, в ЮНЕСКО навели роботу в Арольсенському архіві — найповнішій у світі колекції оригінальних документів та особистих речей 17,5 мільйона людей, які постраждали від нацистських переслідувань. Штучний інтелект допомагає видобувати та перевіряти мільйони документів і надсилати 20 тисяч запитів на рік.

Використовує обробку природної мови та генеративний ШІ для ідентифікації раніше невідомих жертв також і Всесвітній центр пам’яті жертв Голокосту в Єрусалимі.

Генеративний ШІ для освітніх цілей використовують багато інших культурних установ.

Однак в ЮНЕСКО попередили, що ці ж самі технології можна використовувати для посилення повідомлень ненависті та дезінформації або для спрощення складної історії. У звіті нагадали, як провідні чатботи реагували на підказки про Голокост історично неправильними відповідями. Виявилося, що алгоритми, які наказують пошуковим системам і платформам соцмереж віддавати перевагу вмісту, орієнтованому на залучення уваги, можуть увічнити брехню та посилити регіональні упередження. У звіті встановлено, що генеративний ШІ може повністю винаходити неправдиві наративи та джерела.

У руках зловмисників ШІ може стати інструментом обману та ненависті у формі дипфейків і оманливих цифрових зображень, відео чи звукозаписів, що пропагують шкідливу ідеологію. Відомі приклади – суперечливий додаток, який імітував розмови з історичними особами, зокрема Адольфом Гітлером, і фейк про актрису Емму Вотсон, яка нібито читає його книгу “Майн Кампф”.

Водночас такі зловживання не залишаються непоміченими широким загалом. Так, 2023 року дослідники Антидифамаційної ліги виявили, що 84% американців стурбовані тим, що інструменти ШІ використовуватимуться для поширення неправдивої або оманливої ​​інформації, 70% вважають, що це посилить екстремізм, ненависть або антисемітизм у США.

У звіті ЮНЕСКО, опублікованому у партнерстві зі Всесвітнім єврейським конгресом, закликали технологічні компанії тісно співпрацювати з тими, хто пережив Голокост та їхніми нащадками, а також експертами з антисемітизму та істориками при розробці інструментів ШІ, а також створити відповідні етичні принципи.

“Поки політики та розробники не приймуть етичні стандарти, тягар визначення легітимності контенту про Голокост лежить на педагогах та окремих особистостях”, – йдеться у звіті.

Раніше ZMINA повідомляла про те, що Кабінет Міністрів України розробив рекомендації щодо безпечної та ефективної інтеграції штучного інтелекту в шкільну освіту.