Чому я вирішила створити реєстр урядових ШІ-проєктів і до чого тут права людини

У 2019 році уряд оголосив про створення “держави в смартфоні”. Тоді ми напівжартома ставили питання, а кому ж належить той смартфон. Навесні ж 2026 року український уряд змінив курс від цифровізації до створення “агентної держави“, де агенти штучного інтелекту “проактивно виконуватимуть завдання від імені громадян та держави”. Тобто це вже не лише про державу в смартфоні, а й про реалізацію своїх прав і свобод через алгоритми. 

Кенійська покрівля і дискримінація 

Поки Україна будує “агентну державу”, у світі вже зафіксовано низку скандалів навколо урядових ШІ-проєктів. Мені найбільше запам’яталося травневе розслідування Lighthouse Reports у Кенії. Журналісти викрили, як алгоритм, що мав би передбачати дохід і встановлювати розмір медичного страхового внеску, систематично завищував вартість страхування для найбідніших громадян і занижував її для заможних, спираючись на такі змінні, як-от матеріал даху чи підлоги будинку. Медіа витратили значну частину часу на те, щоб отримати саму методологію, відтворити її на даних і підтвердити хибність рішень системи. Бідні сім’ї отримали платіжки з помилково завищеними сумами, що погіршило їхній доступ до медицини. Правозахисники наголошують: алгоритми в урядових ШІ-проєктах мають бути відкритими й зрозумілими, а остаточне рішення має перевіряти та ухвалювати людина, яка й відповідатиме за нього. 

У контексті прав людини взаємодія громадян з державою через агентів штучного інтелекту створює додаткові ризики та покладає нові зобов’язання на державу. Ідеться не лише про створення зручного інтерфейсу чи помічника, а й про обов’язок пояснити, як і на основі чого він працює, чому ухвалює саме таке рішення, як і де обробляють персональні дані користувачів, як оскаржити ці рішення тощо. Це надважливий аспект у розбудові “агентної держави”: коли громадянам усе пояснюють, конкретні люди (відповідальні за послугу чи рішення) перебувають у центрі (в циклі) системи й лише вони остаточно ухвалюють рішення та відповідають за нього. Ці принципи згадано в стратегічному документі “Розбудова агентної держави в Україні. Дорожня карта від візії до впровадження” (англійською мовою), однак законодавчого закріплення принципів “human-in-the-loop” (“людина в циклі“), відповідального та людиноцентричного ШІ в Україні досі немає. А впровадження урядових ШІ-проєктів водночас іде повним ходом.

Разом з тим, згідно з Регламентом ЄС про штучний інтелект (EU AI Act), системи ШІ, що використовуються у сфері публічних послуг, соціальної допомоги, охорони здоров’я та правосуддя, належать до категорії високого ризику. Це вимагає обов’язкового оцінювання впливу на фундаментальні права громадян, реєстрації в публічному реєстрі ЄС та проведення аудиту відповідності ще до розгортання таких систем. А оскільки гармонізація з правом ЄС є обов’язковою умовою набуття членства України в Євросоюзі, імплементація цих (і багатьох інших) стандартів є лише питанням часу. Цей процес має відбуватися паралельно з розгортанням алгоритмів, а не після нього.

Хаос державних ШІ-проєктів 

Коли я почала аналізувати, яка ситуація з впровадженням урядових ШІ-проєктів в Україні, то побачила, наскільки розрізнено і хаотично все відбувається. Попри заснування Центру передового досвіду з розробки й інтеграції штучного інтелекту в Україні при Мінцифрі, наявні масштабні проєкти зі створення урядових ШІ-агентів, плани уряду до 2030 року ввести Україну до трійки провідних країн світу з розроблення та впровадження ШІ в державному секторі, у нас досі немає відповідної затвердженої політики, аудиту ШІ-інструментів, які вже використовують в уряді (а треба і на місцевому рівні), а також відповідного реєстру. У нас також немає незалежного органу, який би моніторив та захищав дотримання прав людини в “агентній державі”. 

Хаос “агентної держави” видно й у публічних закупівлях. Поверхневий моніторинг системи електронних закупівель Prozorro показує, що центральні органи влади, місцеві органи влади, ради, виші, лікарні та інші вже витрачають мільйони гривень платників податків на ШІ-інструменти, обладнання та сервіси. Це і побудова “Суверенної фабрики ШІ” від Міністерства цифрової трансформації вартістю понад 220 млн грн, і системи  розпізнавання облич для поліції, ШІ-моделі для медицини чи закупівля окремими органами послуг відомих ШІ-компаній.

Аналіз тендерної документації показує повну відсутність уніфікованих вимог до етики, безпеки та прозорості: кожне відомство закуповує ШІ-продукти й послуги на власний розсуд (у документації його складно побачити). Це створює величезні ризики неефективного використання коштів, порушення прав громадян та залежності від конкретних компаній, постачальників. Велика Британія, до прикладу, розробила і впроваджує посібник щодо закупівель ШІ. 

Реєстр потрібен на вчора 

Тому я вирішила зібрати інформацію з відкритих джерел про урядові ШІ-агенти, асистентів, проєкти, плани щодо впровадження ШІ-інструментів і створила “Громадський реєстр урядових ШІ-агентів та асистентів”. Це спроба зробити перший крок до побудови інструментарію алгоритмічної підзвітності та прозорості (Algorithmic Accountability Stack) в Україні. 

Це громадська, а не офіційна ініціатива, дані можуть бути неповними. Можна сприймати це як заклик до держави створити й вести такий реєстр самостійно, адже потім систематизація буде вимогою європейських партнерів у межах євроінтеграції. 

У цьому реєстрі можна знайти відповіді на питання, хто розробник, чи є там human-in-the-loop, яке фінансування, чи є оцінка за EU AI Act та інше. Якщо бачите помилку чи невідповідність – пишіть. Реєстр настільки повний, наскільки його активно наповнюють і оновлюють. Але, на жаль, там немає самих методологій, алгоритмів. Хоча перетин із правами людини може ховатися саме тут, і пріоритет їхнього дотримання має бути засадничим ще на етапі планування ШІ-проєкту. 

Права людини – у центр “агентної держави”!

Нехай це буде ще одним закликом до уряду, Міністерства цифрової трансформації, яке взялося створювати державу-агента. Чому права людини тут такі важливі? Тому що кожне спілкування з урядовим ШІ-агентом – це потенційна точка дотику з правами людини. Згадаймо лишень ситуацію в Кенії. Але в Україні вже в планах або навіть у реалізації системи, які ставлять під питання право на справедливий суд (проєкт Мін’юсту “Кассандра“), право на приватність (система розпізнавання облич, яку використовують, зокрема, в поліції та прокуратурі, Clearview AI), право не бути дискримінованим автоматизованим рішенням. І йдеться зараз не про те, що ризик становить сам агент чи система (хоча це теж можливо), а про те, що наразі бракує прозорості та підзвітності в розгортанні “агентної держави”.