У США через алгоритм Google батька помилково запідозрили в насильстві над сином: питання викликали фото на телефоні

У США чоловіка помилково звинуватили в насильстві над сином через фотографії оголеного тіла дитини, які той зробив, щоб надіслати лікарям. Знімки знайшов алгоритм компанії Google, і навіть після розслідування та доведення невинуватості чоловіку не відновили доступу до втраченої через помилкове блокування інформації. 

Про це розповідає The New York Times.

Фото: The New York Times

Марк – мешканець Сан-Франциско. Його фото потрапили в алгоритм Google, створений для виявлення користувачів, які обмінюються матеріалами з елементами сексуального насильства над дітьми.

Чоловік зробив декілька знімків паху свого сина та надіслав дружині, а та – медикам. Невдовзі лікарі змогли призначити дитині лікування, і тій стало краще. 

Як зазначають журналісти, після створення електронної пошти та облікового запису Google Марк почав дуже покладатися на сервіси компанії. До прикладу, синхронізував зустрічі з дружиною в календарі, а камера його смартфона створювала резервні копії фотографій і відео в хмарі. 

Саме після перевірки нових знімків у хмарі компанія подала звіт до Національного центру в справах зниклих і експлуатованих дітей (NCMEC) про ймовірне насильство над дитиною, а тому справою зацікавилися правоохоронці. 

Коли в поліції не знайшли порушень, Марк подав скаргу на рішення Google, але компанія відхилила запит. 

Фото: The New York Times

Там заявили, що “матеріали сексуального насильства над дітьми є огидними”, а тому компанія прагне запобігти їхньому поширенню на своїх платформах. Згодом Марку відповіли, що не відновлюватимуть облікового запису, і видалили його. 

З’ясувалося, що рецензенти не виявили висипу чи почервоніння на фотографіях, які він зробив, і що подальша перевірка облікового запису виявила відео, зняте пів року тому, яке також викликало питання: на ньому була зображена дитина поряд з неодягненою жінкою.

Марк не пам’ятав цього відео та більше не мав до нього доступу, але сказав, що міг би зафіксувати момент із життя, не підозрюючи, що його коли-небудь перегляне чи оцінить хтось інший.

“Я можу це уявити. Одного ранку ми прокинулися. Це був чудовий день з моєю дружиною та сином, і я хотів записати цей момент. Якби ми тільки спали в піжамі, цього можна було б уникнути”, – розповідає чоловік.

У 2021 році Google подав понад 600 тисяч повідомлень про матеріали жорстокого поводження з дітьми та в результаті вимкнув облікові записи понад 270 тисяч користувачів. Окрім Марка журналістам вдалося дізнатися про ще одного чоловіка з Техасу на ім’я Кассіо, який також втратив доступ до облікового запису через фото оголеного тіла дитини на телефоні. 

Кассіо купував будинок і підписував незліченну кількість цифрових документів, коли його обліковий запис Gmail блокували. Він попросив свого іпотечного брокера змінити його адресу електронної пошти, що викликало в брокера підозри, поки за нього не поручився агент із нерухомості.

“Це був головний біль”, – каже чоловік.

Нагадаємо, що нещодавно в США Facebook надав поліції доступ до листування матері та доньки, яких після цього почали судити за незаконний аборт у штаті, де переривання вагітності дозволено до 22-го тижня.