У Флориді жінку затримали після того, як система Claude передала поліції її повідомлення про можливий напад

У штаті Флорида затримали жінку, яка, за даними слідства, написала в чаті з Claude про намір влаштувати стрілянину в офісі шерифа округу Лі. Автоматична система безпеки позначила повідомлення як потенційно небезпечне, після чого його перевірила людина і передала інформацію правоохоронцям. Сама жінка згодом сказала поліції, що використовувала чатбот як особистий щоденник.

Про це пише TechSpot, посилаючись на дані поліції.

Фото: Офіс шерифа округу Лі

Йдеться про Карлі Мішель Геллер із міста Боніта-Спрінгс.

Згідно зі звітом про арешт, 26 вересня користувачка з ніком Carli написала, що збирається влаштувати стрілянину в офісі шерифа округу Лі. Наступного дня з того самого акаунта з’явилося повідомлення про придбання нової зброї.

За даними слідчих, система безпеки платформи Anthropic відстежує потенційно небезпечний контент. Через характер повідомлень система передала цей випадок команді для перевірки людиною, а та повідомила про нього правоохоронцям.

Поліція встановила особу користувачки та приїхала до її будинку. Правоохоронці затримали Геллер без спротиву, після чого справу передали детективу розвідувального підрозділу офісу шерифа.

Під час спілкування з правоохоронцями жінка пояснила, що використовувала штучний інтелект як своєрідний “щоденник”.

Геллер висунули обвинувачення у письмовій погрозі насильством. Її наступне судове засідання заплановане на листопад.

Закон Флориди забороняє надсилати, публікувати або передавати письмові чи електронні повідомлення з погрозами вбити або поранити людину, влаштувати масову стрілянину чи теракт, якщо запис передають у спосіб, який дозволяє іншій людині його побачити. Таке правопорушення у штаті належить до злочинів другого ступеня.

Anthropic пояснює, що за замовчуванням її працівники не мають доступу до розмов користувачів Claude. Виняток можливий, зокрема, коли компанії потрібно перевірити дотримання правил користування сервісом. У таких випадках доступ отримують визначені працівники команди Trust & Safety, яким інформація потрібна для перевірки.

Окремі правила компанія має для взаємодії з правоохоронними органами. Зазвичай Anthropic передає дані користувачів лише у відповідь на належний юридичний запит, наприклад судовий ордер. Однак компанія може зробити виняток, якщо вважає, що існує надзвичайна ситуація з ризиком неминучої фізичної шкоди або смерті й швидка передача інформації може допомогти її відвернути.

Політика користування Anthropic також забороняє застосовувати її сервіси для сприяння насильству або залякуванню.

Нагадаємо, що цей випадок стався на тлі дискусій у США та Канаді про відповідальність розробників ШІ, коли системи виявляють повідомлення про можливе насильство.

Так, у квітні 2026 року влада Флориди почала кримінальне розслідування щодо OpenAI та ChatGPT після стрілянини в Університеті штату Флорида. Слідчі перевіряли твердження про те, що нападник перед злочином користувався чатботом і міг отримувати від нього інформацію про зброю та боєприпаси.

У червні штат подав окремий позов проти OpenAI та Альтмана. Влада Флориди звинуватила компанію в тому, що вона недостатньо враховувала ризики для користувачів і нібито допустила реальну шкоду, пов’язану з використанням ChatGPT. OpenAI раніше заперечувала свою відповідальність за стрілянину.

У вересні влада канадської провінції Британська Колумбія подала до суду на OpenAI та її керівника Сема Альтмана після масової стрілянини в школі Тумблер-Ридж. У позові стверджують, що системи OpenAI ще до нападу виявили розмови користувачки про насильство із застосуванням зброї, а працівники служби безпеки розглядали можливість звернутися до правоохоронців, однак компанія цього не зробила. 

Після стрілянини Альтман визнав, що компанія шкодує про те, що не повідомила правоохоронців. OpenAI заявила, що надалі співпрацюватиме з державними структурами та працюватиме над посиленням систем безпеки.