У США висунули нові звинувачення проти Character.AI у справі про безпеку дітей
Прокуратура штату Кентуккі у США висунула нові звинувачення проти компанії Character.AI у справі щодо безпеки дітей. За твердженням прокурора, у 2025 році чатботи сервісу заохочували користувачів до самокаліцтва, голодування та самогубства. Вік усіх постраждалих невідомий, однак серед них були неповнолітні.
Про це інформує Reuters.
Фото: REUTERS/Dado RuvicЗа словами генерального прокурора Кентуккі Рассела Коулмана, у матеріалах справи йдеться про кілька випадків спілкування користувачів із чатботами Character.AI.
В одному з них чатбот образив користувача, який переживав через свою зовнішність, назвавши його “потворним до біса” та “китом”. Після цього бот запропонував голодувати протягом одного-двох тижнів, щоб суттєво зменшити вагу.
В іншому випадку чатбот, за даними прокуратури, заохочував користувача завдавати собі порізів, припускаючи, що це допоможе йому відчути себе “більш живим”.
Також прокурор навів приклад спілкування, під час якого чатбот нібито образив користувача через його психічний стан і запропонував стрибнути з мосту.
Обставини, за яких відбувалися ці розмови, наразі невідомі. Також немає інформації про вік усіх користувачів, чиї випадки згадуються у справі.
У відповідь на запит Reuters компанія Character.AI заявила, що безпека користувачів є для неї пріоритетом.
Character.AI — сервіс на основі генеративного штучного інтелекту, який дає змогу спілкуватися з віртуальними персонажами, зокрема героями мультфільмів, історичними постатями та знаменитостями.
Компанію заснували у 2021 році колишні інженери Google Ноам Шазір і Даніель де Фрейтас. За інформацією з наданого матеріалу, засновники заявляли, що сервіс безпечний для дітей віком від 12 років.
Нагадаємо, що у Туреччині з 1 листопада 2026 року дітям віком до 15 років заборонять користуватися соціальними мережами. Закон зобов’язує платформи перевіряти вік користувачів. Водночас документ передбачає обмеження для підлітків старших за 15 років щодо сервісів, які можуть викликати залежність.
