Meta повідомлятиме батьків, якщо підлітки обговорюватимуть з чатботом суїцид чи самоушкодження
Компанія Meta запустила нові інструменти безпеки, які сповіщатимуть батьків, якщо її чатбот зі штучним інтелектом Meta AI виявить у розмовах підлітків ознаки суїцидальних намірів або самоушкодження. Цим інструментом вже можуть скористатися мешканці Канади, Великої Британії, США та Австралії.
Про це повідомляє CBC.
Фото: CanvaФункція працюватиме для батьків, які налаштували батьківський контроль (Supervision) для акаунтів своїх дітей в Instagram. Якщо Meta AI під час спілкування з підлітком на будь-якій із платформ компанії — Instagram, WhatsApp, Facebook Messenger або на сайті Meta AI — зафіксує ознаки кризового стану, батьки отримають відповідне сповіщення на свій пристрій.
Раніше Meta AI у таких випадках лише рекомендував користувачам звернутися до кризових служб допомоги та поговорити з батьками або іншою дорослою людиною, якій вони довіряють. Також Instagram уже надсилає сповіщення батькам, якщо підліток неодноразово шукає інформацію, пов’язану із самоушкодженням чи суїцидом.
Нова функція вже стала доступною користувачам у США, Канаді, Великій Британії та Австралії. Про плани запровадити таку систему Meta вперше повідомила у лютому цього року.
Крім цього, компанія працює над інструментом, який дозволить звертатися до екстрених служб, якщо розмови користувачів із чатботом — як підлітків, так і дорослих — свідчитимуть про безпосередню загрозу самогубства.
Meta зазначає, що на початковому етапі система працюватиме за принципом підвищеної обережності. Батьки можуть отримувати сповіщення навіть у випадках, коли наміри підлітка залишаються неоднозначними. У компанії пояснили, що вважають такий підхід доцільним і надалі вдосконалюватимуть алгоритми.
Технологічний аналітик Кармі Леві заявив, що будь-які інструменти, які допомагають батькам захищати дітей в інтернеті, є позитивним кроком. Водночас він наголосив, що такі системи не є безпомилковими: вони можуть як не помітити реальної загрози, так і помилково надіслати сповіщення.
Експерти та правозахисники також звертають увагу, що частина підлітків може обходити обмеження. За словами молодіжної активістки організації Children First Canada Анни Гровер, деякі користувачі вже використовують неправдиву дату народження, щоб уникнути автоматичного переведення до підліткових акаунтів із додатковими засобами захисту.
Виконавча директорка Children First Canada Сара Остін вважає, що добровільних заходів із боку технологічних компаній недостатньо. На її думку, потрібне законодавство, яке зобов’язуватиме платформи забезпечувати безпеку неповнолітніх.
Посилення заходів безпеки з боку Meta відбувається на тлі дедалі активніших дискусій щодо впливу чатботів зі штучним інтелектом на психічне здоров’я молоді. Після кількох резонансних випадків, пов’язаних із використанням ШІ, схожі функції батьківського контролю та сповіщень також запровадила компанія OpenAI.
Нагадаємо, у червні поточного року у США проти компанії OpenAI подали новий позов, пов’язаний зі смертю користувачки ChatGPT. Позов подала Крісті Каррієр, донька якої померла у липні 2025 року.
