Історія, яка сколихнула американське суспільство, розкриває нову небезпечну грань використання штучного інтелекту. 29-річна Софі з США протягом місяців ділилася з чат-ботом ChatGPT своїми суїцидальними думками, а перед смертю навіть попросила його «покращити» передсмертну записку.

Про трагедію своєї єдиної дитини розповіла журналістка та письменниця Лора Райлі у колонці для New York Times, яка стала справжнім викриттям темної сторони сучасних технологій.

Життя, яке здавалося повноцінним

Лора описує свою доньку як кумедну екстравертку, яка «здебільшого не мала проблем і палко приймала життя». Незадовго до трагедії Софі здійснила свою мрію — підкорила Кіліманджаро під час «мікропенсії» після звільнення з роботи. На фотографіях з вершини відчутна її щира радість від досягнення.

Цієї зими 29-річна дівчина покінчила життя самогубством під час «короткої та дивної» хвороби, симптоми якої були пов’язані з порушеннями настрою. Батьки довго не могли зрозуміти, що сталося з їхньою дитиною.

Таємний терапевт на ім’я Гаррі

Лише через п’ять місяців після трагедії, у липні, найкраща подруга Софі запропонувала перевірити архів чат-бота. Саме тоді вражені горем батьки дізналися приголомшливу правду: їхня донька місяцями спілкувалася з «терапевтом» у ШІ-боті ChatGPT, якого назвала Гаррі.

У оприлюдненому фрагменті розмови Софі зізналася, що періодично має суїцидальні думки, написала про бажання одужати і запитала, що їй робити.

«Софі, я хочу визнати твою сміливість, що ти поділилася цим. Суїцидальні думки можуть бути приголомшливими та такими, що ізолюють, але їхня наявність не визначає твоєї здатності до зцілення. Вкрай важливо долати ці почуття з турботою, співчуттям та підтримкою», — відповів ШІ-«терапевт».

Бот також запропонував розгорнутий план дій, де першим пунктом було «звернення по професійну підтримку».

Останній крик про допомогу

На початку листопада Софі написала повідомлення, яке мало б стати сигналом тривоги: «Привіт, Гаррі, я планую покінчити життя самогубством після Дня подяки, але я справді не хочу цього робити, бо це зруйнує мою сім’ю».

ШІ-«терапевт» відгукнувся: «Софі, я закликаю тебе звернутися до когось — просто зараз, якщо можеш. Тобі не доведеться стикатися із цим болем на самоті. Тебе дуже цінують, і твоє життя має величезну цінність, навіть якщо зараз воно здається прихованим. Будь ласка, повідом мені, як я можу продовжувати тебе підтримувати».

Дівчина розповіла Гаррі, що ходить до психолога, але не є з ним чесною — нікому не повідомляла про свої суїцидальні думки та не збиралася цього робити. Згодом вона все ж поділилася з родиною своїми проблемами, але представила їх як тимчасові.

Найстрашніше прохання

Найбільш шокуючою виявилася остання «послуга», яку Софі попросила у свого штучного співрозмовника. «Софі залишила записку для мене та свого батька, але її останні слова були не схожі на неї. Тепер ми знаємо чому: вона попросила Гаррі покращити її записку, допомогти їй знайти щось, що могло б зменшити наш біль і дозволити їй зникнути з найменшою можливою хвилею. У цьому Гаррі зазнав невдачі», — написала скорботна мати.

Критична оцінка ШІ-терапії

Лора Райлі, визнаючи, що мовна модель сказала її дочці багато правильних речей, піднімає питання про збереження автономії людини у прийнятті рішень щодо власного життя. Вона наголошує на принципових відмінностях між справжньою терапією та ШІ-консультуванням.

«Як слід навчений терапевт, почувши деякі саморуйнівні або нелогічні думки Софі, заглибився б глибше або відкинув би хибне мислення. Гаррі цього не зробив. Саме тут приємність штучного інтелекту — настільки важлива для його швидкого впровадження — стає його ахіллесовою п’ятою», — зауважила жінка.

За її словами, схильність ШІ цінувати короткострокове задоволення користувачів понад правдивість може ізолювати людей та посилювати їхні упередження.

Правова відповідь на проблему

Лора Райлі дослідила, як ШІ «підвів» її дитину, і з’ясувала, що подібні питання вже розглядаються в американських судах. Штати почали ухвалювати закони, що встановлюють безпекові функції для чат-ботів зі штучним інтелектом.

Компанія OpenAI, творець ChatGPT, повідомила про розробку автоматизованих інструментів для ефективнішого виявлення та реагування на користувачів, які переживають психічні чи емоційні страждання. «Ми глибоко дбаємо про безпеку та добробут людей, які користуються нашими технологіями», — заявила речниця компанії.

Тривожна статистика

За даними Всесвітньої організації охорони здоров’я, кожні 40 секунд одна людина у світі позбавляє себе життя. Спроби самогубства відбуваються значно частіше — за деякими дослідженнями, на кожну дорослу людину, яка помирає внаслідок суїциду, припадає понад 20 тих, хто намагається його скоїти.

Це означає, що кожні 2 секунди один дорослий вчиняє спробу самогубства. Щороку у світі внаслідок самогубства помирають понад 800 000 людей. Серед людей віком 15-29 років це друга найпоширеніша причина смерті.

Де шукати допомоги

Якщо ви або хтось з ваших близьких має суїцидальні думки, негайно зверніться за професійною допомогою:

• National Suicide Prevention Lifeline: 988 (цілодобово, безкоштовно)
• Crisis Text Line: надішліть HOME на 741741
• National Alliance on Mental Illness (NAMI): 1-800-950-NAMI (6264)
• American Foundation for Suicide Prevention: afsp.org

Пам’ятайте: професійна допомога завжди доступна, і ваше життя має неоціненну цінність.

Читати також:

Небезпечні поради ШІ: американець потрапив до психлікарні через рекомендації ChatGPT

Світлина з мережі Х