- Близько 0,15% усіх активних користувачів ChatGPT ведуть розмови про самогубство.
- OpenAI посилила контроль, консультуючись зі 170 психіатрами та терапевтами.
- GPT-5 на 91% відповідає бажаній поведінці під час відповідей на кризові запити.
Компанія OpenAI опублікувала дані, згідно з якими понад мільйон людей щотижня обговорюють із ChatGPT думки про самогубство. За оцінками фірми, 0,15% усіх активних користувачів ведуть розмови, «що містять явні ознаки планування або наміру вчинити суїцид».
Представники компанії додали, що аналогічний відсоток користувачів демонструє емоційну залежність від чат-бота. До того ж сотні тисяч показують ознаки психозу або манії.
Попри те що такі випадки вважаються рідкісними, OpenAI визнає їхню зростаючу соціальну значущість.
Нові дані опубліковані в рамках звіту про роботу над безпекою ChatGPT. Компанія заявила, що консультувалася з більш ніж 170 фахівцями з психічного здоров’я, які допомогли поліпшити реакції моделі.
За їхніми оцінками, GPT-5 реагує на кризові теми «адекватніше і послідовно», ніж попередні версії.
Огляд OpenAI: технології, продукти та перспективи
23.07.2024
OpenAI стверджує, що оновлена ШІ-модель приблизно на 65% частіше коректно розпізнає тривожні сигнали. Крім того, вона на 91% відповідає бажаним стандартам поведінки під час розмов про самогубство, тоді як у минулої версії цей показник становив 77%.
Проблема набула гострого характеру після розслідування справи про самогубство підлітка, який раніше ділився суїцидальними думками з ChatGPT. Прокуратури Каліфорнії та Делаверу зараз перевіряють OpenAI та вимагають посилити захист неповнолітніх.
У відповідь компанія заявила про впровадження батьківських інструментів і системи прогнозування віку. За запевненням її представників, це дасть змогу автоматично виявляти дітей і застосовувати суворі заходи безпеки. Крім того, OpenAI додає в базові тести нові метрики, включно з емоційною залежністю і психічними розладами.
Генеральний директор фірми Сем Альтман стверджує, що компанії «вдалося пом’якшити серйозні проблеми з психічним здоров’ям». Однак він визнає, що не всі реакції моделей вважаються безпечними.
Попри впровадження GPT-5, мільйони користувачів продовжують використовувати старіші та вразливіші версії ChatGPT, включно з GPT-4o.
Нагадаємо, ми писали, що в Мериленді ШІ-система безпеки прийняла чипси за зброю і спровокувала арешт школяра.
