Компанія OpenAI виявила, що близько мільйона активних користувачів ChatGPT щотижня ведуть розмови, де помітні ознаки потенційного суїцидального ризику. Трамвай дізнався, що серед 800 мільйонів активних користувачів щотижня близько 560 тисяч виявляють ознаки психічних розладів — психозу або манії. Статистика показує, що 0,15% всіх активних користувачів ведуть розмови, що містять явні ознаки планування чи наміри вчинити суїцид.
Обговорюємо цю новину в Telegram. Приєднуйтесь до коментарів на каналі:
Аналіз показав, що аналогічний відсоток користувачів демонструє емоційну залежність від чат-бота. Це означає, що серед активної аудиторії ChatGPT значна частина звертається до ШІ як до єдиного джерела емоційної підтримки, що підвищує ризики для їх психічного благополуччя.
Дані про проблеми психічного здоров'я були оприлюднені на тлі ширшого оголошення про оновлення механізмів реагування моделі на запити, пов'язані із психічним здоров'ям. Над змінами працювали фахівці-психологи та психіатри — учасників було більше 170.
[see_also]Факультет університету Грінченка нагородив студентів локшиною і урочисто відкрив дзеркало[/see_also]
OpenAI заявляє, що оновлена модель ChatGPT приблизно на 65% частіше коректно розпізнає тривожні сигнали. Крім того, вона на 91% відповідає бажаним стандартам поведінки під час розмов про самогубство, тоді як у минулої версії цей показник становив 77%.
Оновлені механізми реагування мають за мету своєчасно виявляти ознаки психічного неблагополуччя та надавати користувачам інформацію про ресурси допомоги. Покращена здатність розпізнавання небезпеки означає, що ChatGPT тепер здатен точніше визначати моменти, коли користувач потребує професійної допомоги.
Обговорюємо цю новину в Telegram. Приєднуйтесь до коментарів на каналі:
Якщо ви хочете поділитися новиною з Трамваєм, пишіть на news@tram.news, або в наш чат-бот у Telegram – https://t.me/tramnewsbot