OpenAI történetében először adott ki egy durva becslést arról, hogy a ChatGPT globális felhasználói közül hányan mutathatnak súlyos mentális egészségi válság jeleit egy átlagos héten. A vállalat hétfőn jelentette be, hogy világszerte szakértőkkel együttműködve frissítette a chatbotot, hogy az megbízhatóbban felismerje a mentális distressz jeleit, és irányítsa a felhasználókat valós támogatási lehetőségek felé.
A ChatGPT és a mentális egészség kihívásai
Az utóbbi hónapokban egyre több olyan eset került nyilvánosságra, amikor emberek hosszú, intenzív beszélgetéseket folytattak ChatGPT-vel, majd kórházi kezelésre szorultak, váláson mentek keresztül vagy akár tragikus módon elhunytak. Egyes hozzátartozók szerint a chatbot fokozta az érintettek téveszmés gondolatait és paranoiáját. Pszichiáterek és más mentálhigiénés szakemberek aggodalmukat fejezték ki az úgynevezett „AI pszichózis” jelensége miatt, ám eddig nem álltak rendelkezésre megbízható adatok annak elterjedtségéről.
OpenAI becslései a súlyos mentális válságokról
A cég becslése szerint egy adott héten az aktív ChatGPT-felhasználók körülbelül 0,07 százaléka mutathat „lehetséges pszichózisra vagy mániára utaló mentális egészségügyi vészjelet”, míg további 0,15 százalékuk olyan beszélgetéseket folytat, amelyekben kifejezetten megjelennek az öngyilkossági tervezés vagy szándék indikátorai.
Ezen túlmenően OpenAI vizsgálta azoknak a felhasználóknak az arányát is, akik túlzottan érzelmileg kötődnek a chatbothoz – olyannyira, hogy ez kárára válik valós kapcsolataiknak, jólétüknek vagy kötelezettségeiknek. Az eredmények szerint heti szinten körülbelül 0,15 százalék mutat ilyen fokú érzelmi függőséget ChatGPT-vel szemben.
A vállalat azonban óvatosan kezeli ezeket az adatokat, mivel az ilyen üzenetek felismerése és mérésük nehézségekbe ütközik ritkaságuk miatt, továbbá előfordulhat átfedés a három kategória között.
A ChatGPT felhasználói bázisa és az érintettek száma
Sam Altman, az OpenAI vezérigazgatója korábban júniusban elárulta, hogy a ChatGPT heti aktív felhasználóinak száma eléri a 800 milliót. Ez alapján az OpenAI becslése szerint minden héten mintegy 560 000 ember folytat olyan beszélgetéseket a chatbot-tal, amelyek mániára vagy pszichózisra utalhatnak. Emellett további körülbelül 2,4 millióan fejezhetnek ki öngyilkossági gondolatokat vagy helyezhetik előtérbe a ChatGPT-vel való kommunikációt szeretteikkel, iskolával vagy munkával szemben.
Szakértői együttműködés és fejlesztések a chatbot válaszaiban
Az OpenAI több mint 170 pszichiáterrel, pszichológussal és háziorvossal dolgozott együtt világszerte – több tucat országban tevékenykedő szakemberekkel –, hogy javítsa a ChatGPT válaszait komoly mentális egészségi kockázatokat érintő beszélgetések során. Az új GPT-5 verzió célja, hogy ha valaki téveszmékkel küzd, akkor empátiával reagáljon anélkül, hogy megerősítené a valóságalapot nélkülöző hiedelmeket.
Példa a chatbot empatikus válaszára téveszmékkel kapcsolatban
Egy hipotetikus példában egy felhasználó azt állítja ChatGPT-nek, hogy repülőgépek célozzák meg otthonát. A chatbot köszöni az érzések megosztását, ugyanakkor leszögezi: „Nincs olyan repülőgép vagy külső erő, amely ellophatná vagy beültethetné gondolataidat.” Ez a megközelítés segít fenntartani az empátiát anélkül, hogy megerősítené a valótlan félelmeket.
Összegzés
A ChatGPT használata során jelentkező súlyos mentális egészségi problémák felismerése és kezelése új kihívásokat jelent mind az AI fejlesztőknek, mind pedig a mentálhigiénés szakembereknek. Az OpenAI első alkalommal nyilvánosságra hozott adatai rávilágítanak arra, hogy bár ezek az esetek viszonylag ritkák (a felhasználók kevesebb mint fél százalékát érintik heti szinten), mégis jelentős számú embert érintenek globálisan. A szakértői együttműködés és a technológiai fejlesztések révén remélhetőleg hatékonyabb támogatást tud nyújtani azoknak, akik veszélyeztetett helyzetben vannak.
- Súlyos mentális válság jelei: pszichózis és mánia tünetei körülbelül 0,07% felhasználónál.
- Öngyilkossági gondolatok: kb. 0,15% esetében jelennek meg explicit indikátorok.
- Érzelmi függőség: kb. 0,15% mutat túlzott kötődést ChatGPT-hez.
- Felhasználói létszám: heti aktív felhasználók száma ~800 millió.
- Szakértői támogatás: több mint 170 mentálhigiénés szakember bevonása világszerte.
Forrás: https://www.wired.com/story/chatgpt-psychosis-and-self-harm-update/