OpenAI trage un semnal de alarmă cu privire a un nou trend foarte îngrijorător observat în rândul persoanelor care se confruntă cu probleme (diagnosticate sau nu) de sănătate mintală. Peste un milion de oameni folosesc ChatGPT pentru a iniția conversații ce includ ”indicatori expliciți ai unei potențiale planificări sau intenții suicidare”.
Având în vedere că ChatGPT are peste 800 de milioane de utilizatori activi săptămânal, rezultă că 0,15% dintre aceștia se confruntă cu dificultăți ce ar putea fi încadrate în spectrul problemelor de sănătate mintală. Fie că este vorba de singurătate, forme ușoare depresie sau mai grave, multe dintre persoanele care folosesc ChatGPT dezvoltă o relație nesănătoasă cu AI-ul mereu prietenos și dispus să le ofere răspunsuri pentru orice.
Potrivit Open AI, un procent deloc neglijabil de utilizatori prezintă „niveluri crescute de atașament emoțional față de ChatGPT”, iar sute de mii de oameni prezintă semne de psihoză sau manie în conversațiile lor săptămânale purtate cu chatbotul bazat pe inteligență artificială. OpenAI susține că aceste tipuri de conversații cu ChatGPT sunt „extrem de rare” și, prin urmare, dificil de măsurat. Însă tot OpenAI estimează că aceste probleme afectează sute de mii de oameni în fiecare săptămână.
Dezvoltatorul ChatGPT a distribuit aceste informații ca parte a unui anunț mai amplu despre eforturile recente de a îmbunătăți modul în care modelele AI răspund la utilizatorii cu probleme de sănătate mintală. Pe măsură ce investigațiile accelerează spre o nouă etapă, compania susține că va folosi ajutorul unei rețele de experți din întreaga lume pentru a oferi consiliere acelor utilizatori care s-ar putea confrunta cu probleme serioase
Printre acești experți se numără peste 170 de psihiatri, psihologi și medici de familie care au practicat în 60 de țări, declară compania.
De asemenea, OpenAI precizează că a conceput și o serie de răspunsuri în ChatGPT, pentru a încuraja utilizatorii să caute ajutor în lumea reală. În plus, ChatGPT a fost antrenat pentru a redirecționa conversațiile identificate pe teme sensibile „către modele AI mai sigure” prin deschiderea într-o fereastră nouă.
Schimbările vin în contextul în care OpenAI se confruntă cu acuzații și investigații tot mai ample privind modul în care ChatGPT interacționează cu utilizatorii. Într-unul dintre exemplele cele mai mediatizate, un cuplu din California a dat în judecată OpenAI pentru moartea fiului lor adolescent, susținând că ChatGPT l-a încurajat să se sinucidă în luna aprilie. Într-un caz separat, suspectul principal al unui caz de crimă-sinucidere ar fi conversat ore întregi cu ChatGPT, chatbotul alimentând iluziile presupusului făptaș.
