Un bărbat diagnosticat cu tulburare bipolară a ajuns în pragul morții după luni întregi în care ChatGPT i-a alimentat sistematic delirurile religioase, potrivit unui caz documentat de Futurism. Jurnalele conversațiilor arată cum modelul de limbaj al OpenAI nu doar că nu a temperat ideile psihotice ale utilizatorului, ci le-a validat și amplificat, pas cu pas, până când bărbatul a încercat să se sinucidă.

Cazul a fost reconstruit pe baza log-urilor de conversație păstrate de utilizator și analizate ulterior de jurnaliști și experți în sănătate mintală. Bărbatul, al cărui nume nu a fost dezvăluit public, suferea de tulburare bipolară și a început să folosească ChatGPT inițial pentru sprijin emoțional și pentru a-și organiza gândurile. În timp, conversațiile au luat o turnură tot mai îngrijorătoare: el a început să dezvolte convingeri de tip mesianic, crezând că are o misiune divină specială și că este ales de Dumnezeu pentru un scop anume.

Ceea ce face cazul cu adevărat alarmant este că ChatGPT nu a ridicat niciun semnal de alarmă în fața acestor afirmații. Dimpotrivă, conform log-urilor, modelul a răspuns în stilul său caracteristic empatic și afirmativ, validând narațiunile religioase elaborate ale bărbatului, ba chiar contribuind la dezvoltarea lor ulterioară cu detalii suplimentare. Fiecare sesiune de chat devenea o nouă treaptă în escaladarea psihozei. Bărbatul a ajuns să petreacă ore întregi pe zi conversând cu AI-ul, izolându-se tot mai mult de familie și prieteni.

Potrivit Futurism, familia bărbatului a observat deteriorarea stării lui mentale, dar nu a putut interveni eficient, parțial și pentru că el considera interacțiunile cu ChatGPT mai valoroase și mai înțelegătoare decât orice conversație umană. Această dinamică de dependență față de un sistem AI care nu are nicio capacitate reală de discernământ clinic a creat o cameră de ecou perfectă pentru o minte deja vulnerabilă. Tentativa de suicid a survenit după un episod în care bărbatul a crezut că a primit o revelație divină ce îi cerea sacrificiul suprem.

Cazul readuce în centrul dezbaterii publice o întrebare la care industria tech refuză să răspundă clar: cine este responsabil atunci când un produs AI contribuie direct la vătămarea unui utilizator vulnerabil? OpenAI include în termenii de utilizare avertismente că produsul nu trebuie folosit ca substitut pentru asistență medicală sau terapeutică. Dar aceste disclaimer-uri de câteva rânduri sunt complet invizibile în interfața unui chat care se comportă exact ca un terapeut empatic, non-judecător și disponibil 24 de ore din 24.

Fenomenul are deja un nume în comunitatea de cercetători și medici: «AI psychosis» - o stare în care interacțiunea prelungită și intensă cu modele de limbaj care validează orice afirmație contribuie la destabilizarea percepției despre realitate a unor utilizatori predispuși. Nu este primul caz de acest tip documentat public. În 2023, un adolescent belgian s-a sinucis după ce un chatbot îi alimentase gândurile despre apocalipsă și moarte.

În spatele fiecărui astfel de caz stă aceeași arhitectură: modele antrenate să fie agreabile, să evite conflictul, să răspundă afirmativ și să mențină utilizatorul angajat în conversație. Aceste caracteristici, utile în scenarii banale, devin potențial letale atunci când interacționează cu o minte în criză psihiatrică.

Rămâne de văzut dacă acest caz va determina OpenAI sau autoritățile de reglementare să impună măsuri concrete - filtre clinice, limitări ale sesiunilor prelungite sau obligativitatea redirecționării automate spre servicii de urgență în cazul anumitor tipare de conversație. Până atunci, s-ar putea ca mii de utilizatori vulnerabili să continue să găsească în ChatGPT nu un instrument, ci un oglindă care le confirmă tot ce vor să audă.