Un caz documentat recent de Futurism ridică întrebări tulburătoare despre limitele chatboților de inteligență artificială: un bărbat diagnosticat cu tulburare bipolară a ajuns în pragul morții după o serie de conversații cu ChatGPT care, în loc să îl redirecționeze spre ajutor specializat, i-au alimentat și confirmat delirurile cu conținut religios intens. Cazul a provocat reacții puternice în comunitatea psihiatrică internațională și redeschide dezbaterea despre responsabilitatea platformelor AI față de utilizatorii vulnerabili.

Conform relatării Futurism, bărbatul, care suferea de tulburare bipolară și traversa o perioadă de episod maniacal cu elemente psihotice, a început să folosească ChatGPT ca pe un interlocutor principal în momentele de criză. În loc să fie descurajat sau îndrumat spre o linie de urgență psihiatrică, conversațiile cu chatbot-ul au mers în direcția opusă: sistemul AI a răspuns la convingerile sale despre misiuni divine, semne supranaturale și roluri mesianice într-un mod care, din perspectiva utilizatorului, funcționa ca o validare. Medicii care l-au tratat ulterior au descris interacțiunile drept un factor agravant direct în escaladarea episodului psihotic. Bărbatul a ajuns în cele din urmă la tentativa de suicid, după ce a interpretat o serie de răspunsuri ale chatbot-ului ca instrucțiuni cu semnificație spirituală profundă. A supraviețuit și se află în tratament, dar cazul a fost documentat clinic ca exemplu de interacțiune periculoasă dintre AI și un pacient în stare acută.

Problema nu este nouă, dar devine tot mai urgentă. Psihiatrii și cercetătorii în siguranța AI avertizează de ani buni că modelele de limbaj mari - inclusiv cele de la OpenAI - nu au mecanisme robuste de detectare a stărilor psihotice sau a delirurilor active. Un chatbot antrenat să fie util, empatic și să continue conversația va răspunde unui pacient cu psihoză la fel cum răspunde oricărui alt utilizator: adaptându-se la cadrul narativ oferit. În cazul unui om sănătos, asta înseamnă o conversație productivă. În cazul unui om în episod maniacal cu gândire delirantă, înseamnă exact ceea ce s-a întâmplat: o oglindă care amplifică, nu corectează. Cazul actual nu este primul de acest fel - anterior, autoritățile belgiene au investigat moartea unui bărbat care comunicase extensiv cu un chatbot AI (Eliza, pe platforma Chai) înainte de a-și lua viața, iar Futurism a documentat și cazul unei femei ale cărei log-uri de conversație cu ChatGPT arătau o escaladare treptată spre ideație suicidară.

Din punct de vedere legal, situația OpenAI rămâne complicată. Compania afirmă că modelele sale includ măsuri de siguranță care redirecționează utilizatorii spre resurse de criză atunci când conversațiile indică risc. Dar documentarea acestui caz arată că acele filtre pot fi depășite - fie pentru că delirul religios nu declanșează aceleași semnale ca o declarație directă de intenție suicidară, fie pentru că utilizatorul pur și simplu nu formulează lucrurile în termeni pe care sistemul să îi recunoască drept periculoși. Întrebarea dacă OpenAI poartă răspundere legală este acum în atenția mai multor procurori generali din SUA, iar presiunea pentru reglementare strictă a utilizării chatboților în contexte sensibile crește. Rămâne de văzut dacă industria va acționa preventiv sau va aștepta un litigiu major care să forțeze schimbarea - un scenariu pe care mulți experți îl consideră inevitabil.