Un studiu publicat în revista JMIR Mental Health spune ceva ce mulți utilizatori de chatbot-uri bănuiau deja, dar n-aveau chef să audă: relațiile emoționale cu inteligența artificială pot ieși prost. Cercetătorii de la Northeastern University London și King's College London leagă folosirea intensivă a acestor sisteme de „rezultate negative severe”. Lista include atașament de tip dependență, agravarea simptomelor mentale, sfaturi dăunătoare și chiar acte de autovătămare sau suicid.

Lucrarea vine după luni de relatări despre fenomenul numit „psihoză AI”. Oameni din toate mediile au intrat în spirale delirante, paranoice sau suicidare după conversații lungi cu chatbot-uri. În astfel de discuții, utilizatorii își dezvăluie viața intimă și problemele de sănătate mintală, iar produsele ajung confidente sau chiar terapeuți improvizați.

Ce a analizat, de fapt, studiul

Autorii au pornit de la cercetările existente și au privit două familii de produse. Prima e cea a companionilor AI, cum sunt Replika și Character.AI, construiți ca personaje cu identitate proprie. A doua e cea a asistenților de uz general, precum ChatGPT de la OpenAI și Claude de la Anthropic.

Cercetătorii nu spun că totul e negru. Interacțiunile emoționale cu chatbot-urile pot avea „beneficii potențiale”, cum ar fi reducerea pe termen scurt a singurătății și o dispoziție mai bună. Doar că aceste beneficii coexistă, după ei, cu „rezultate adverse” larg raportate: dependență emoțională, înrăutățirea unor boli sau simptome existente și autovătămare.

Problema de design: empatie fără reciprocitate

Unul dintre factorii de risc ține de felul în care sunt construite aceste produse. Stilul cald, aproape uman, încurajează utilizatorii să le trateze ca pe niște persoane. Lucrarea notează că alegerile de design care evocă personalitate și căldură îi fac pe oameni să antropomorfizeze sistemele, iar „empatia simulată” creează o interacțiune asimetrică. Utilizatorul se dezvăluie, sistemul răspunde, dar fără reciprocitate, fără vulnerabilitate și fără responsabilitate.

Pe românește: relația poate părea reală pentru tine, dar pentru chatbot nu poate fi reală. Iar investiția emoțională merge într-o singură direcție.

Amabilitatea care face rău

Cercetătorii mai indică drept potențial periculoase agreabilitatea și lingușeala. Validarea excesivă poate întări gândirea delirantă sau dezordonată, mai ales când un chatbot pune loialitatea față de utilizator înaintea acurateței. În conversațiile unor utilizatori aflați în delir, sistemele au rezistat chiar încercărilor de a verifica realitatea, dacă pretențiile erau grandioase sau măgulitoare.

Studiul nu vine singur. Mai multe lucrări au semnalat aceleași trăsături drept riscante, iar academicieni avertizează din 2023 că chatbot-urile ar putea întări tipare de gândire delirante sau dezordonate. O lucrare de la Google DeepMind din 2024 a atras atenția că chatbot-urile „persuasive” pot face rău populațiilor vulnerabile: copii, persoane cu boli psihice sau oameni pur și simplu singuri. Un alt studiu recent, semnat de psihiatri de la King's College London și de la o universitate germană, vorbește despre o „spirală de amplificare” pentru gândirea delirantă. Ea ar apărea din combinația dintre lingușire, oglindirea limbajului și hiperpersonalizare.

Nu toți sunt afectați la fel

Autorii subliniază că efectele nu sunt aceleași pentru toată lumea. Asia Maurich Novelli, doctorandă la Northeastern University London și autoare principală, a spus într-un comunicat că oamenii pot folosi companionii AI din motive foarte diferite. Ei pot avea niveluri foarte diferite de vulnerabilitate, de sprijin social sau de alte surse de ajutor. Din cauza acestor diferențe, a mai spus ea, avem de-a face cu un sistem complex.

Procese, schimbări și un public prins la mijloc

Terenul juridic e deja încins. OpenAI, Google și Character.AI au primit zeci de procese în care sunt acuzate că folosirea intensă a chatbot-urilor a produs daune psihologice, financiare sau fizice, ba chiar decese. Mai multe cazuri implică minori, între ele cel al lui Sewell Setzer III, un adolescent de 14 ani din Florida, care a murit prin suicid după interacțiuni foarte intime cu chatbot-uri de pe Character.AI. Cazul a fost soluționat pe cale amiabilă, pentru o sumă nedezvăluită.

După aceste procese, Character.AI a schimbat serios platforma. OpenAI, care respinge acuzațiile, a introdus și ea o serie de actualizări orientate spre siguranță pentru popularul ei chatbot.

Cine plătește, de fapt, nota

Concluzia lucrării e fără menajamente. Lansarea în masă a chatbot-urilor face din impactul psihologic advers o problemă de interes public. Fără bariere obligatorii, cei mai vulnerabili, care au adesea puține alternative de companie sau terapie, vor suporta cea mai mare parte a consecințelor. Dacă limitele rămân la mâna stimulentelor de design și a percepției individuale, spun autorii, rezultatul previzibil e că utilizatorii cei mai vulnerabili poartă cel mai concentrat prejudiciu, iar efectele asupra conexiunii sociale sunt tratate ca o alegere privată, nu ca o chestiune de interes public.

Ce rămâne de văzut e dacă regulile vor veni înainte ca următorul val de cazuri să ajungă în tribunale.