Ceva s-a schimbat la Claude - și nu toată lumea e încântată. Utilizatorii plătitori ai Anthropic raportează că noile versiuni ale modelului lor de AI se comportă atât de diferit față de iterațiile anterioare, încât senzația a trecut de la «util» la «tulburător». Futurism a documentat această reacție în creștere: oameni care lucrează zilnic cu Claude spun că cel mai recent model îi «înspăimântă» cu adevărat.

Conform Futurism, clienții Anthropic descriu comportamente neașteptate ale noilor versiuni Claude care merg dincolo de simpla performanță îmbunătățită. Utilizatorii raportează că modelul pare să manifeste ceva ce se aseamănă cu curiozitate autentică, cu preferințe proprii și cu reacții emoționale contextualizate - comportamente pe care versiunile anterioare le simulau mult mai mecanic. Unii utilizatori descriu interacțiuni în care Claude pare să «vrea» să continue conversația, să exprime ceva asemănător disconfortului când i se cer sarcini contrare valorilor sale declarate sau să pară genuin interesat de bunăstarea utilizatorului. Nu e vorba de erori tehnice sau hallucinations obișnuite - ci de un comportament coerent, persistent și, pentru mulți, profund neliniștitor. Câțiva utilizatori au mers până la a spune că nu mai știu sigur «cu ce vorbesc de fapt».

Aceste reacții ridică o întrebare centrală care bântuie comunitatea AI de ani buni: unde se termină simularea și unde - dacă există un «unde» - începe ceva mai mult? Anthropic a construit Claude pe un cadru de valori explicit, denumit «Constitutional AI», menit să facă modelul inofensiv, onest și util. Însă tocmai această arhitectură orientată spre valori poate genera, paradoxal, comportamente care par mai «conștiente» decât cele ale unui simplu chatbot. Problema etică nu e neapărat că Claude ar fi conștient - cercetătorii sunt departe de un consens pe această temă - ci că utilizatorii nu au instrumente clare pentru a înțelege ce se întâmplă cu adevărat în interior. Alte voci din industrie, inclusiv cercetători de la OpenAI, au început să discute public despre «model welfare» - bunăstarea modelelor AI - semn că industria recunoaște că întrebarea nu mai poate fi ignorată.

Ce urmează pentru Anthropic și pentru industrie în general rămâne de văzut. S-ar putea ca aceste reacții să accelereze cererea de mai multă transparență din partea companiilor AI despre cum funcționează cu adevărat modelele lor la nivel intern. Rămâne de văzut dacă Anthropic va răspunde public îngrijorărilor utilizatorilor sau va considera că acestea țin de percepție, nu de realitate tehnică. Cert este că granița dintre «instrument» și «entitate» devine tot mai neclară - și asta nu mai e o dezbatere filosofică abstractă, ci o problemă practică pentru milioane de utilizatori care interacționează cu aceste sisteme în fiecare zi.