Se intampla ceva destul de neasteptat in lumea tech: chiar sefii marilor companii de inteligenta artificiala au inceput sa traga semnale de alarma despre propria lor industrie. Actiunile legate de AI s-au prabusit la nivel global (Nvidia -3,6%, SoftBank -13%) dupa ce liderii celor mai mari laboratoare au avertizat public ca tehnologia ar putea aduce riscuri existentiale, adica genul de pericol care ar putea scapa complet de sub control.

Totul a pornit de la eseul lui Dario Amodei, seful Anthropic, "We Must Pace the Frontier", publicat sambata si intins pe aproape 3.800 de cuvinte, in care acesta a cerut o incetinire deliberata a dezvoltarii AI. Jack Clark, cofondatorul Anthropic, a mers chiar mai departe si a declarat ca un buton de oprire de urgenta pentru sistemele AI ar putea deveni obligatoriu prin lege, nu doar o optiune pe care si-o ia fiecare companie cum vrea.

Practic vorbim despre o industrie care a impins bursele mondiale la maxime istorice prin investitiile uriase in infrastructura, iar acum aceiasi oameni care au construit acest boom incep sa spuna ca poate ar trebui sa calcam frana. Clark a explicat ca in acest moment fiecare laborator are propriul mod de a opri un sistem daca lucrurile scapa de sub control, insa aceasta abordare haotica nu mai e suficienta avand in vedere cat de rapid avanseaza tehnologia. Ideea unui kill switch obligatoriu suna aproape SF, dar vine chiar din interiorul industriei, ceea ce o face cu atat mai serioasa.

China, evident, nu a stat degeaba si a reactionat dur la aceste declaratii, acuzand practic ca vestul foloseste discursul despre siguranta AI ca pe o unealta de competitie maliciosa, ca sa incetineasca dezvoltarea Chinei in domeniu si sa ramana in fata in cursa tehnologica. Asadar avem si o componenta geopolitica clara, nu doar una etica.

Interesant e ca Trump a avut o reactie complet opusa fata de aceste avertismente. Presedintele american a respins ideea ca ar exista un pericol real si a sustinut ca exista deja instrumentele necesare pentru a controla industria, vorbind chiar despre o "conspiratie bolnava" impotriva centrelor de date AI, adaugand ca singurul care se bucura de asemenea avertismente e China. Replica lui a devenit rapid virala: "singurul guardrail de care are nevoie AI-ul e un PRESEDINTE cu IQ mare". Practic avem o divizare clara: liderii tech care au construit aceasta tehnologie sunt ingrijorati, in timp ce politicienii minimizeaza riscurile.

Intre timp, un raport separat arata cum modelul Claude, dezvoltat de Anthropic, ar fi fost folosit in activitati legate de arme, spionaj si operatiuni cibernetice, ceea ce adauga si mai multa greutate ingrijorarilor legate de cat de usor poate fi folosita gresit aceasta tehnologie. Ramane de vazut daca aceste avertismente vor duce la reguli mai stricte sau daca totul va ramane doar la nivel de declaratii, in timp ce cursa pentru AI continua in ritm accelerat.