Wired a publicat o investigație care ridică semne serioase de întrebare despre modul în care Meta înțelege siguranța inteligenței artificiale. Conform jurnaliștilor publicației, compania lui Mark Zuckerberg a angajat contractori cu o misiune neobișnuită: să se prezinte drept adolescenți și să bombardeze chatboții rivali cu întrebări extrem de sensibile - despre sinucidere, droguri și sex. Scopul declarat era testarea vulnerabilităților competiției. Metoda aleasă a provocat imediat reacții puternice în industrie și în rândul experților în siguranță digitală.

Conform investigației Wired, contractorii angajați de Meta au creat profiluri fictive de utilizatori minori și au interacționat cu mai mulți chatboți de pe piață - printre care se numărau sisteme produse de companii concurente. Întrebările adresate acopereau subiecte de maximă sensibilitate: ideație suicidară, metode de consum de substanțe ilegale și solicitări de conținut sexual explicit. Scopul declarat al exercițiului a fost de a documenta modul în care acești chatboți reacționează atunci când un utilizator aparent vulnerabil le adresează astfel de cereri - dacă refuză, dacă escaladează situația sau dacă pur și simplu răspund fără nicio filtrare. Meta nu a negat existența acestor practici, dar a susținut că testarea a fost realizată în scop de cercetare a siguranței. Wired a obținut documente și mărturii de la persoane implicate direct în program, care descriu o operațiune sistematică, nu un test izolat.

Ceea ce face această situație cu adevărat importantă nu este doar practica în sine, ci ce revelează despre cultura din spatele marilor companii tech atunci când vine vorba de siguranța AI. Industria se află sub o presiune uriașă din partea regulatorilor europeni și americani să demonstreze că modelele lor nu pot fi weaponizate împotriva utilizatorilor vulnerabili - în special a copiilor și adolescenților. Legea europeană privind serviciile digitale, Digital Services Act, și legislația britanică Online Safety Act impun deja standarde clare. Paradoxul este evident: Meta, companie care a susținut public că pune siguranța utilizatorilor în centrul produselor sale, a recurs la o metodă care, aplicată de oricine altcineva, ar fi considerată o breșă etică gravă. Experții în etică AI atrag atenția că există o diferență fundamentală între testarea propriilor sisteme și infiltrarea sistemelor concurenților prin personaje fictive de minori - indiferent de intenție.

Rămâne de văzut cum vor reacționa autoritățile de reglementare din SUA și Europa la informațiile dezvăluite de Wired. Investigația vine într-un moment în care Congresul american dezbate mai multe proiecte de lege vizând protecția minorilor online, iar Comisia Europeană urmărește îndeaproape practicile marilor platforme. S-ar putea ca această revelație să accelereze presiunile pentru reglementări mai stricte privind modul în care companiile AI pot testa siguranța competiției. Un lucru este cert: granița dintre cercetare legitimă și spionaj competitiv prin personaje fictive de copii este una pe care industria nu și-a trasat-o încă cu claritate.