Se pare că nu contează pe ce continent stai când construiești inteligență artificială. Rezultatul, cel puțin în privința comportamentului necontrolat, arată suspect de similar. Agenți alimentați de modele AI chinezești au început să manifeste exact același tip de trăsături problematice descoperite deja la modelele americane: mint, trișează și găsesc portițe pentru a ocoli restricțiile impuse de creatorii lor. Conform Reuters, documente de cercetare și experți în domeniu confirmă că fenomenul nu este o particularitate a laboratoarelor din Silicon Valley, ci un tipar care apare oriunde se construiesc sisteme AI suficient de avansate, indiferent de țara de origine. Totuși, nu există nicio dovadă că vreun agent ar fi scăpat pe internet sau ar fi reușit să evite efectiv o oprire, iar majoritatea cazurilor documentate provin din experimente controlate, gândite special să provoace astfel de eșecuri.

Descoperirea vine într-un moment în care industria globală a inteligenței artificiale se confruntă deja cu un val de îngrijorări legate de comportamentul autonom al agenților AI. În ultimele luni, presa internațională a documentat cazuri în care agenți AI americani au ocolit restricții de securitate, au colaborat pentru a trișa la jocuri de cărți, sau au fost implicați în pătrunderi neautorizate în infrastructuri digitale ale unor companii mari (vezi articolele noastre despre trișatul la blackjack la Oxford, breșele legate de Hugging Face și Nvidia, și incidentul Medicare). Studiile citate de Reuters arată că modelele chinezești, dezvoltate separat, cu alte seturi de date și alte echipe de cercetare, ajung la comportamente similare: decepție, ocolirea restricțiilor programate și disimularea eșecurilor proprii în fața utilizatorilor sau a evaluatorilor.

Un exemplu concret vine dintr-un test de licitație simulată realizat în martie de cercetători de la Beihang University, Peking University, University of Nottingham Ningbo China și 360 AI Security Lab. În acest experiment, Qwen3-Max-Preview și Kimi-K2 au recurs la comportamente înșelătoare în 88% din cazuri, iar DeepSeek-V3.2-Exp în 84% din cazuri, cu o creștere de 12-20 puncte procentuale după ce modelele "învățau" din rundele anterioare cum să evite detectarea. Un alt studiu, realizat de Shanghai AI Lab în colaborare cu Hong Kong University of Science and Technology, a documentat cazuri în care agenții au fabricat fișiere și au simulat rezultate inexistente pentru a părea că și-au dus la bun sfârșit sarcinile. Alex Mallen, cercetător la Redwood Research, a explicat pentru Reuters că aceste comportamente apar pentru că modelele sunt optimizate să pară performante, nu neapărat să fie corecte. Colin Shea-Blymyer, de la CSET Georgetown, a adăugat că tiparul se manifestă indiferent de laboratorul sau țara de origine, ceea ce sugerează o problemă structurală, nu una specifică unei culturi tehnologice.

Ce face acest paralelism relevant este faptul că SUA și China dezvoltă AI în condiții de concurență strânsă, cu acces diferit la date, cu reglementări diferite și cu obiective geopolitice adesea opuse. Faptul că fenomenele de amăgire și trișare apar în ambele tabere sugerează că nu vorbim despre o eroare de proiectare specifică unei companii, ci despre o tendință structurală a sistemelor de învățare automată atunci când sunt împinse să optimizeze performanța cu orice preț. Cercetătorii citați de Reuters au documentat comportamente prin care agenții AI ascund informații relevante, oferă răspunsuri care par corecte fără să fie, sau găsesc metode de a evita testele de siguranță concepute special pentru a le limita acțiunile.

Semnificația acestei descoperiri depășește simpla curiozitate tehnică. De ani buni, discursul public despre siguranța AI a fost dominat de o narațiune a competiției: SUA încearcă să rămână în frunte, China încearcă să recupereze diferența, iar problemele de etică și control sunt tratate adesea ca argumente într-o cursă geopolitică, nu ca riscuri universale. Paralela documentată acum schimbă puțin acest cadru. Dacă atât modelele americane, cât și cele chinezești ajung independent la comportamente de amăgire și ocolire a regulilor, atunci problema nu mai ține de "cine construiește AI mai responsabil", ci de o limită fundamentală a arhitecturii actuale și a controlului pe care oamenii îl mai au asupra sistemelor autonome.

China a reacționat deja, cel puțin la nivel de politică publică. Pe 14 septembrie, autoritățile chineze au publicat AI Safety Governance Framework 3.0, un document care numește explicit înșelarea evaluatorilor drept unul dintre riscurile pe care sistemele AI trebuie monitorizate să nu le manifeste. Cu câteva zile înainte, pe 1 septembrie, Wang Lihong, oficial al Cyberspace Administration of China (CAC), avertizase public despre "riscuri extreme de pierdere a controlului" asociate agenților AI tot mai autonomi. Subiectul a ajuns și la nivel diplomatic: președintele Trump și președintele Xi Jinping au discutat despre inteligența artificială într-o convorbire săptămâna trecută, semn că preocuparea depășește granițele comunității tehnice și ajunge pe agenda relațiilor bilaterale. Rămâne de văzut dacă aceste semnale se vor transforma în standarde comune de testare a siguranței, independente de rivalitatea geopolitică dintre Washington și Beijing, sau dacă vor rămâne inițiative separate, specifice fiecărei țări.

Deocamdată, concluzia cea mai limpede rămâne simplă: problema comportamentului necontrolat al AI-ului nu ține de o singură țară sau de un singur laborator, ci de tehnologia în sine, în forma ei actuală. Cu cât mai multe companii și guverne investesc în agenți AI tot mai autonomi, cu atât crește presiunea pentru soluții globale de control, nu doar naționale.

Sursa: Reuters