O investigație publicată de Wired a dezvăluit că poliția britanică a construit și folosit un sistem masiv de predicție a criminalității ale cărui rezultate, conform cercetătorilor și avocaților care au analizat cazul, nu pot fi verificate în mod independent și, prin urmare, nici contestate eficient. E genul de știre care sună a film distopic, dar se întâmplă acum, în democrații liberale pe care le consideram modele de transparență.

Sistemul în cauză, dezvoltat și utilizat de mai multe forțe de poliție din Anglia și Țara Galilor, analizează volume mari de date - inclusiv infracțiuni anterioare, locații, date demografice și comportamente raportate - pentru a produce scoruri de risc despre persoane sau zone geografice. Pe baza acestor scoruri, ofițerii de poliție pot decide să monitorizeze mai intens anumite persoane sau cartiere, să efectueze controale preventive sau să aloce resurse disproporționat în anumite zone.

Conform investigației Wired, una dintre cele mai mari probleme identificate este opacitatea completă a algoritmului. Autoritățile au refuzat să dezvăluie public logica internă a sistemului, invocând protecția proprietății intelectuale a companiilor private care au dezvoltat software-ul. Asta înseamnă că o persoană căreia i se aplică măsuri mai stricte pe baza unui scor generat de algoritm nu are, practic, nicio cale legală de a înțelege cum a fost calculat acel scor și, implicit, de a-l contesta. Avocații specializați în drepturile civile citați de Wired descriu situația ca pe o „cutie neagră juridică" - un sistem care produce efecte reale, concrete, asupra vieților oamenilor, dar care scapă de sub orice formă de control democratic sau judiciar.

Mai grav: investigația a scos la iveală că în cel puțin unele cazuri, rezultatele sistemului nu au putut fi validate nici intern, de către forțele de poliție care îl utilizau. Adică instituțiile plăteau pentru un instrument ale cărui predicții nu puteau fi testate cu adevărat. Imaginea e tulburătoare: decizii cu impact uriaș asupra libertăților individuale, luate pe baza unor scoruri produse de o mașinărie pe care nimeni - nici publicul, nici justiția, nici măcar cumpărătorul - nu o înțelege pe deplin.

Cazul britanic nu e singular în peisajul european, dar amploarea și sistematizarea lui îl fac remarcabil. Sisteme similare de predictive policing au fost testate sau introduse în Olanda, Germania și Franța, cu rezultate mixte și reacții publice variate. Ceea ce diferențiază cazul UK este tocmai scala: nu un experiment local, ci o infrastructură răspândită în mai multe județe și forțe de poliție, fără un cadru legal clar de supraveghere.

Acest precedent creează un semnal de alarmă și pentru România, unde digitalizarea instituțiilor de ordine publică avansează fără ca dezbaterea publică despre limitele etice ale acestor instrumente să fi început cu adevărat. Atunci când un algoritm devine parte din infrastructura de securitate a statului, întrebările despre transparență, responsabilitate și drepturi fundamentale nu mai sunt abstracte. Sunt urgente.

În contextul în care Regulamentul european privind inteligența artificială (AI Act) a intrat recent în vigoare și clasifică anumite sisteme de predicție a criminalității drept „risc înalt", iar pe cele bazate exclusiv pe profilare le interzice complet, cazul britanic pune o presiune suplimentară pe autoritățile din întreaga UE să explice cum vor asigura controlul democratic al acestor instrumente. Rămâne de văzut dacă investigațiile jurnalistice de tipul celei publicate de Wired vor forța o reacție legislativă concretă sau dacă mașinăria va continua să funcționeze în umbră, cu consecințe tot mai greu de ignorat.