Un instrument digital care promite să detecteze dacă un text a fost scris de un om sau de o mașină a devenit una dintre cele mai distructive tehnologii din ultimii ani - nu din cauza a ceea ce face corect, ci din cauza a ceea ce face greșit. Conform The Verge, detectoarele de conținut AI sunt folosite în masă de profesori, edituri și platforme editoriale, deși studiile și cazurile reale arată că rata de eroare este suficient de mare pentru a ruina vieți.

Problema nu e nouă, dar a escaladat dramatic odată cu adoptarea rapidă a ChatGPT și a modelelor similare. Dintr-odată, toată lumea a vrut un instrument care să separe scrisul uman de cel artificial. Startup-uri au apărut peste noapte oferind soluții cu titluri încrezătoare: «detectăm AI cu 99% acuratețe». Universități și școli le-au integrat în fluxuri de evaluare. Edituri le-au adăugat ca prim filtru în procesul de selecție a manuscriselor. Publicații jurnalistice le-au folosit pentru a verifica articolele freelancerilor.

Ceea ce nu s-a discutat suficient este că aceste instrumente nu funcționează în modul în care promit. Detectoarele AI analizează «perplexitatea» textului - cât de previzibilă este structura frazelor - și «burstiness», adică variația ritmului de scriere. Un om scrie mai haotic, cu fraze lungi urmate de unele scurte, cu vocabular neașteptat. Un model de limbaj tinde să producă text mai uniform. Dar această logică are o problemă fundamentală: scriitorii clari, concisi și bine organizați sunt adesea marcați ca «probabil AI». Cu alte cuvinte, cu cât ești mai bun la scris, cu atât ești mai suspect.

Cazurile documentate de The Verge arată consecințe concrete. Studenți acuzați de trișat cu AI pentru lucrări scrise în totalitate de ei. Freelanceri respinși de publicații după ce textele lor au fost marcate de algoritmi, fără drept de apel și fără explicații detaliate. Profesori care au raportat elevi la comisii disciplinare pe baza unui scor dintr-un dashboard. Unii dintre acești oameni au pierdut burse, contracte sau poziții academice.

Paranoia instalată de aceste instrumente are și o dimensiune sistemică. Odată ce un profesor sau un editor adoptă un detector AI, presiunea de a-l folosi se răspândește în departament sau redacție. Nimeni nu vrea să fie cel care «a trecut cu vederea» un text scris de o mașină. Astfel, un instrument cu erori masive devine standard, iar contestarea lui e privită cu suspiciune.

Mai grav, companiile care produc aceste detectoare recunosc în termenii și condițiile lor că produsele nu trebuie folosite ca unic instrument de decizie. Turnitin, unul dintre cele mai cunoscute, a adăugat explicit avertismente în acest sens. Dar în practică, puțini citesc termenii, și și mai puțini îi respectă.

Semnificația acestui fenomen depășește câteva cazuri individuale. Trăim prima perioadă în care instrumentele de detectare a conținutului artificial sunt mai rapide decât orice proces uman de verificare, dar mai puțin fiabile decât un judecător cu experiență medie. Rezultatul este o cultură a prezumției de vinovăție: ești vinovat dacă algoritmul spune că ești, și sarcina dovezii cade pe tine. Aceasta inversează principii fundamentale de bună-credință pe care se bazează atât educația, cât și jurnalismul.

Comparații cu epoci anterioare de panică morală - testele de plagiat din anii 2000, scandalurile de doping în sport - arată că tendința de a adopta tehnologie de detecție înaintea validării ei riguroase nu e nouă. Diferența este că acum consecințele vin mai repede și afectează oameni mai vulnerabili: studenți la primele lucrări academice, scriitori la începutul carierei, jurnaliști independenți fără rețele de protecție.

Ce urmează? Câteva universități au început deja să restricționeze utilizarea detectoarelor AI ca instrument disciplinar, cerând în schimb conversații directe cu studenții sau probe suplimentare. S-ar putea ca presiunea legală să accelereze această schimbare - în mai multe jurisdicții, avocații deja explorează dacă sancțiunile bazate exclusiv pe output-ul unui algoritm pot fi contestate juridic. Rămâne de văzut dacă industria EdTech va răspunde cu mai multă transparență sau va continua să vândă certitudine acolo unde există doar probabilitate.