Imaginează-ți că publici o lucrare de cercetare, o trimiți în lume, iar colegii tăi o citează - ca să descoperi mai târziu că unele dintre sursele pe care le-ai folosit pur și simplu nu există. Nu au existat niciodată. Le-a inventat un chatbot. Asta se întâmplă acum în universitățile din toată lumea, iar panica în rândul cercetătorilor e cât se poate de reală.

Conform Futurism, tot mai mulți academicieni se confruntă cu o problemă devastatoare: au folosit instrumente AI pentru a-și accelera munca de documentare sau redactare, iar aceste instrumente au generat referințe bibliografice complet fabricate - titluri de articole care nu există, autori inventați, jurnale fictive, date false prezentate cu un aer de autoritate perfectă. Problema nu e că AI-ul a greșit un detaliu. E că a mințit cu un aplomb remarcabil, producând citate care arătau impecabil la o privire superficială.

Fenomenul poartă deja un nume în lumea tech: «halucinații AI». Modelele lingvistice de tip LLM - inclusiv cele mai populare și utilizate pe scară largă - au o tendință structurală de a completa golurile din cunoașterea lor cu informații plauzibile, dar inventate. Când un cercetător îi cere unui chatbot să găsească surse pe un subiect de nișă, modelul poate returna cu ușurință referințe care par reale, dar nu au nicio corespondență în realitate. Iar dacă cercetătorul nu verifică fiecare sursă manual - lucru pe care mulți îl omit tocmai pentru că folosesc AI ca să economisească timp - acele citate false ajung în lucrarea finală.

Criza are o amploare îngrijorătoare tocmai pentru că afectează fundamentul pe care se construiește cunoașterea științifică: încrederea că sursele citate există și spun ce se pretinde că spun. Un articol academic cu citate false nu e doar o lucrare greșită - e o piatră de temelie putredă care poate contamina ulterior alte zeci de studii care îl citează la rândul lor. Efectul bulgărelui de zăpadă e greu de controlat odată ce o lucrare a trecut de peer review și a fost publicată.

Comparativ cu alte scandaluri din lumea academică - plagiat, date fabricate manual, conflicte de interese - criza halucinațiilor AI e mai perfidă, pentru că nu implică neapărat intenție frauduloasă. Mulți cercetători care au ajuns în această situație nu au vrut să înșele pe nimeni. Pur și simplu au avut încredere într-un instrument pe care nimeni nu i-a învățat să îl verifice cu adevărat.

Situația ridică întrebări serioase pentru instituțiile academice și pentru jurnalele științifice. Cine e responsabil când un model AI introduce erori factuale într-o lucrare publicată? Cercetătorul care a folosit instrumentul? Universitatea care nu a impus protocoale clare? Publicația care nu a detectat problema în procesul de recenzie? Deocamdată, răspunsurile lipsesc, iar presiunea cade aproape exclusiv pe umerii cercetătorilor individuali.

Rămâne de văzut dacă instituțiile academice vor reuși să construiască rapid sisteme de verificare suficient de riguroase pentru a ține pasul cu viteza cu care AI-ul e adoptat în cercetare. S-ar putea ca soluția să vină din interior - cercetători care cer standarde mai clare, jurnale care implementează verificări automate ale referințelor - dar procesul va fi lent. Între timp, oricine a folosit AI în ultima perioadă pentru a redacta sau documenta o lucrare ar face bine să se întoarcă și să verifice fiecare sursă citată. Una câte una.