O carte despre pericolele dezinformării generate de inteligența artificială a ajuns să conțină exact tipul de erori pe care pretindea că le denunță. «The Future of Truth», scrisă de Steven Rosenbaum și prefațată de laureata Nobel Maria Ressa, a fost prinsă cu citate fabricate de AI - un nivel de ironie pe care internetul nu l-a ratat o secundă.

Conform Futurism, volumul lui Rosenbaum - subtitrat «How AI Reshapes Reality» - conține mai multe citate care se dovedesc a fi halucinații produse de modele de limbaj. Citatul atribuit unor personalități reale nu poate fi verificat în nicio sursă primară, iar unele formulări poartă amprenta distinctivă a textului generat automat: fluent, convingător și complet inventat. Cartea fusese prezentată ca un ghid esențial pentru înțelegerea modului în care AI distorsionează realitatea informațională. Prefața semnată de Maria Ressa, jurnalistă filipineză și laureată Nobel pentru Pace în 2021, adăugase credibilitate suplimentară proiectului. Scandalul a izbucnit după ce cititori și jurnaliști au început să verifice sursele citate în volum și nu le-au găsit nicăieri.

Ceea ce face acest caz remarcabil nu este doar eroarea în sine, ci contextul. Rosenbaum scria despre un pericol real și documentat - tendința modelelor AI de a inventa fapte cu același ton autoritar cu care raportează fapte reale. Halucinațiile AI reprezintă una dintre cele mai discutate probleme ale momentului în industria tech: ChatGPT, Gemini și alte modele au fost surprinse în mod repetat inventând citate, studii academice inexistente și biografii false. Faptul că un autor care scria tocmai despre acest fenomen a ajuns victima lui spune ceva important: nu există imunitate la aceste capcane. Oricine folosește AI ca instrument de cercetare, fără să verifice fiecare sursă la bază, riscă să preia și să amplifice informații false. Iar dacă se întâmplă asta într-o carte dedicată exact acestui subiect, se poate întâmpla oriunde. Cazuri similare au mai existat: avocați americani au fost sancționați după ce au citat precedente juridice inventate de ChatGPT în documente depuse în instanță, iar articole academice au fost retrase după ce reviewerii au identificat referințe bibliografice fictive.

Întrebarea care rămâne deschisă este despre procesul editorial. Cum a trecut un volum prin revizuiri, fact-checking și aprobare de publicare cu citate care nu există? S-ar putea ca presiunea de a publica rapid în contextul unui subiect extrem de la modă să fi comprimat etapele de verificare. Rămâne de văzut cum va reacționa editorul și dacă vor urma corecturi sau o retragere parțială a volumului. Rosenbaum nu a oferit, conform Futurism, o explicație detaliată publică la momentul izbucnirii scandalului. Între timp, pe rețelele sociale, ironia a circulat viral: o carte despre cum AI reshapează adevărul a ajuns să demonstreze exact asta, din interior. Uneori, cel mai bun studiu de caz se scrie singur.