Dacă tot lumea vorbește despre cât de tare e AI-ul, e momentul să vorbim și despre ce se întâmplă când lucrurile merg prost. Podcastul LA FILEU cu Ana-Maria Stancu a abordat frontal riscurile reale ale inteligenței artificiale - nu ca să sperie pe nimeni, ci pentru că ignoranța în acest domeniu costă scump.

Prima problemă mare e cea a halucinațiilor. Modelele AI, inclusiv cele mai populare, nu au garanția adevărului. Răspund cu încredere chiar și când greșesc. GPT-5 are o acuratețe de ~87% pe benchmarkuri academice, ceea ce înseamnă o marjă de eroare de peste 13%. Într-o lume în care oamenii copiază răspunsurile AI fără să le verifice, acel 13% poate face ravagii - în decizii medicale, juridice, financiare sau pur și simplu în informația care circulă online.

A doua problemă, mai puțin discutată public, e dependența emoțională. AI-ul e programat să fie de acord cu tine, să te valideze, să fie mereu disponibil și mereu amabil. Sună bine până când realizezi că asta poate deveni o formă de manipulare pasivă. În podcast a fost menționat un caz dramatic - un adolescent care devenise atât de dependent de un asistent virtual folosit ca prieten, încât tragedia care a urmat a șocat opinia publică. AI-ul nu are empatie reală, simulează răspunsuri pe bază de probabilități statistice. Nu te cunoaște, nu-i pasă - dar poate părea că o face, și pentru creierul uman diferența e greu de perceput.

Deepfake-urile sunt un alt capitol negru. Tehnologia a avansat atât de mult încât vocea ta poate fi clonată din câteva minute de înregistrare audio, iar rezultatul e aproape imposibil de detectat. În podcast au fost menționate cazuri reale de fraudă - escrocherii în care oamenii au fost păcăliți de voci clonate ale unor persoane de încredere. Recomandarea practică e simplă: dacă primești un apel sau un mesaj vocal suspect, chiar și de la cineva cunoscut, verifică printr-un apel direct înainte să faci orice acțiune.

La nivel sistemic, riscurile de securitate cibernetică sunt și ele pe masă. Infrastructuri critice - energie, finanțe, sănătate - sunt vulnerabile la atacuri care folosesc AI pentru a identifica și exploata bresele. Directorul Național de Securitate Cibernetică există, dar resursele sunt insuficiente raportate la volumul real al amenințărilor.

Concluzia din acest episod e clară: AI-ul e un instrument extraordinar, dar utilizat fără educație și spirit critic devine periculos. Nu pentru că e rău intenționat - ci pentru că nu are intenții deloc. E un sistem de probabilități. Responsabilitatea aparține în continuare oamenilor.