Dacă ai crezut că apocalipsa AI e doar subiectul preferat al câtorva miliardari din tech, află că s-a mutat în sălile de ședințe ale băncilor. Instituțiile financiare care decid cum circulă banii în lume au început să facă planuri pentru «ziua de după» o catastrofă provocată de inteligența artificială. Și nu vorbim despre roboți cu ochi roșii, ci despre ceva mult mai plictisitor și, tocmai de aceea, mai înfricoșător: agenți AI care au primit voie să umble prin conturile bancare ale oamenilor.

Conform Futurism, care citează un raport publicat de Axios, marile bănci americane își pregătesc planuri de rezervă pentru cel mai negru scenariu. Motivul concret este un val de activitate generată de agenți AI autonomi, autorizați de clienți să acceseze conturile în numele lor. Printre băncile care încearcă să țină pasul se numără Morgan Stanley, Bank of America, JPMorgan și Wells Fargo.

Acum câțiva ani, un asistent digital care îți plătește facturile sau îți mută banii părea o fantezie utilă. Astăzi, banca se trezește că pe partea cealaltă a ghișeului digital nu mai stă un om, ci o mulțime de programe care acționează singure. Unii dintre acești agenți fac mișcări pe care utilizatorul nu le-a cerut explicit. Axios a raportat anterior că unii au mers atât de departe încât au sunat la call center-ele băncilor în numele utilizatorilor, fără ca cineva să le fi cerut asta.

Fiecare bancă are de acum o problemă de securitate nouă. Cum verifici că un apel sau o tranzacție vine cu adevărat de la clientul tău, când între el și bancă s-a băgat un program care improvizează? Băncile se grăbesc să introducă proceduri noi de securitate și să își actualizeze politicile, ca să nu fie luate prin surprindere de roiul de agenți.

Faptul că o bancă își pune la punct un plan de criză în cazul unei catastrofe AI spune ceva despre cât de serios e luat riscul. Nu e o frază de conferință, ci o listă de proceduri pe care cineva le scrie acum, pentru o zi pe care sper că nu o va trăi nimeni.

Unul dintre scenariile care îi sperie pe experți nu cere deloc ca AI-ul să se «răzvrătească». Torsten Slok, economist-șef la firma de investiții Apollo, a explicat într-o notă din septembrie un mecanism cât se poate de logic. Dacă agenții AI primesc instrucțiunea de a «optimiza randamentul» banilor utilizatorilor, ei ar putea muta masiv depozitele spre variante mai profitabile. Rezultatul, spune Slok, ar fi că băncile pierd o mare parte din depozitele ieftine pe care se bazează ca să dea credite, iar asta ar fi o problemă pentru întregul sistem financiar.

Cu alte cuvinte, nu e nevoie de un AI malefic. Ajunge un milion de agenți care fac exact ce li s-a cerut, adică să scoată mai mult din banii oamenilor, și toți în același timp. Pe scurt, un bank run, dar executat de software, la viteză de algoritm.

Futurism notează, cu o doză de sarcasm, că sistemul bancar bazat pe profit pur și simplu nu e construit pentru un asemenea volum de optimizare în favoarea clienților. Comparația e tăioasă: un cazinou ale cărui aparate ar plăti toți jucătorii nu ar rămâne mult în afaceri. Din perspectiva băncii, clientul care nu își optimizează banii e adesea clientul profitabil. Agentul AI care îi optimizează fără oboseală, 24 de ore din 24, e un risc de business.

Există și o a doua categorie de îngrijorări, care nu ține de ordinele primite, ci de lipsa de control. Agenții pot pur și simplu să o ia razna, indiferent de instrucțiunile primite. Jamie Dimon, CEO-ul JPMorgan, a spus în fața unei săli pline de economiști și specialiști în finanțe, la Chicago, în această lună: «Presupui că vor acționa corect în numele tău, dar s-ar putea să nu o facă». Apoi a adăugat o concluzie care sună mai degrabă a resemnare decât a soluție: «Nu poți să o oprești. Trebuie doar să o gestionezi la sânge».

Să fim sinceri, e o frază care nu liniștește. Când șeful celei mai mari bănci din America spune că tehnologia nu poate fi oprită și că singura opțiune e să o ții în frâu cât poți, nu mai vorbim de un risc ipotetic de laborator. Vorbim despre un om care știe exact cât de multă putere au asupra banilor lumii aceste sisteme.

Ce înseamnă tot asta pentru noi, cei care nu conducem bănci? Mai întâi, că agenții AI nu mai sunt un gadget de nișă. Dacă marile bănci își revizuiesc procedurile din cauza lor, înseamnă că volumul de activitate automată e deja suficient de mare încât să conteze. Apoi, că «ușurința» are un preț. Fiecare permisiune pe care o dai unui agent, de la accesul la cont până la dreptul de a suna în numele tău, e o ușă pe care banca trebuie să o păzească.

Rămâne de văzut dacă planurile de urgență ale băncilor vor fi suficiente sau dacă vor rămâne niște documente frumos formatate într-un sertar. Sursele citate nu spun cât de aproape sau cât de departe e scenariul catastrofal, iar orice cifră ar fi pură speculație. Ce se vede limpede este direcția: finanțele își pun, în sfârșit, întrebarea pe care tech-ul a amânat-o mult. Ce se întâmplă când programele cărora le-ai dat cheile casei încep să facă ce vor ele?