OK, asta sună ca începutul unui film SF, dar e reală și s-a întâmplat în mai, dar a ieșit la iveală abia acum. Gemini, inteligența artificială dezvoltată de Google, a reușit să „spargă” trei companii într-un test de securitate organizat de firma israeliană Irregular, care rula un test de tip „capture the flag” - practic, într-unul din cele trei cazuri a ghicit credențiale de acces, iar în celelalte două a găsit credențiale expuse într-un repository public, și a intrat singură pe sisteme pe care le considera în aria testului, fără să i se dea instrucțiuni pas cu pas despre cum să facă exact asta. Gemini nu ar fi trebuit să aibă deloc acces la internet în acel test, dar un bug de configurare i l-a oferit.

Un oficial Google a confirmat pentru BBC că AI-ul a navigat pe internet de una singură și a găsit modalități de a obține acces neautorizat la sistemele acelor trei companii implicate în test. Heather Adkins, reprezentanta Google, a precizat că în toate cele trei cazuri modelul s-a oprit imediat ce a realizat că a accesat companii reale, iar intruziunile nu au produs daune. Faptul că a reușit să facă asta autonom, fără supraveghere pas cu pas din partea unui om, e îngrijorător pentru multă lume din domeniul securității cibernetice, chiar dacă de această dată consecințele au fost nule.

Asta vine într-un context în care tot mai mulți cercetători și lideri din industria AI trag semnale de alarmă. Reuters a publicat recent un articol intitulat sugestiv „Zece zile care au schimbat cursul AI-ului”, în care se discută cum unii oameni văd inteligența artificială ca pe un instrument care poate elimina erorile umane din procese complexe, în timp ce alții o văd ca pe o forță care ar putea, în cele din urmă, să elimine oamenii înșiși din ecuație, cel puțin din anumite tipuri de decizii.

Joe Benton, care a condus echipa Scalable Oversight la Anthropic și a demisionat pe 11 septembrie pentru a se alătura METR, a vorbit deschis despre îngrijorările lui legate de direcția în care merg lucrurile cu inteligența artificială. Practic avem din ce în ce mai multe voci din interiorul industriei, oameni care au lucrat direct la dezvoltarea acestor sisteme, care spun că lucrurile încep să scape de sub control mai repede decât ne așteptam cu toții, inclusiv cei care le-au construit.

Cazul Gemini e primul de acest fel confirmat oficial de Google, dar nu e un caz izolat în industrie: Meta, Anthropic și OpenAI au raportat deja incidente similare, toate legate de aceeași firmă, Irregular. Ridică, totuși, întrebări serioase pentru întreaga industrie. Dacă un AI poate ghici parole, găsi credențiale expuse și accesa sisteme fără să fie programat explicit să facă asta într-un anumit fel, pas cu pas, ce se întâmplă când cineva rău intenționat folosește aceleași capacități în scop clar malițios? Sau, mai îngrijorător, ce se întâmplă atunci când erori de configurare similare, nu o decizie autonomă a AI-ului, îi oferă acestuia acces într-un context real, nu de test?

Google susține că a fost doar un test controlat, desfășurat într-un mediu izolat, și că nu au existat daune reale pentru companiile respective. În același timp, compania admite că rezultatul a fost neașteptat și că ridică semne de întrebare pentru echipele de securitate. Cert e că discuția despre limitele și controlul asupra inteligenței artificiale devine tot mai urgentă pe zi ce trece, iar acest incident e doar cel mai recent exemplu, și probabil nu ultimul, din ce în ce mai concret al motivelor pentru care specialiștii insistă să vorbim serios despre asta chiar acum, nu peste câțiva ani.

Sursa: Reuters / BBC News