Escrocii de tip «pig butcher» au găsit în AI cel mai bun aliat al lor: chatboți care simulează relații de lungă durată, câștigă încrederea victimelor și le convingă să investească în scheme fictive. Acum, tehnologia care i-a armat pe escroci începe să fie întoarsă împotriva lor - și ironia e delicioasă. Un sistem AI conceput special pentru a imita victimele ține de vorbă escrocii ore întregi, consumându-le resursele fără să lase nicio victimă reală în urmă.

Conform Futurism, ideea e simplă în teorie și fascinantă în execuție: în loc ca un om să fie prins în capcana unui scammer, un chatbot anti-fraudă preia conversația. Escrocul, adesea el însuși operat sau asistat de AI, continuă să investească timp și efort într-o «victimă» care nu există. Sistemele de tip «pig butcher» - denumite astfel pentru că escrocii «îngrașă porcul» înainte de a-l «tăia», adică câștigă încrederea victimei pe parcursul săptămânilor sau lunilor înainte de a cere bani - sunt extrem de costisitoare ca resurse umane și tehnice. Fiecare conversație pierdută pe un chatbot înseamnă timp și bani aruncați.

Aceste scheme de fraudă au explodat la nivel global în ultimii ani, generând pierderi de miliarde de dolari anual. Operațiunile sunt adesea conduse din țări din Asia de Sud-Est, unde muncitorii - uneori ei înșiși victime ale traficului de persoane - sunt puși să ruleze sute de conversații simultane. Introducerea AI în ecuație a amplificat capacitatea escrocilor: un singur operator poate acum gestiona mult mai multe «relații» fictive cu ajutorul asistenței automate. Răspunsul comunității de securitate cibernetică și al companiilor de tech a fost să creeze, în esență, același lucru - dar pus în slujba apărării.

Dincolode umorul situației stă o problemă serioasă: aceasta este prima formă vizibilă de război AI-contra-AI la scară largă în spațiul fraudei digitale. Dacă escrocii au AI care simulează empatie și construiește relații, iar apărătorii au AI care simulează naivitate și curiozitate, ne aflăm într-o cursă a înarmării în care victimele umane reale sunt - cel puțin temporar - scoase din ecuație. Modelul seamănă cu filtrele anti-spam din era e-mail-ului, dar ridicat la un nivel exponențial de complexitate. Filtrele blocau mesaje; acum, AI-ul anti-scam joacă un joc întreg.

Întrebarea care rămâne deschisă e cât de sustenabilă e această strategie pe termen lung. Escrocii vor adapta rapid tacticile: vor învăța să detecteze semnele unui chatbot adversar, vor introduce teste de umanitate mai sofisticate sau vor muta resursele spre canale mai puțin protejate. Există, de asemenea, o problemă etică subtilă - ce se întâmplă când AI-ul anti-scam colectează date din conversații și cum sunt gestionate acele informații. S-ar putea ca bătălia reală să nu fie între cei doi chatboți, ci între companiile care îi construiesc și reglementatorii care încearcă să țină pasul. Rămâne de văzut dacă această cursă a înarmării va proteja mai mulți oameni decât va crea noi vulnerabilități.