Aveam impresia ca deepfake-urile sunt o problema a celebritatilor sau a politicienilor. Nu e asa. O ancheta serioasa a publicatiei WIRED, realizata impreuna cu organizatia Indicator, a scos la iveala o criza care se intampla chiar acum in scoli obisnuite din toata lumea.

Aproape 90 de scoli si cel putin 600 de elevi au fost afectati de imagini deepfake nude generate cu inteligenta artificiala. Victimele sunt in principal adolescente, iar agresorii sunt de cele mai multe ori colegi de scoala, sau uneori chiar mai tineri. Instrumentele necesare sunt gratuite sau foarte ieftine, disponibile online cu un simplu search, si nu necesita nicio cunostinta tehnica speciala.

Cum functioneaza? Un elev ia o fotografie normala a unui coleg de pe Instagram sau din telefon, o introduce intr-un program specializat si primeste in cateva secunde o imagine alterata. Rezultatul circula apoi pe grupuri de WhatsApp, pe Discord, pe Snapchat.

Efectul asupra victimelor e devastator. Adolescenti care deja se confrunta cu presiunile sociale ale varstei ajung sa aiba imagini false cu ei circuland in mediul scolar. Anxietate, depresie, abandon scolar, izolare, toate acestea au fost documentate ca efecte directe.

Problema e ca legislatia abia incepe sa tina pasul. In unele tari, crearea si distribuirea acestor imagini e deja ilegala, dar in multe altele legile nu au anticipat aceasta situatie. Scolile nu stiu cum sa raspunda, parintii nu stiu cum sa isi protejeze copiii, iar platformele tech se misca prea incet.

Ancheta WIRED subliniaza ca aceasta nu e o criza viitoare, e una prezenta, care se intampla acum in clase obisnuite, in orase obisnuite, cu adolescenti obisnuiti care nu stiu inca ca sunt victime.

Sursa: WIRED