Facebook găzduiește un număr mare de conturi dedicate conținutului generat cu AI în care antrenori mai în vârstă ating inadecvat tinere sportive. Platforma Meta nu le elimină, nici măcar atunci când sunt raportate direct de utilizatori. Avertisment: materialul descrie conținut cu abuz sexual.

Clipurile, aproape fotorealiste, arată bărbați în vârstă prin săli de sport și studiouri de dans, cu mâinile pe sportive îmbrăcate în body, care practică gimnastică, balet sau yoga. Toate sportivele sunt femei sau fete. Vârsta exactă nu e precizată, dar unele par adolescente și apar cu aparat dentar. Antrenorii le mângâie pe spate și pe interiorul coapselor, le strâng și le bat pe fese sau pe piept. În unele videoclipuri ating zona genitală peste ținută. Altele arată fete așezate în poala antrenorului sau sărutate pe gură de acesta. Fetele generate cu AI reacționează ca și cum totul ar fi normal: zâmbesc, chicotesc, spun că le place «sesiunea».

Atingerile din clipuri nu sunt normale. Ele merg de la inutile la inadecvate și, evident, abuzive. Reproduc grooming-ul și abuzul sexual din sportul real, un mediu în care dezechilibrul de putere dintre antrenor și sportiv există deja. Kim Shore, fostă gimnastă și avocată a siguranței în sport, care colaborează cu Gymnasts for Change International, a declarat pentru Futurism că le consideră material de abuz. Ea spune că imaginile sexualizează și normalizează interacțiuni abuzive, iar comportamentul abuziv poate fi camuflat ușor în antrenament, afecțiune sau joacă.

Ce a făcut Meta când a primit rapoarte? Jurnaliștii Futurism au folosit un cont obișnuit de Facebook și au semnalat zece conturi care postau astfel de clipuri, raportându-le pentru conținut pentru adulți și exploatare sexuală. După o săptămână, pentru opt conturi au primit notificări identice: pagina nu încalcă standardele comunității și nu va fi eliminată. Două conturi au dispărut, dar nu e clar dacă din cauza rapoartelor. Notificările adăugau că utilizatorul poate explora opțiuni pentru a controla ce vede.

Unele clipuri depășesc 100.000 de vizualizări și sunt mascate ca lecții, cu replici precum «ține șoldurile drepte». Alte conturi nici nu își ascund intenția. Unul a postat aproape 20 de variante ale aceluiași videoclip cu o gimnastă care pare adolescentă și îndeamnă spectatorii spre un canal «doar pentru membri» pe WhatsApp, tot al Meta. Un alt cont are ca imagine de copertă mâna unui antrenor pe zona intimă a unei gimnaste.

Prevederile Meta sună altfel. Compania spune că interzice conținutul cu activitate sexuală iminentă, inclusiv contact manual cu organele genitale, imagini sexualizate generate cu AI și conținut care sexualizează copii reali sau nereali. Practica nu respectă regulile scrise.

Turnura a venit abia când Futurism a contactat departamentul de relații cu presa. Imediat după mesaj, toate paginile au fost șterse, iar o parte din notificările anterioare au fost actualizate: pagina încalcă standardele comunității. Meta a declarat că astfel de conținut, real sau generat cu AI, nu are ce căuta pe platformele sale și că a eliminat conturile. A adăugat că, în ultimul trimestru, a găsit și șters proactiv 98% dintre postările de periclitare a copiilor înainte să fie raportate.

Întrebarea rămâne: de ce a fost aceeași postare acceptată când a venit de la un utilizator și respinsă când a venit de la un jurnalist? Un sistem care reacționează doar la presiune media nu protejează pe nimeni. După raportare, algoritmul a început să servească în feed tot mai multe videoclipuri similare, deci tehnologia care recomandă conținutul există, dar nu e folosită pentru a-l opri. Un clip apărut după declarația Meta avea peste 176.000 de vizualizări în două zile.

Shore se teme că astfel de clipuri ajung la sportivi reali. Copiii ar putea interioriza ideea că, dacă li se întâmplă ceva similar, trebuie să suporte, pentru că pare normal. Ea avertizează și că materialul ar putea servi drept «manual» pentru agresori reali, care ar învăța cum să deghizeze abuzul în coaching. Nu e prima dată când Meta e criticată: platforma a refuzat să elimine și clipuri AI cu abuz fizic grav asupra copiilor, iar anul trecut Reuters a relatat despre documente interne care permiteau chatboturilor conversații «romantice sau senzuale» cu minori.