Povestea din Tennessee pare desprinsă dintr-un film de science fiction distopic, dar este complet reală. O bunicuță de 50 de ani a petrecut peste cinci luni în închisoare după ce un software de recunoaștere facială cu AI a identificat-o greșit ca fiind implicată într-o fraudă bancară.

Cea mai șocantă parte? Femeia nu avea niciun antecedent penal și nici măcar nu fusese vreodată în băncile respective. Algoritmul AI a "văzut" o asemănare în imaginile de pe camerele de supraveghere și a generat o potrivire care a convins autoritățile să emită un mandat de arestare.

Luni întregi, această femeie a încercat să își dovedească nevinovăția din spatele gratiilor, în timp ce familia ei se lupta cu un sistem birocratic care părea să aibă mai multă încredere în computere decât în probe concrete. Abia după ce un avocat specializat a intervenit, greșeala a fost descoperită.

Acest caz scoate la iveală o problemă majoră cu tehnologia de recunoaștere facială: rata ridicată de eroare, mai ales când vine vorba de femei și persoane de culoare. Experții avertizează că această tehnologie este folosită prea repede, înainte de a fi perfectionată.

Acum, femeia urmează să dea în judecată orașul pentru daune, iar cazul ei devine un exemplu perfect pentru cei care cer reglementări mai stricte ale AI-ului.

Sursa: Oddity Central