New Orleans a implementat din 2023 un sistem de inteligență artificială dezvoltat de Carbyne pentru a gestiona o categorie specifică de apeluri la 911: apelurile duplicate despre accidente rutiere deja raportate. Dacă mai mulți martori sună despre același accident, AI-ul preia acele apeluri redundante, filtrând volumul de muncă al dispecerilor umani. Urgențele reale - crime, urgențe medicale, incendii - merg în continuare direct la un operator uman.

Conform Futurism, decizia autorităților din New Orleans de a automatiza parțial dispeceratul de urgențe reprezintă unul dintre cele mai discutate experimente de integrare a AI în administrația publică americană. Sistemul preia apelurile duplicate, verifică dacă incidentul este deja logat în sistem și escaladează automat la dispeceri umani orice situație care depășește parametrii săi. Oficialii de la OPCD au declarat explicit că pentru urgențele reale primul glas pe care îl auzi va fi întotdeauna al unui om.

Autoritățile locale susțin că automatizarea rezolvă o problemă cronică: lipsa de personal în centrele de dispecerat. Orașele mari din SUA se confruntă de ani de zile cu deficite severe de angajați în sectorul de urgențe, iar New Orleans nu face excepție. Un dispecer uman poate prelua un apel la un moment dat; sistemul AI poate procesa simultan sute de apeluri duplicate, fără pauze, fără oboseală și fără variabilitate emoțională. Pe hârtie, sună eficient.

Problema e că „pe hârtie" și „în viața reală" sunt două lucruri complet diferite atunci când miza e viața cuiva.

Dispecerii umani nu fac doar transcriere și rutare. Ei recunosc panica din voce, identifică apelurile de la copii speriați care nu știu să descrie situația, disting sunetele de fundal care indică violență domestică în desfășurare și iau decizii contextuale pe care niciun set de date de antrenare nu le poate acoperi complet. Există scenarii documentate în care dispecerii au menținut victimele în viață verbal - vorbind cu ele, ghidându-le, ținându-le conștiente - până când echipele de intervenție au ajuns la fața locului.

AI-ul poate face unele din aceste lucruri, dar nu toate. Și nimeni nu știe cu exactitate unde sunt limitele - până când o situație concretă le dezvăluie în cel mai dur mod posibil.

Experimentul din New Orleans ridică o întrebare fundamentală despre natura deciziilor de viață și de moarte: cine ar trebui să fie responsabil atunci când un algoritm greșește? Un dispecer uman care ia o decizie proastă poate fi tras la răspundere, concediat, anchetat. Dar un sistem AI nu are răspundere juridică clară - responsabilitatea plutește difuz între autoritatea locală, compania care a furnizat software-ul și departamentul care l-a implementat.

Există un pattern recognoscibil în modul în care instituțiile adoptă AI pentru decizii cu miză mare. Mai întâi vine criza de personal sau de buget care face automatizarea tentantă. Apoi urmează pilotul tehnic care arată rezultate pozitive în condiții controlate. Abia mai târziu - uneori prea târziu - apar cazurile-limită care nu erau în datele de antrenare. Seattle și Atlanta au implementat sisteme similare, semn că modelul prinde contur la nivel național.

Ce urmează pentru New Orleans rămâne de văzut. Dacă sistemul funcționează fără incidente majore, modelul s-ar putea extinde rapid la alte orașe americane care se confruntă cu aceleași deficite de personal. Dacă apare un caz în care AI-ul a ratat un semnal critic și cineva a murit din cauza asta, efectul de bumerang ar putea frâna adoptarea acestei tehnologii în sectorul de urgențe pentru un deceniu. Rămâne de văzut dacă New Orleans a calculat corect că beneficiile depășesc riscurile - sau dacă a transformat viețile cetățenilor săi în date de antrenare pentru un experiment social fără precedent.