Compania lui Jack Dorsey, Block, a lansat Dessa, un model vocal AI creat în laboratorul său de cercetare, care rulează local și sună straniu de uman, cu tot ce vine la pachet: râsete, pauze, suspine, plânsete. Anunțul a venit pe 23 octombrie, chiar de pe contul lui Dorsey, iar TechCrunch l-a descris drept un model care «sună înfricoșător de uman».

Dorsey a prezentat modelul cu o frază care spune tot despre ambiția proiectului: vocea este, după el, cea mai naturală cale de a interacționa cu inteligența, iar Dessa ar fi «cel mai autentic model de vorbire full-duplex construit vreodată». Conform lui, conversația cu el seamănă cu una purtată cu un om, plină de emoție, nuanțe, pauze și cadență naturală.

Ce înseamnă «full-duplex» și de ce contează

Dessa este un model full-duplex, adică poate vorbi și asculta în același timp, exact ca doi oameni care se întrerup, își confirmă din cap sau completează fraza celuilalt. Funcția seamănă cu ce a lansat OpenAI mai devreme în acest an prin modelul GPT-Live, destinat conversațiilor live mai naturale.

Block spune că modelul poate rula local pe un MacBook M4 Max, deci nu depinde neapărat de servere în cloud. A fost antrenat integral pe vorbire umană, folosind un singur rack de GPU-uri NVIDIA, un detaliu menit să arate că performanța nu cere neapărat un buget uriaș de calcul. Important de precizat: Dessa nu este disponibil public, iar Block a făcut apel la cercetători în siguranță să îl testeze, potrivit TechCrunch (24 octombrie).

De ce sună vocile AI obișnuite artificial

În mod obișnuit, asistenții vocali funcționează ca o conductă în mai mulți pași: vocea ta e transformată în text, textul ajunge la un model de limbaj, iar răspunsul e transformat din nou în sunet. Block susține că exact acest drum prin text distruge o mare parte din informația purtată de voce, de la tonul vocii la ezitare și emoție.

Compania a formulat-o fără menajamente în blogul oficial: interacțiunea cu AI-ul vocal actual poate «pur și simplu să fie groaznică», pentru că vocea e transformată în text și se pierde o cantitate uriașă de informație pe care textul singur nu o poate transmite. Cei de la Block adaugă că cele mai puternice AI-uri din lume nu pot auzi cum te simți, ceea ce duce la o experiență mai proastă și, spun ei, potențial periculoasă.

Alte modele din piață, precum ElevenLabs v4 sau Fish Audio Drama 3, controlează emoția prin etichete vocale, adică indicații explicite care îi spun sistemului când să pară vesel, trist sau obosit. Block pretinde că la Dessa emoția este integrată direct în model. Rămâne neclar dacă emoția e totuși ghidată de un mecanism de tip etichete.

Demonstrațiile: un AI care «e obosit»

Cercetătorii companiei au publicat mai multe exemple de conversații în care agentul avea voci, cadențe și emoții diferite. Într-unul dintre ele, botul spune că e epuizat de muncă, iar în acel moment chiar sună epuizat. Exact acest tip de detaliu face ca modelul să pară un om și nu un asistent vocal care citește un script.

Cunoștințele lui Dessa provin, potrivit Block, din datele conversaționale pe care a fost antrenat, nu dintr-un model de limbaj clasic atașat de-a gata. E o alegere arhitecturală importantă, dar și una care ridică întrebări despre ce știe, de unde știe și cât de fiabile sunt răspunsurile lui.

Partea întunecată: voci pe care nu le mai poți deosebi

Nimeni nu a anunțat că Dessa e o unealtă de fraudă, iar Block insistă pe partea de experiență a utilizatorului. Dar tehnologia vocală care sună tot mai uman are inevitabil o a doua față. O voce care râde, ezită și se aude obosită este mult mai greu de recunoscut ca artificială decât una robotică, iar asta contează într-o lume în care apelurile de escrocherie, imitațiile vocale și deepfake-urile audio sunt deja o problemă reală.

Dessa nu este, deocamdată, accesibil publicului larg, dar faptul că poate rula local, pe un laptop obișnuit de top, fără conexiune la servere controlate de o companie, arată cât de aproape este această tehnologie de a deveni greu de monitorizat, odată ce va ajunge în mâinile unui cerc mai larg de utilizatori. Chiar și limitarea actuală la cercetători în siguranță sugerează că Block e conștient de riscuri. Aceasta e dilema clasică a modelelor deschise sau semi-deschise: aceeași accesibilitate care ajută dezvoltatorii îi ajută și pe cei cu intenții proaste.

Ironia e că însuși Block avertizează că voice AI-ul actual este «potențial periculos» din cauza informației pe care o ignoră. Avertismentul vizează pierderea emoției din conversație, nu riscul de impersonare. Dar o tehnologie care captează mai bine emoția va fi, în mod firesc, și mai convingătoare când e folosită ca să păcălească.

Ce urmează

Lansarea Dessa arată încotro merge cursa vocală din AI: de la asistenți care răspund corect la asistenți care sună corect. Mai multe companii împing în aceeași direcție, iar diferența dintre o voce umană și una sintetică se subțiază cu fiecare generație de modele.

Ce rămâne de văzut e cum vor răspunde reglementatorii, platformele de telefonie și băncile, adică exact cei care se bazează pe voce ca factor de încredere. Dacă un model care sună ca un om poate rula pe un laptop, verificarea identității doar prin voce devine tot mai greu de apărat. Pentru utilizatorul obișnuit, regula de bun-simț rămâne aceeași: dacă o voce te grăbește, te emoționează și îți cere bani sau coduri, oprește conversația și verifică pe alt canal.