Block ha presentato Dessa, un modello di IA da parlato a parlato che, a suo dire, è stato addestrato da zero su conversazioni umane e progettato per evitare un difetto familiare negli assistenti vocali: ridurre la voce di una persona a semplice testo prima di rispondere.

Secondo l’azienda, questa pipeline elimina le pause, la cadenza e l’emozione che danno significato al parlato. «Le IA più potenti al mondo non riescono a sentire come ti senti», ha dichiarato Block, definendo questa limitazione un’esperienza peggiore e «potenzialmente pericolosa».¹ Invece di fare affidamento sulle etichette testuali delle emozioni utilizzate da molti sistemi di generazione vocale, Block afferma che Dessa integra nel proprio modello un comportamento espressivo.

Le prime dimostrazioni sono una sintesi della proposta. Dessa ride, esita e sembra stanca quando dice di essere esausta dal lavoro; in un altro scambio, sembra sul punto di piangere mentre descrive qualcuno che la fa sentire a suo agio. Block afferma che il sistema full-duplex può ascoltare e parlare simultaneamente e che funziona localmente su un computer consumer come un MacBook M4 Max o superiore.¹

Questa progettazione locale potrebbe essere importante per l’attività più ampia di Block, dove Square utilizza già l’IA vocale per le ordinazioni. Ma l’azienda non sta ancora rendendo Dessa disponibile al pubblico. Ha invece chiesto a ricercatori di sicurezza di mettere alla prova un modello la cui fluidità emotiva potrebbe renderlo più persuasivo e, potenzialmente, più capace di ingannare le persone.¹

Un secondo sguardo alle demo sottolinea entrambi i lati di questa tesi. Gli scambi sono «per lo più naturali», ma una conversazione inizia con Dessa che identifica erroneamente il suo interlocutore umano come «Ronaldo»; un’altra devia inaspettatamente durante una discussione sui film di Christopher Nolan.² In un gioco di riconoscimento vocale e in una conversazione con GPT-Live-1 di OpenAI, Dessa può apparire più naturale, eppure la sua occasionalità bizzarra resta parte della storia.²

Per Block, il modello è un esperimento di curiosità, comprensione e sicurezza. Per gli ascoltatori, è anche un promemoria del fatto che rendere l’IA più umana nel suono non rende automaticamente l’incontro più confortevole.