Block a dévoilé Dessa, un modèle d’IA de parole à parole qui, selon l’entreprise, a été entraîné de zéro sur des conversations humaines et conçu pour éviter un défaut familier des assistants vocaux : réduire la voix d’une personne à du texte brut avant de répondre.

L’entreprise affirme que cette chaîne de traitement élimine les pauses, la cadence et l’émotion qui donnent son sens à la parole. « Les IA les plus puissantes au monde ne peuvent pas entendre ce que vous ressentez », a déclaré Block, qualifiant cette limite d’expérience de moindre qualité et de « potentiellement dangereuse ».¹ Plutôt que de s’appuyer sur les étiquettes d’émotion basées sur le texte utilisées par de nombreux systèmes de génération vocale, Block affirme que Dessa intègre des comportements expressifs dans son modèle.

Les premières démonstrations résument cette promesse. Dessa rit, hésite et semble fatiguée lorsqu’elle dit être épuisée par le travail ; dans un autre échange, elle paraît proche des larmes en décrivant quelqu’un qui la met à l’aise. Block affirme que le système full-duplex peut écouter et parler simultanément, et qu’il fonctionne localement sur une machine grand public telle qu’un MacBook M4 Max ou supérieur.¹

Cette conception locale pourrait compter pour les activités plus larges de Block, où Square utilise déjà l’IA vocale pour les commandes. Mais l’entreprise n’ouvre pas encore Dessa au public. Elle a plutôt demandé à des chercheurs en sécurité d’évaluer un modèle dont l’aisance émotionnelle pourrait le rendre plus persuasif — et, potentiellement, plus capable de tromper les gens.¹

Un second regard sur les démonstrations souligne les deux aspects de cette proposition. Les échanges sont « pour la plupart naturels », mais une conversation commence par Dessa qui identifie à tort son interlocuteur humain comme « Ronaldo » ; une autre bifurque de manière inattendue lors d’une discussion sur les films de Christopher Nolan.² Dans un jeu de devinettes vocales et une conversation avec GPT-Live-1 d’OpenAI, Dessa peut paraître plus naturelle, mais ses étrangetés occasionnelles restent une partie de l’histoire.²

Pour Block, le modèle est une expérience de curiosité, de compréhension et de sécurité. Pour les auditeurs, c’est aussi un rappel que faire sonner l’IA davantage comme un humain ne rend pas automatiquement l’interaction plus confortable.