Google DeepMind afferma di aver superato un ostacolo di lunga data nella sicurezza informatica: usare la verifica formale assistita dall’IA per testare il codice compilato effettivo alla base della crittografia di Signal, anziché soltanto il progetto del protocollo.

Il lavoro è importante perché i sistemi crittografici possono essere solidi sulla carta mentre gli errori si insinuano durante la realizzazione e la compilazione del software. DeepMind ha affermato che il suo framework AlphaProof Code ha abbinato esperti umani—che hanno definito e revisionato le specifiche di sicurezza—ad agenti alimentati da Gemini Carbon, i quali hanno generato oltre sei milioni di righe di codice di prova Lean. Il sistema ha quindi segnalato circa l’1% della base di codice per un ulteriore esame umano.¹

L’azienda afferma che lo sforzo di quattro settimane ha stabilito proprietà fondamentali, tra cui la protezione dei messaggi prima e dopo che un dispositivo viene temporaneamente compromesso. Per verificare se il framework fosse in grado di distinguere software sicuro da software difettoso, i ricercatori hanno ripristinato due bug precedentemente corretti in una versione isolata di Signal; in entrambi i casi, ha prodotto prove verificate dalla macchina che il codice modificato non era sicuro.¹

Il risultato è stato presentato pubblicamente come una prima volta. In un annuncio ricondiviso, l’amministratore delegato di DeepMind Demis Hassabis ha evidenziato l’affermazione del suo team di aver dimostrato proprietà di sicurezza fondamentali del codice macchina alla base di Signal, definendola la prima verifica formale del codice di produzione effettivo per un protocollo ampiamente distribuito.Demis Hassabis (demishassabis)²

Il responsabile tecnologico di Signal, Ehren Kret, ha presentato lo sviluppo meno come un sostituto del giudizio umano che come una grande estensione di ciò che la verifica può coprire. «Usare agenti di IA per tradurre codice operativo in teoremi Lean validi è una svolta importante», ha affermato, sostenendo che il processo offre a Signal maggiore fiducia nelle sue promesse di privacy mentre crescono le minacce guidate dall’IA.¹

Axios ha riferito che lo scienziato di ricerca di DeepMind Swarat Chaudhuri ha descritto l’ambizione più ampia come il raggiungimento di «questo mondo di software impossibile da hackerare», sebbene il sistema attuale sia ancora un progetto di ricerca, non uno strumento commerciale di sicurezza informatica.³ DeepMind prevede di rendere open source i propri artefatti di verifica e di esplorare collegamenti con strumenti quali CodeMender e Project Zero—un primo passo verso l’introduzione della garanzia matematica nello sviluppo quotidiano del software.¹