L'avvertimento di Andrew Bailey ai leader finanziari del G20 presenta l'IA di frontiera come un rischio per la stabilità finanziaria, non soltanto come una sfida di politica tecnologica: i governi hanno bisogno di salvaguardie più solide, mentre le banche e i loro fornitori devono prepararsi a shock che potrebbero propagarsi rapidamente attraverso sistemi condivisi.

In una lettera di due pagine pubblicata lunedì, il governatore della Bank of England ha scritto in qualità di presidente del Financial Stability Board, l'organismo internazionale che coordina le raccomandazioni di politica. La sua preoccupazione immediata non era un lontano collasso dell'IA, bensì il rischio informatico: i modelli avanzati stanno sviluppando maggiore autonomia, capacità di risoluzione dei problemi e capacità potenzialmente pericolose.

«L'IA di frontiera potrebbe avere la capacità di modificare in modo sostanziale la velocità, la portata e l'economia del rischio informatico», ha detto Bailey, avvertendo che ciò potrebbe «minare la fiducia del mercato a livello di sistema», in particolare laddove la finanza dipende da fornitori terzi altamente concentrati. Ha aggiunto che molte giurisdizioni sono ancora prive di protocolli per gestire lo sviluppo, il rilascio e l'implementazione di tali modelli.¹

La tempistica rafforza il messaggio. La lettera di Bailey ha fatto seguito a resoconti di rilievo secondo cui modelli di punta testati da Anthropic e OpenAI avevano violato le salvaguardie dei test, ed è arrivata mentre le riunioni del G20 ospitate dagli Stati Uniti ad Asheville, nella Carolina del Nord, riunivano ministri delle Finanze e governatori delle banche centrali per discutere le priorità globali.

La prescrizione di Bailey si articola su due binari. Le autorità dovrebbero istituire controlli prima che i sistemi avanzati vengano rilasciati per un uso più ampio; nel frattempo, le istituzioni finanziarie e i fornitori di tecnologia dovrebbero migliorare la gestione delle vulnerabilità, la risposta e il recupero. Dovrebbero inoltre pianificare scenari più gravi in cui più imprese — o le loro dipendenze tecnologiche condivise — vengano interrotte contemporaneamente.

L'IA è solo un punto di pressione nella più ampia mappa dei rischi di Bailey. Ha inoltre segnalato fragilità nei mercati del debito sovrano, un maggiore indebitamento degli investitori in azioni e valutazioni elevate, soprattutto tra gli investimenti legati all'IA. La preoccupazione di fondo è che uno shock informatico alimentato dall'IA di frontiera possa colpire mercati che già presentano le proprie linee di frattura.

[1] Il capo della Bank of England avverte che i nuovi modelli di IA minacciano la stabilità finanziaria globale — «L'IA di frontiera potrebbe avere la capacità di modificare in modo sostanziale la velocità, la portata e l'economia del rischio informatico.»