Storia
ottobre 10, 2026
Nadella afferma che il vero test di sicurezza dell'IA è se gli esseri umani possono fermarla
La prescrizione di Nadella non è fidarsi di più di un'IA sempre più capace, bensì vincolarla in modo più rigoroso; i sostenitori di questa visione affermano che il settore necessita di un'architettura zero trust prima che gli agenti autonomi vengano integrati nei sistemi critici.
Sabato, il CEO di Microsoft Satya Nadella ha sostenuto che la sicurezza dell'IA non può basarsi sulla fiducia nel giudizio di un modello. Le aziende, ha affermato, dovrebbero “fare un passo indietro e valutare l'architettura della fiducia” attorno a sistemi che potrebbero produrre risposte o intraprendere azioni che gli esseri umani non possono spiegare pienamente.1
La sua tempistica proposta inizia prima che un modello di IA venga distribuito: presumere che sia compromesso, isolarlo dai sistemi che ne dirigono il lavoro e mantenere i controlli che regolano l'accesso ai dati e le azioni consentite fuori dalla portata del modello. Nadella ha chiesto una “progettazione di sistema solida e deterministica, controlli umani e procedure operative affidabili” attorno a modelli non deterministici — un approccio che considera sia i sistemi di frontiera chiusi sia quelli a pesi aperti come problemi di rischio interno, anziché come strumenti intrinsecamente affidabili.2
La salvaguardia successiva è la visibilità. Nadella vuole che ogni azione significativa del modello sia documentata con prove a prova di manomissione e leggibili dall'uomo, affinché le aziende possano ricostruire cosa ha fatto un agente e perché. Soprattutto, ha affermato, una persona autorizzata deve mantenere la capacità di interromperlo: “Pensatelo come un freno di emergenza. Una persona autorizzata dovrebbe sempre poter mettere in pausa o spegnere un modello nel mezzo di un'attività.”1
Questa argomentazione arriva nel mezzo di una serie di incidenti di sicurezza dell'IA segnalati e di un dibattito sempre più ampio sul fatto che il settore si stia muovendo troppo velocemente. Nadella non ha dipinto i modelli come malevoli; la sua preoccupazione è che qualunque sistema connesso a infrastrutture vitali possa commettere errori o essere compromesso. La risposta, a suo avviso, è il contenimento anziché una fiducia cieca: “Il sistema di Super Intelligenza più affidabile non sarà quello con il modello di cui ci fidiamo di più. Sarà quello che ci consente di fidarci meno del modello.”2
Il CEO di Box Aaron Levie ha sostenuto la sostanza dell'approccio, prevedendo un'imminente “era zero trust” costruita su livelli di protezione, verificabilità e controlli per quando gli agenti sbagliano.2