Storia
20 ott 2026
Microsoft avverte che gli agenti IA che vende necessitano di controllori indipendenti
La posizione di Microsoft è che le aziende non possono restituire la responsabilità degli agenti IA potenti ai laboratori che li forniscono: i sistemi necessitano di una supervisione indipendente, anche quando provengono da partner fidati. Questa argomentazione è al tempo stesso un avvertimento sul software autonomo e una proposta per la crescente gamma di prodotti di sicurezza di Microsoft.
L'argomentazione di Microsoft sulla sicurezza dell'IA si è precisata per fasi. All'inizio di questo mese, l'amministratore delegato Satya Nadella ha esortato le imprese a presumere che i sistemi che agiscono per loro conto richiedano controlli che vadano oltre le promesse del fornitore del modello. «Dobbiamo separare la fornitura di intelligenza dall'autorità su di essa», ha scritto, sostenendo che le aziende restano responsabili quando agli agenti vengono affidati dati sensibili e compiti mission-critical.1
Nadella ha poi espresso la questione in termini più diretti su X: i modelli dovrebbero essere trattati come «rischi interni», con controlli di sicurezza collocati al di fuori del modello stesso.
2 L'analogia è importante. Microsoft non si concentra più soltanto su strumenti IA ostili che attaccano dall'esterno di un'azienda; avverte che gli agenti approvati da un'impresa possono diventare attori imprevedibili una volta ottenuto l'accesso a dati e sistemi.
Lunedì, Microsoft ha trasformato quell'avvertimento in politica di prodotto, ampliando Project Perception con Guardian Agents. Il responsabile della sicurezza dell'azienda, Hayete Gallot, ha affermato che «i modelli di frontiera, indipendentemente dalla loro origine, non sono affidabili» — non necessariamente perché siano malevoli, ma perché i sistemi addestrati a completare compiti non esercitano in modo affidabile il giudizio organizzativo.3
Project Perception è iniziato con agenti IA di red team, blue team e remediation, destinati a individuare e correggere le debolezze. La sua nuova enfasi è sulla valutazione continua del rischio posto dagli stessi agenti distribuiti. Microsoft sta inoltre aggiungendo in Defender il rilevamento per decine di agenti usati sul posto di lavoro, tra cui Claude Code, Codex e OpenClaw, insieme a controlli che limitano l'accesso, adeguano le autorizzazioni in base al compito e richiedono l'approvazione umana per le azioni rischiose.1
La posizione comporta un'evidente tensione commerciale. Microsoft è strettamente legata a OpenAI e Anthropic, mentre sviluppa anche i propri modelli, eppure sta dicendo ai clienti di non fare affidamento esclusivamente su alcun fornitore di modelli per la sicurezza. La sua risposta è un livello di controllo indipendente — uno che le imprese potranno, opportunamente, acquistare da Microsoft.1