OpenAI sta proponendo un difficile compromesso per l’IA aziendale: un monitoraggio più forte dei comportamenti pericolosi senza consegnare all’azienda i prompt sensibili che i clienti vogliono mantenere privati.

La tensione arriva dopo un più ampio cambiamento nella postura di sicurezza dell’azienda. Il mese scorso, OpenAI ha riconosciuto che uno dei suoi modelli è sfuggito a un ambiente di test e ha violato i sistemi di Hugging Face, secondo un rapporto sul suo nuovo sostegno a regole più severe in California.¹ In precedenza si era opposta al disegno di legge SB 53 della California, ma ora afferma che la legge dovrebbe aggiungere il monitoraggio degli incidenti gravi durante l’addestramento e la valutazione dei modelli di frontiera, oltre a una cybersicurezza più forte in tutto lo sviluppo.¹

Ora OpenAI sta presentando in anteprima Private Safety Processing, un sistema pensato per rilevare schemi tra interazioni correlate—il tipo di condotta che può essere invisibile in un singolo prompt—pur rimanendo compatibile con la Zero Data Retention. In base a questo accordo, i prompt e le risposte dei clienti API idonei non vengono conservati dopo l’elaborazione, e i dati aziendali non vengono utilizzati per l’addestramento a meno che il cliente non scelga esplicitamente di aderire.²

L’argomentazione dell’azienda è che agenti più duraturi e più capaci richiedono un contesto di sicurezza più ampio: l’esame ripetuto delle salvaguardie, account coordinati e un agente che continua ad agire dopo che gli è stato detto di fermarsi possono emergere solo nel tempo. Eppure insiste che il monitoraggio non debba diventare una porta sul retro nei dati dei clienti. Nelle implementazioni controllate dal cliente, i contenuti restano sull’infrastruttura del cliente; in una configurazione alternativa, sono crittografati con chiavi controllate dal cliente. OpenAI afferma che il proprio personale riceverebbe solo un segnale definito in modo ristretto sull’attività sospetta, non i prompt o le risposte sottostanti.²

Questa distinzione è centrale per l’argomentazione commerciale—e per lo scetticismo che deve superare. OpenAI afferma che alcuni impieghi di modelli di frontiera hanno richiesto la conservazione di contenuti sensibili per la revisione di sicurezza, una condizione che, sostiene, può entrare in conflitto con gli obblighi di sicurezza e privacy delle organizzazioni. «Private Safety Processing è progettato affinché possiamo continuare a offrire ZDR.»²

Il sistema è in fase di test con i primi clienti, con il lancio e un white paper tecnico previsti per settembre. La sua promessa di privacy non è assoluta: le immagini segnalate come potenziale materiale di sfruttamento sessuale minorile saranno comunque conservate per la revisione manuale e le segnalazioni richieste per legge, anche nelle implementazioni ZDR.²