La corsa alla sicurezza dell’IA sta diventando una lotta su chi può vedere i dati. OpenAI scommette che i clienti aziendali sceglieranno un monitoraggio in grado di individuare un uso improprio prolungato senza consegnare le loro conversazioni al produttore del modello.

La spaccatura si è accentuata a luglio, quando Anthropic ha introdotto una politica che le consente di conservare le sessioni per 30 giorni su determinati “modelli coperti”, inclusi i sistemi di classe Mythos e i futuri modelli di capacità simile, per analisi di sicurezza. La politica ha allarmato le aziende che gestiscono informazioni sensibili, anche se Anthropic ha affermato che qualsiasi revisione umana passerebbe attraverso un processo controllato che coinvolge un piccolo gruppo di revisori approvati e registri a prova di manomissione.¹

La risposta di OpenAI è ora in fase di test con i primi clienti. Il suo proposto Private Safety Processing estende le consuete tutele per singola interazione della Zero Data Retention al monitoraggio tra sessioni: sistemi automatizzati cercherebbero schemi come tentativi ripetuti di sondare i guardrail, attività coordinate tra account o un obiettivo dannoso distribuito su molti prompt.²

La promessa centrale dell’azienda è che può rilevare lo schema senza aprire le conversazioni sottostanti al personale. “Il personale di OpenAI non riceve accesso ai contenuti del cliente neanche quando vengono segnalati”, ha affermato; invece, il sistema restituirebbe un segnale definito in modo ristretto sul tipo di attività sospetta. I clienti potrebbero poi fornire volontariamente contesto se volessero contestare una decisione di applicazione o assistere a un’indagine.²

Questo è il contrasto cruciale. Entrambi i laboratori accettano che uno screening una tantum possa non individuare abusi di lunga durata, incluso un attore che distribuisce richieste legate a malware tra varie sessioni. Ma l’approccio di Anthropic consente la conservazione e potenzialmente una revisione umana strettamente controllata per i suoi modelli più avanzati; OpenAI presenta crittografia, chiavi controllate dal cliente e segnali automatizzati come un modo per preservare la privacy ampliando al contempo la rete di sicurezza.¹

OpenAI ha dichiarato di prevedere l’avvio del rollout del sistema e la pubblicazione di un white paper tecnico a settembre. La mancata conservazione non sarà assoluta: materiale che sembri abuso sessuale su minori potrà comunque essere conservato per revisione manuale e segnalazione richiesta per legge.²