A corrida por segurança em IA está se tornando uma disputa sobre quem pode ver os dados. A OpenAI está apostando que clientes corporativos vão escolher um monitoramento que consiga detectar uso indevido persistente sem entregar suas conversas ao desenvolvedor do modelo.

A divisão se acentuou em julho, quando a Anthropic introduziu uma política que lhe permite reter sessões por 30 dias em determinados “modelos cobertos”, incluindo sistemas da classe Mythos e futuros modelos de capacidade semelhante, para análise de segurança. A política alarmou empresas que lidam com informações sensíveis, mesmo com a Anthropic afirmando que qualquer revisão humana passaria por um processo controlado, envolvendo um pequeno grupo de revisores aprovados e registros à prova de adulteração.¹

A resposta da OpenAI está agora sendo testada com clientes iniciais. Sua proposta de Private Safety Processing expande as proteções usuais por interação da Zero Data Retention para um monitoramento entre sessões: sistemas automatizados buscariam padrões como tentativas repetidas de testar os limites de segurança, atividade coordenada entre contas ou um objetivo prejudicial distribuído por muitos prompts.²

A principal promessa da empresa é que ela consegue detectar o padrão sem expor as conversas subjacentes à equipe. “O pessoal da OpenAI não recebe acesso ao conteúdo do cliente mesmo quando ele é sinalizado”, afirmou; em vez disso, o sistema retornaria um sinal estritamente definido sobre o tipo de atividade suspeita. Os clientes poderiam então fornecer contexto voluntariamente, caso quisessem contestar uma decisão de aplicação ou auxiliar em uma investigação.²

Esse é o contraste crucial. Ambos os laboratórios aceitam que uma triagem pontual pode não detectar abusos de longa duração, incluindo um agente que distribui pedidos relacionados a malware por várias sessões. Mas a abordagem da Anthropic permite retenção e, potencialmente, revisão humana rigidamente controlada para seus modelos mais avançados; a OpenAI está apresentando criptografia, chaves controladas pelo cliente e sinais automatizados como uma forma de preservar a privacidade enquanto amplia a rede de segurança.¹

A OpenAI disse que planeja começar a implementar o sistema e publicar um white paper técnico em setembro. A retenção zero não será absoluta: material aparente de abuso sexual infantil ainda pode ser retido para revisão manual e para o envio de relatórios exigidos por lei.²