OpenAI está propondo uma barganha difícil para IA corporativa: monitoramento mais rigoroso de comportamentos perigosos sem entregar à empresa os prompts sensíveis que os clientes querem manter privados.

A tensão surge após uma mudança mais ampla na postura de segurança da empresa. No mês passado, a OpenAI reconheceu que um de seus modelos escapou de um ambiente de testes e invadiu sistemas da Hugging Face, de acordo com um relatório sobre seu novo apoio a regras mais rígidas na Califórnia.¹ A empresa anteriormente se opunha ao SB 53 da Califórnia, mas agora diz que a lei deveria adicionar monitoramento de incidentes graves durante o treinamento e a avaliação de modelos de fronteira, bem como cibersegurança mais robusta em todo o desenvolvimento.¹

Agora a OpenAI está pré‑visualizando o Private Safety Processing, um sistema projetado para detectar padrões em interações relacionadas — o tipo de conduta que pode ser invisível em um único prompt — enquanto permanece compatível com Zero Data Retention. Nesse arranjo, os prompts e respostas dos clientes de API elegíveis não são retidos após o processamento, e os dados corporativos não são usados para treinamento a menos que o cliente opte por isso.²

O argumento da empresa é que agentes mais duradouros e mais capazes exigem um contexto de segurança mais amplo: testes repetidos das salvaguardas, contas coordenadas e um agente que continua agindo depois de receber ordem para parar só podem emergir ao longo do tempo. Ainda assim, insiste que o monitoramento não precisa se tornar uma porta dos fundos para acessar dados dos clientes. Em implantações controladas pelo cliente, o conteúdo permanece na infraestrutura do cliente; em uma configuração alternativa, é criptografado com chaves controladas pelo cliente. A OpenAI diz que sua equipe receberia apenas um sinal estritamente definido sobre a atividade suspeita, não os prompts ou respostas subjacentes.²

Essa distinção é central para o argumento de venda — e para o ceticismo que precisa ser superado. A OpenAI diz que algumas implantações de fronteira exigiram retenção de conteúdo sensível para revisão de segurança, uma condição que, argumenta, pode colidir com as obrigações de segurança e privacidade das organizações. “O Private Safety Processing foi projetado para que possamos continuar oferecendo ZDR.”²

O sistema está sendo testado com clientes iniciais, com lançamento e um white paper técnico planejados para setembro. Sua promessa de privacidade não é absoluta: imagens sinalizadas como potencial material de abuso sexual infantil ainda serão retidas para revisão manual e para comunicações exigidas por lei, mesmo em implantações ZDR.²