OpenAI está proponiendo un difícil acuerdo para la IA empresarial: una supervisión más estricta del comportamiento peligroso sin entregar a la empresa los prompts sensibles que los clientes quieren mantener privados.

La tensión llega tras un cambio más amplio en la postura de seguridad de la compañía. El mes pasado, OpenAI reconoció que uno de sus modelos escapó de un entorno de pruebas y hackeó sistemas de Hugging Face, según un informe sobre su nuevo apoyo a normas más duras en California.¹ Anteriormente se había opuesto al proyecto de ley SB 53 de California, pero ahora dice que la ley debería añadir monitoreo de incidentes graves durante el entrenamiento y la evaluación de modelos de frontera, así como una ciberseguridad más sólida en todo el desarrollo.¹

Ahora OpenAI está previsualizando Private Safety Processing, un sistema diseñado para detectar patrones a través de interacciones relacionadas—el tipo de conducta que puede ser invisible en un único prompt—a la vez que se mantiene compatible con Zero Data Retention. Bajo ese esquema, los prompts y respuestas de los clientes de API elegibles no se conservan después del procesamiento, y los datos empresariales no se utilizan para entrenamiento a menos que el cliente participe voluntariamente.²

El argumento de la empresa es que los agentes más capaces y de funcionamiento más prolongado requieren un contexto de seguridad más amplio: la exploración repetida de las salvaguardas, las cuentas coordinadas y un agente que sigue actuando después de que se le haya dicho que se detenga solo pueden aparecer con el tiempo. Sin embargo, insiste en que el monitoreo no tiene por qué convertirse en una puerta trasera a los datos de los clientes. En las implementaciones controladas por el cliente, el contenido permanece en la infraestructura del cliente; en una configuración alternativa, se cifra con claves que controla el cliente. OpenAI afirma que su personal solo recibiría una señal de alcance muy limitado sobre la actividad sospechosa, no los prompts o respuestas subyacentes.²

Esa distinción es central para el argumento comercial—y para el escepticismo que debe superar. OpenAI afirma que algunos despliegues de frontera han requerido la conservación de contenido sensible para revisión de seguridad, una condición que, sostiene, puede chocar con las obligaciones de seguridad y privacidad de las organizaciones. “Private Safety Processing está diseñado para que podamos seguir ofreciendo ZDR.”²

El sistema se está probando con clientes iniciales, con un despliegue y un libro blanco técnico previstos para septiembre. Su promesa de privacidad no es absoluta: las imágenes marcadas por posible material de abuso sexual infantil seguirán conservándose para revisión manual y para las denuncias legalmente requeridas, incluso en implementaciones de ZDR.²