La carrera por la seguridad en IA se está convirtiendo en una lucha por quién puede ver los datos. OpenAI apuesta a que los clientes empresariales elegirán una supervisión capaz de detectar un uso indebido sostenido sin entregar sus conversaciones al desarrollador del modelo.

La brecha se acentuó en julio, cuando Anthropic introdujo una política que le permite retener sesiones durante 30 días en ciertos “modelos cubiertos”, incluidos sistemas de clase Mythos y futuros modelos de capacidad similar, para análisis de seguridad. La política alarmó a empresas que manejan información sensible, incluso cuando Anthropic afirmó que cualquier revisión humana se llevaría a cabo mediante un proceso controlado que involucra a un pequeño grupo de revisores aprobados y registros a prueba de manipulaciones.¹

La respuesta de OpenAI se está probando ahora con clientes tempranos. Su propuesta de Private Safety Processing amplía las habituales salvaguardas por interacción de Zero Data Retention hacia una supervisión entre sesiones: sistemas automatizados buscarían patrones como intentos repetidos de poner a prueba las barreras de seguridad, actividad coordinada entre cuentas o un objetivo dañino repartido en muchas indicaciones.²

La promesa central de la compañía es que puede detectar el patrón sin abrir las conversaciones subyacentes al personal. “El personal de OpenAI no recibe acceso al contenido del cliente incluso cuando se marca”, afirmó; en su lugar, el sistema devolvería una señal definida de forma muy precisa sobre el tipo de actividad sospechosa. Los clientes podrían aportar contexto de forma voluntaria si quisieran impugnar una decisión de aplicación o ayudar en una investigación.²

Esa es la diferencia crucial. Ambos laboratorios aceptan que un cribado puntual puede pasar por alto abusos de larga duración, incluido un actor que distribuya solicitudes relacionadas con malware a lo largo de varias sesiones. Pero el enfoque de Anthropic permite la retención y, potencialmente, una revisión humana estrictamente controlada para sus modelos más avanzados; OpenAI presenta el cifrado, las claves controladas por el cliente y las señales automatizadas como una forma de preservar la privacidad mientras amplía la red de seguridad.¹

OpenAI afirmó que planea empezar a desplegar el sistema y publicar un white paper técnico en septiembre. La retención cero no será absoluta: el material que aparentemente constituya abuso sexual infantil aún podrá conservarse para revisión manual y para los informes exigidos por la ley.²