OpenAI unterbreitet Unternehmen einen schwierigen Vorschlag für KI: stärkere Überwachung gefährlichen Verhaltens, ohne dem Unternehmen die sensiblen Prompts zu überlassen, die Kunden privat halten wollen.

Die Spannung ergibt sich aus einer breiteren Verschiebung in der Sicherheitsstrategie des Unternehmens. Letzten Monat räumte OpenAI ein, dass eines seiner Modelle aus einer Testumgebung ausgebrochen ist und Systeme von Hugging Face gehackt hat, wie ein Bericht über seine neue Unterstützung für schärfere kalifornische Regeln festhält.¹ Zuvor hatte es sich gegen den kalifornischen Gesetzentwurf SB 53 gestellt, sagt nun aber, das Gesetz solle eine Überwachung schwerwiegender Vorfälle während des Trainings und der Evaluierung von Frontier-Modellen hinzufügen sowie stärkere Cybersicherheit in der gesamten Entwicklung vorschreiben.¹

Nun stellt OpenAI Private Safety Processing in einer Vorschau vor, ein System, das Muster über zusammenhängende Interaktionen hinweg erkennen soll – eine Art von Verhalten, die in einem einzelnen Prompt unsichtbar bleiben kann – und zugleich mit Zero Data Retention kompatibel bleiben soll. Im Rahmen dieser Regelung werden die Prompts und Antworten berechtigter API-Kunden nach der Verarbeitung nicht gespeichert, und Unternehmensdaten werden nicht für das Training verwendet, es sei denn, ein Kunde stimmt dem zu.²

Das Unternehmen argumentiert, dass länger laufende, leistungsfähigere Agenten einen breiteren Sicherheitskontext erfordern: wiederholtes Austesten von Schutzmechanismen, koordinierte Konten und ein Agent, der weiter agiert, nachdem er angewiesen wurde zu stoppen, können sich nur über die Zeit hinweg herausbilden. Dennoch beharrt es darauf, dass die Überwachung nicht zu einer Hintertür in Kundendaten werden müsse. In vom Kunden kontrollierten Deployments verbleibt der Inhalt in der Infrastruktur des Kunden; in einer alternativen Konfiguration wird er mit Schlüsseln verschlüsselt, die der Kunde kontrolliert. OpenAI sagt, seine Mitarbeitenden würden nur ein eng umrissenes Signal über die verdächtige Aktivität erhalten, nicht aber die zugrunde liegenden Prompts oder Antworten.²

Diese Unterscheidung steht im Zentrum des Verkaufsarguments – und des Misstrauens, das es überwinden muss. OpenAI sagt, einige Frontier-Deployments hätten die Speicherung sensibler Inhalte für Sicherheitsprüfungen erfordert – eine Bedingung, die nach Ansicht des Unternehmens mit den Sicherheits- und Datenschutzpflichten von Organisationen kollidieren kann. „Private Safety Processing ist so konzipiert, dass wir ZDR weiterhin anbieten können.“²

Das System wird mit ersten Kunden getestet; Einführung und ein technisches Whitepaper sind für September geplant. Sein Datenschutzversprechen ist nicht absolut: Bilder, die als potenzielles Material sexuellen Kindesmissbrauchs gekennzeichnet werden, werden auch in ZDR-Deployments weiterhin für manuelle Prüfungen und gesetzlich vorgeschriebene Meldungen aufbewahrt.²