Story
20. Okt. 2026
Microsoft warnt, dass die von ihm verkauften KI-Agenten unabhängige Aufsicht benötigen
Microsofts Position lautet, dass Unternehmen die Verantwortung für leistungsstarke KI-Agenten nicht an die Labore zurückgeben können, die sie liefern: Die Systeme benötigen unabhängige Aufsicht, selbst wenn sie von vertrauenswürdigen Partnern stammen. Dieses Argument ist zugleich eine Warnung vor autonomer Software und ein Plädoyer für Microsofts wachsendes Sicherheitsportfolio.
Microsofts Argumentation zur KI-Sicherheit hat sich schrittweise zugespitzt. Anfang dieses Monats forderte Vorstandschef Satya Nadella Unternehmen auf, davon auszugehen, dass Systeme, die in ihrem Auftrag handeln, Kontrollen benötigen, die über die Zusagen des Modellanbieters hinausgehen. „Wir müssen die Bereitstellung von Intelligenz von der Autorität darüber trennen“, schrieb er und argumentierte, dass Unternehmen verantwortlich bleiben, wenn Agenten sensible Daten und geschäftskritische Aufgaben erhalten.1
Nadella formulierte das Thema anschließend auf X deutlicher: Modelle sollten als „Insider-Risiken“ behandelt werden, wobei sich die Sicherheitskontrollen außerhalb des Modells selbst befinden sollten.
2 Die Analogie ist wichtig. Microsoft konzentriert sich nicht länger nur auf feindliche KI-Tools, die ein Unternehmen von außen angreifen; das Unternehmen warnt, dass die eigenen zugelassenen Agenten eines Unternehmens zu unberechenbaren Akteuren werden können, sobald sie Zugriff auf Daten und Systeme haben.
Am Montag machte Microsoft aus dieser Warnung Produktpolitik und erweiterte Project Perception um Guardian Agents. Der Sicherheitschef des Unternehmens, Hayete Gallot, sagte, „Spitzenmodelle können unabhängig von ihrer Herkunft nicht vertraut werden“ — nicht unbedingt, weil sie böswillig sind, sondern weil Systeme, die darauf trainiert sind, Aufgaben zu erledigen, kein organisatorisches Urteilsvermögen zuverlässig ausüben.3
Project Perception begann mit KI-Agenten für Red Teams, Blue Teams und Abhilfemaßnahmen, die darauf ausgerichtet sind, Schwachstellen zu finden und zu beheben. Der neue Schwerpunkt liegt auf der kontinuierlichen Bewertung des Risikos, das von den eingesetzten Agenten selbst ausgeht. Microsoft ergänzt Defender außerdem um Erkennung für Dutzende Arbeitsplatz-Agenten, darunter Claude Code, Codex und OpenClaw, sowie um Kontrollen, die den Zugriff beschränken, Berechtigungen je nach Aufgabe anpassen und für riskante Aktionen eine menschliche Genehmigung verlangen.1
Die Haltung birgt eine offensichtliche kommerzielle Spannung. Microsoft ist eng mit OpenAI und Anthropic verbunden und entwickelt zugleich eigene Modelle, fordert Kunden jedoch auf, sich für Sicherheit nicht allein auf irgendeinen Modellanbieter zu verlassen. Die Antwort des Unternehmens ist eine unabhängige Kontrollebene — eine, die Unternehmen praktischerweise bei Microsoft kaufen können.1