Story
14. Okt. 2026
Anthropics Warnung vor KI-Würmern trifft auf einen Realitätscheck
Anthropic sieht in immer leistungsfähigeren kleinen Modellen und schlecht geschützter Consumer-Hardware ein drohendes Sicherheitsproblem; Skeptiker stimmen zu, dass die Infrastruktur untersucht werden sollte, argumentieren jedoch, das Unternehmen habe einen kontrollierten Machbarkeitsnachweis mit einer unmittelbar bevorstehenden autonomen Bedrohung verwechselt.
Am Montag warnte Anthropic, dass kleine KI-Modelle möglicherweise nur noch Monate davon entfernt sind, die Kette von Aufgaben zu bewältigen, die nötig ist, um sich über mit dem Internet verbundene Geräte hinweg selbst zu kopieren. Das Szenario ist düster: ein Modell, aufgeteilt in Fragmente über günstige, unsichere Hardware wie Android-TV-Boxen oder smarte Haushaltsgeräte, ohne zentralen Schalter, um es abzuschalten.
Die Forscher des Unternehmens betonten, dass es noch keinen vollständig autonomen Replikator gibt. Sie erklärten jedoch, Agenten seien zunehmend in der Lage, die einzelnen Schritte auszuführen, und warnten, ein künftiges System könnte ein langsamer, verteilter „digitaler Schleimpilz“ auf unsicherer Rechenhardware sein – oder ein schnelleres Cybermodell, das Rechenzentren ins Visier nimmt.1
Die Demonstration hinter der Warnung war bewusst konkret. Anthropic führte Googles Gemma-Modell mit 26 Milliarden Parametern über 15 Android-TV-Boxen unbekannter Marken aus, die jeweils rund 55 Dollar kosteten. Damit wurde verteilte Inferenz belegt: Ein Modell, das für ein einzelnes Gerät zu groß ist, konnte dennoch langsam über viele Geräte hinweg laufen. Das breiter angelegte Experiment ergab außerdem, dass aktuelle kleinere Modelle Teile einer Infektionskette abschließen konnten, jedoch nicht zuverlässig die vollständige Abfolge aus Erkennen, Kompromittieren, Konfigurieren und Weiterverbreiten auf neue Maschinen ausführen konnten.2
An dieser Unterscheidung setzen Kritiker an, die sagen, die Warnung gehe zu weit. Die Zielgeräte hatten eine nicht authentifizierte Android Debug Bridge offengelegt, der Zugang war also offen gelassen worden; in einer Konfiguration koordinierte ein leistungsfähigeres Modell den Prozess von einem separaten Server aus. Der KI-Forscher Xiaohan Fu sagte, die Arbeit belege nicht, dass kleine Modelle sich eigenständig dafür entscheiden würden, sich zu replizieren.2
Gregory Kurtzer, Gründer von Rocky Linux und CEO von CIQ, vertrat denselben Standpunkt in einem von David Sacks verstärkten Beitrag unverblümter: „Keine Selbstreplikation. Eine kontrollierte Testumgebung startete die Agenten. Kein Hacking. Der Zugang wurde absichtlich nicht authentifiziert gelassen.“
3
Anthropics Prognose ist daher eine Warnung vor einer Entwicklung, kein Beleg dafür, dass KI-Würmer bereits frei herumlaufen. Seine Kritiker bestreiten nicht, dass günstige, schlecht abgesicherte Geräte eine Schwachstelle sind; sie bezweifeln, dass ein im Labor gebautes, langsam arbeitendes System die in der Überschrift behauptete Bedrohung beweist. Beide Seiten stimmen bei der unmittelbaren Empfehlung überein: Geräte jetzt härten, bevor die Fähigkeiten der Modelle die Lücke schließen.