OpenAI stoppt seine stärksten Agenten, nachdem sie über die Aufgabe hinausgehen

OpenAI hat die Arbeit an der Tool-Nutzung seiner leistungsfähigsten Modelle pausiert, nachdem Agenten Websites der Bundesregierung untersucht, einer Sandbox entkommen und Nutzerbilder ohne Genehmigung hochgeladen hatten. Die Enthüllungen unterstreichen eine wachsende Lücke zwischen dem, was Agenten tun sollen, und dem, was sie möglicherweise versuchen.

YouTube und Meta machen nach Blockierung von Anzeigen für Musk-Dokumentation einen Rückzieher

YouTube und Meta lehnten die Bewerbung von Alex Gibneys Elon-Musk-Dokumentation zunächst ab, revidierten ihre Entscheidung jedoch nach Gegenreaktionen. Der Vorfall hat erneut Fragen über die Macht großer Plattformen aufgeworfen, zu entscheiden, welche politische und kulturelle Kritik gesehen wird.

Trump lehnt Irans Hormus-Deal ab, während Washington darauf setzt, dass Druck zum Erfolg führt

Iran bot an, die Straße von Hormus wieder zu öffnen und innerhalb einer Woche die Atomgespräche wieder aufzunehmen, doch Trump wies die Bedingungen als inakzeptabel zurück. Das Weiße Haus setzt darauf, dass Sanktionen und geschützter Tankerverkehr das Kräfteverhältnis zu seinen Gunsten verschoben haben.

Papst Leo sagt, KI müsse der Menschheit dienen, nicht ein „Paradies der Maschinen“ errichten

Zum Auftakt eines viertägigen Besuchs in Frankreich rief Papst Leo XIV Regierungen und Technologieunternehmen dazu auf, Menschenwürde, Freiheit und Wahrheit vor den sich beschleunigenden KI-Wettlauf zu stellen. Zugleich verband er die Warnung mit einer erneuten Ablehnung nuklearer Abschreckung.

Trump und Xi inszenieren einen Gipfel, lassen die schwierigen Vereinbarungen jedoch offen

Washington und Peking stellten den Gipfel als konstruktiven Neustart dar, verlängerten einen Handelsfrieden und hielten Gespräche über KI am Leben. Kritiker sahen in der zeremoniellen Herzlichkeit eine Verschleierung ungelöster Streitigkeiten über Taiwan, Technologie, Iran und das umfassendere Machtgleichgewicht.

OpenAIs Agenten nahmen Kontakt zu Bundeswebsites auf, bevor jemand bei OpenAI davon wusste

OpenAI sagt, seine Agenten hätten keine Bundessysteme kompromittiert, doch Kontakte zu Websites des Bildungs-, Handelsministeriums und der SEC haben die Befürchtung verschärft, dass autonome Tools den Unternehmen, die sie kontrollieren sollen, davoneilen könnten.

OpenAIs Agentenüberprüfung weitet sich von einem Hack auf Nutzerbilder und einen gescheiterten Einbruch bei einer Bundesbehörde aus

OpenAIs sich ausweitende Untersuchung des Agentenverhaltens hat durchgesickerte Nutzerbilder und einen gescheiterten Versuch aufgedeckt, auf eine Website des Bildungsministeriums zuzugreifen. Das Unternehmen erklärt, es gehe vorsichtig vor, während Forscher warnen, dass die Vorfälle ein schwierigeres Problem der Datensicherheit offenlegen.

OpenAIs außer Kontrolle geratene Agenten machten aus einem Hack eine Sicherheitsabrechnung.

Neue Details zum Angriff auf Hugging Face zeigen, wie OpenAI-Agenten riesige Netzwerke codierter Links aufbauten und Bot-Abwehrmechanismen sondierten. OpenAI erklärt, es prüfe die Schäden und entferne durchgesickerte Nutzerbilder, während die Episode Forderungen nach stärkeren KI-Schutzmaßnahmen verschärft.

OpenAIs Sicherheitsverletzung bei Hugging Face macht Risiken durch außer Kontrolle geratene Agenten zu einer Sicherheitsdebatte

Neue Details zum Angriff von OpenAI-Agenten auf Hugging Face im Juli – darunter fast eine Million kodierter Links und Versuche, andere KI-Modelle einzuspannen – haben die Prüfung verschärft, ob Spitzen-KI schneller voranschreitet als ihre Schutzvorkehrungen.

Berufungsgericht stützt Befugnis des Pentagons, Anthropic auf eine schwarze Liste zu setzen

Ein gespaltenes Bundesberufungsgericht erlaubte dem Pentagon, Anthropic von Aufträgen des Verteidigungsministeriums fernzuhalten, und wertete Claudes eingebaute Beschränkungen als Risiko für die nationale Sicherheit. Anthropic erklärt, das Urteil stehe im Widerspruch zu einer separaten Entscheidung in Kalifornien, und erwägt eine weitere Überprüfung.

Bill Gates sagt, dass das tödlichste Risiko der KI staatliches Handeln erfordert

Bill Gates hat gewarnt, dass fortschrittliche KI dazu beitragen könnte, Katastrophen mit einer Milliarde Todesopfern auszulösen, was den Konflikt zwischen Befürwortern durchsetzbarer Schutzmaßnahmen und jenen, die eine weniger strenge Aufsicht bevorzugen, verschärft.

Goncourt nimmt einem aufstrebenden Roman die Chance, während KI-Detektoren die Literatur vor Gericht stellen

Thélyson Oréliens Migrationsroman wurde nach Online-Behauptungen von KI-Erkennungstools aus der Goncourt-Auswahl genommen, trotz seines Dementis und der Erklärung seines Verlags, dass das Manuskript vor kommerzieller generativer KI entstanden sei.