Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website / Foto: JUSTIN SULLIVAN - GETTY IMAGES NORTH AMERICA/AFP
-
Chemiekonzern BASF hebt erneut Gewinnerwartung
-
Südkoreas Chip-Hersteller SK Hynix verbucht erneuten Umsatz- und Gewinnrekord
-
Gewinnmarge von Mercedes' Autosparte im dritten Quartal fast halbiert
-
US-Notenbank verkündet Leitzinsentscheidung - Zinspause erwartet
-
Studie: Aufweichung von EU-Verbrenner-Aus könnte tausende Jobs kosten
-
Eurojackpot vom 23. Oktober bleibt ohne Hauptgewinner
-
Bitcoin fällt vor Fed-Entscheidung unter 80.000 Dollar
-
Fed entscheidet am Mittwoch über den US-Leitzins
-
Suche nach Atom-Endlager konzentriert sich auf fünf Prozent der Bundesfläche
-
Rechtsstreit zwischen Künast und Facebook: Karlsruhe wendet sich an EuGH
-
Airbus-Kredit: USA stellen Vereinbarung mit EU in Frage
-
Audi-Auftritt bei Trump löst Debatte über Verantwortung von Konzernchefs aus
-
Frankreichs Regierung ruft zum Blockade-Ende auf - Schüler wollen weiter protestieren
-
Wie Unternehmen stille Leistungsträger besser erkennen und fördern
-
Angriff unter Clans: Auto fährt in Niedersachsen in Menschengruppe
-
Forderungen nach Entschädigungen überschatten Karibikreise von König Charles III.
-
Münchener Chiphersteller Infineon investiert 1,1 Milliarden Euro in Österreich
-
Bundeshaushalt 2027: Bündnis warnt vor Einsparungen bei Jugendlichen
-
Mercedes senkt Gewinnerwartung wegen weiter wegbrechenden China-Geschäfts
-
US-Rapper Jay-Z tritt in Super-Bowl-Halbzeitshow auf
-
Dieselskandal: Weitere Verfahren gegen VW-Manager beginnen im November
-
Merz wirbt in Singapur für Investitionsstandorte Deutschland und Europa
Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website
Tausende autonome KI-Agenten des US-Technologieunternehmens OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Website gekapert. Auf der frei bearbeitbaren Plattform DSEwiki hinterließen sie demnach rund 18.000 Beiträge, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten.
"Meine Mitautoren und ich haben einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapert", erklärte die an der Untersuchung beteiligte Forscherin Sydney Von Arx im Onlinedienst X. OpenAI habe von dem Vorgang gewusst und ihn nicht offengelegt, warf sie dem Unternehmen vor.
OpenAI erklärte, die Vorwürfe zunächst nicht im Detail beantworten zu können. Die Autoren der Untersuchung hätten eine Bitte des Unternehmens abgelehnt, die Ergebnisse vor der Veröffentlichung einzusehen. OpenAI prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Ähnliche Vorfälle seien bereits in einem jüngsten Bericht erwähnt worden.
KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte OpenAI, dabei seien auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden.
Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.
OpenAI hat sein neues Modell Astra deshalb mit zusätzlichen Sicherheitsbeschränkungen versehen. Das auch als GPT-6 bezeichnete Modell soll schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückweisen, zudem werden potenziell nicht genehmigte Aktivitäten überwacht und gestoppt. Besonders weitreichende Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich sein. Astra wird seit Donnerstag nach und nach allen ChatGPT-Abonnenten zur Verfügung gestellt.
C.Peyronnet--CPN
