Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen / Foto: ANDREJ IVANOV - AFP
-
US-Notenbank verkündet Leitzinsentscheidung - Zinspause erwartet
-
Studie: Aufweichung von EU-Verbrenner-Aus könnte tausende Jobs kosten
-
Eurojackpot vom 23. Oktober bleibt ohne Hauptgewinner
-
Bitcoin fällt vor Fed-Entscheidung unter 80.000 Dollar
-
Fed entscheidet am Mittwoch über den US-Leitzins
-
Suche nach Atom-Endlager konzentriert sich auf fünf Prozent der Bundesfläche
-
Rechtsstreit zwischen Künast und Facebook: Karlsruhe wendet sich an EuGH
-
Airbus-Kredit: USA stellen Vereinbarung mit EU in Frage
-
Audi-Auftritt bei Trump löst Debatte über Verantwortung von Konzernchefs aus
-
Frankreichs Regierung ruft zum Blockade-Ende auf - Schüler wollen weiter protestieren
-
Wie Unternehmen stille Leistungsträger besser erkennen und fördern
-
Angriff unter Clans: Auto fährt in Niedersachsen in Menschengruppe
-
Forderungen nach Entschädigungen überschatten Karibikreise von König Charles III.
-
Münchener Chiphersteller Infineon investiert 1,1 Milliarden Euro in Österreich
-
Bundeshaushalt 2027: Bündnis warnt vor Einsparungen bei Jugendlichen
-
Mercedes senkt Gewinnerwartung wegen weiter wegbrechenden China-Geschäfts
-
US-Rapper Jay-Z tritt in Super-Bowl-Halbzeitshow auf
-
Dieselskandal: Weitere Verfahren gegen VW-Manager beginnen im November
-
Merz wirbt in Singapur für Investitionsstandorte Deutschland und Europa
-
Kein Anschlag laut Polizei: Auto fährt in Niedersachsen in Menschengruppe
-
EU-Länder wollen mehr Spielraum bei Vergabe europäischer Agrargelder
-
Mutter und Sohn in Hessen von eigenem Hund angegriffen und schwer verletzt
-
Auto fährt in Niedersachsen in Menschengruppe - Mehrere Verletzte
Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen
Der ChatGPT-Entwickler OpenAI hat einem Medienbericht zufolge im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt. "Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war", sagte OpenAI-Europachef Emmanuel Marill der "Welt am Sonntag". Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.
Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtete die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. "Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen", sagte Marill der "Welt am Sonntag". Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte das Unternehmen, bei dem Vorfall hätten die Agenten auch auf Konten bei vier weiteren öffentlich zugänglichen Diensten zugegriffen.
Marill räumte nun gegenüber der "Welt am Sonntag" ein, dass OpenAI die Geschwindigkeit der technischen Entwicklung unterschätzt habe. Besonders die zunehmende Beteiligung von KI-Systemen an der Entwicklung neuer Modelle könne dazu führen, dass Menschen Vorgänge nicht mehr nachvollziehen könnten. Nötig seien deshalb klare Kriterien dafür, wann automatisierte Forschungsschritte sofort von Menschen überprüft werden müssten. "Der Mensch muss immer in dieser Kontrollschleife bleiben", sagte Marill.
M.Mendoza--CPN
