Anthropic-Chef Amodei dringt auf langsameres Tempo bei KI-Entwicklung / Foto: FABRICE COFFRINI - AFP/Archiv
-
US-Notenbank verkündet Leitzinsentscheidung - Zinspause erwartet
-
Studie: Aufweichung von EU-Verbrenner-Aus könnte tausende Jobs kosten
-
Eurojackpot vom 23. Oktober bleibt ohne Hauptgewinner
-
Bitcoin fällt vor Fed-Entscheidung unter 80.000 Dollar
-
Fed entscheidet am Mittwoch über den US-Leitzins
-
Suche nach Atom-Endlager konzentriert sich auf fünf Prozent der Bundesfläche
-
Rechtsstreit zwischen Künast und Facebook: Karlsruhe wendet sich an EuGH
-
Airbus-Kredit: USA stellen Vereinbarung mit EU in Frage
-
Audi-Auftritt bei Trump löst Debatte über Verantwortung von Konzernchefs aus
-
Frankreichs Regierung ruft zum Blockade-Ende auf - Schüler wollen weiter protestieren
-
Wie Unternehmen stille Leistungsträger besser erkennen und fördern
-
Angriff unter Clans: Auto fährt in Niedersachsen in Menschengruppe
-
Forderungen nach Entschädigungen überschatten Karibikreise von König Charles III.
-
Münchener Chiphersteller Infineon investiert 1,1 Milliarden Euro in Österreich
-
Bundeshaushalt 2027: Bündnis warnt vor Einsparungen bei Jugendlichen
-
Mercedes senkt Gewinnerwartung wegen weiter wegbrechenden China-Geschäfts
-
US-Rapper Jay-Z tritt in Super-Bowl-Halbzeitshow auf
-
Dieselskandal: Weitere Verfahren gegen VW-Manager beginnen im November
-
Merz wirbt in Singapur für Investitionsstandorte Deutschland und Europa
-
Kein Anschlag laut Polizei: Auto fährt in Niedersachsen in Menschengruppe
-
EU-Länder wollen mehr Spielraum bei Vergabe europäischer Agrargelder
-
Mutter und Sohn in Hessen von eigenem Hund angegriffen und schwer verletzt
-
Auto fährt in Niedersachsen in Menschengruppe - Mehrere Verletzte
Anthropic-Chef Amodei dringt auf langsameres Tempo bei KI-Entwicklung
Angesichts der Warnungen vor den Risiken einer sogenannten Superintelligenz hat Anthropic-Chef Dario Amodei KI-Unternehmen aufgerufen, die Entwicklung von Künstlicher Intelligenz zu drosseln. "Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern", schrieb Amodei am Samstag auf seiner persönlichen Website. "Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die gewonnene Zeit sinnvoll nutzen", betonte der Chef des US-Unternehmens.
KI berge "gravierende" Risiken, betonte Amodei. "Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten", erklärte er. Zugleich sei eine "zu schnelle Entwicklung leichtsinnig".
"Wir haben nach einem Mittelweg gesucht", sagte Amodei, der Anthropic 2021 gemeinsam mit seiner Schwester Daniela gegründet hatte. Doch in den vergangenen Monaten sei er zu der Überzeugung gelangt, dass "für eine umfassende Bewältigung der Risiken" noch größere Vorsicht nötig sei.
Ende Juli hatte bereits Sam Altman, Chef des Anthropic-Konkurrenten OpenAI, erklärt, dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann.
Etwa zeitgleich unterzeichneten mehr als tausend Mitarbeiter führender KI-Unternehmen, darunter Amodei, eine Petition, in der sie die Hilfe der US-Regierung forderten, um "die Entwicklung automatisierter KI bewusst zu drosseln".
OpenAI hatte im Juli bekannt gegeben, dass sich während eines Sicherheitstests KI-Modelle des Unternehmens selbständig gemacht und einen Hackerangriff auf die beliebte Programmierplattform Hugging Faces verübt hatten. Es handele sich um einen "nie dagewesenen Cybervorfall", erklärte das Unternehmen aus San Francisco.
Für diese und andere Vorfälle wurden KI-Agenten verantwortlich gemacht, also Softwareprogramme, die Aufgaben ohne ständige Überwachung durch Menschen ausführen können.
Amodei warnte davor, den Vorfall als Einzelfall abzutun. "Ein Schwarm von Agenten agierte im Wesentlichen als fanatisch ergebenes Kollektiv und führte Cybersicherheitsangriffe auf Ziele aus, die sie nicht angreifen sollten und die in keinem Zusammenhang mit der eigentlichen Aufgabe standen", erklärte er.
Angesichts der rasanten Entwicklung der KI könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, "das gesamte Internet zu übernehmen" und Schäden in Höhe von Hunderten Milliarden Dollar verursachen, fügte der Anthropic-Chef hinzu.
D.Goldberg--CPN
