Berlin
14 °C
München
10 °C
Hamburg
13 °C
Düsseldorf
14 °C
Frankfurt am Main
Potsdam
Leipzig
Dortmund
Hannover
Köln
13 °C
Kiel
13 °C
Bremen
13 °C
Flensburg
13 °C
Rostock
Anthropic plädiert für Pause bei KI-Entwicklung / Foto: © AFP/Archiv
Anthropic plädiert für Pause bei KI-Entwicklung
Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre "wahrscheinlich sinnvoll", erklärte der in San Francisco beheimatete Konzern am Donnerstag (Ortszeit). Es müssten aber alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic.
Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China - darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, "die für alle überprüfbar wären".
Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll. Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.
Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt.
Am Montag hatte Anthropic seinen Börsengang angemeldet.
G.Collins--SFF
