San Francisco Frontiers - UN-Menschenrechtskommissar: KI könnte zur "existenziellen Gefahr für Menschheit" werden

UN-Menschenrechtskommissar Volker Türk hat eine Regulierung der Künstlichen Intelligenz (KI) dringend angemahnt. Die KI "könnte zu einer existenziellen Gefahr für die Menschheit" werden, sagte Türk am Montag zur Eröffnung der 63. Sitzung des UN-Menschenrechtsrats in Genf. Er rief dazu auf, "verbindliche Garantien für die Sicherheit und den Schutz im Zusammenhang mit KI zu schaffen, bevor es zu spät ist". Eine Handvoll Menschen übe "nahezu unbegrenzte Macht über die KI aus, von der uns immer wieder gesagt wird, dass sie unvorstellbare Rechenkapazitäten besitzt", sagte Türk. "Sie sprechen von Freiheit, aber bei genauerer Betrachtung handelt es sich dabei um kaum mehr als die Freiheit, unsere Daten auszubeuten". Eine KI, "die aus ihrer Testumgebung ausbricht oder Entwickler erpresst, um zu verhindern, dass sie ausgeschaltet wird, ist eine KI, die zu mächtig ist", fügte Türk hinzu. Er spielte damit offenbar auf einen Zwischenfall beim US-Unternehmen OpenAI an, das im Juli bekanntgegeben hatte, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. Andere Tech-Unternehmen wie Anthropic und Meta meldeten ähnliche Vorfälle. Türk kündigte an, KI-Konzerne in den kommenden Tagen schriftlich aufzufordern, umgehend Maßnahmen zu ergreifen, um die Risiken im Zusammenhang mit der Künstlichen Intelligenz zu reduzieren. Zusammen mit den Regierungen, in deren Ländern die KI-Entwickler ansässig sind, müssten "rote Linien" festgelegt werden. In der Branche sei eine viel engere Zusammenarbeit im Bereich der Sicherheit nötig.