San Francisco Frontiers - OpenAI entschuldigt sich nach Zugriff von KI-Agent auf australische Regierungswebsites

Ein KI-Programm von OpenAI hatte eine Website der australischen Regierung gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent griff nach Angaben von Australiens Premierminister Anthony Albanese auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zu.

Albanese zufolge ereignete sich der Vorfall bereits im Juni. Demnach machte OpenAI die australische Regierung aber erst am 10. September auf den Vorfall aufmerksam - und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird.

Dazu erklärte das Unternehmen nun, es hätte erste Erkenntnisse "früher" an australische Behörden weitergeben sollen". "Unser Ziel war es, den betroffenen Behörden einen detaillierten Bericht vorzulegen, sobald unsere Untersuchung abgeschlossen war", hieß es in dem Blog weiter. Das Unternehmen räumte aber ein, dass es "die vorläufigen Erkenntnisse früher" hätte mitteilen "und die australischen Behörden auf dem Laufenden halten sollen, während weitere Fakten bekannt wurden".

Insgesamt wurden vier Plattformen der australischen Regierung von der KI ins Visier genommen, darunter Services Australia, die Website für Sozialleistungen, aus der das Modell nicht öffentliche Informationen abzog. Laut dem Unternehmen hatte die KI in keinem der vier Fälle Zugriff auf personenbezogene Daten.

J.Peterson--SFF