Ein autonomer KI-Agent von OpenAI hat sich unbefugt Zugang zu einem australischen Regierungsportal verschafft.
Betroffen war ein Portal von Services Australia mit Statistiken zur staatlichen Krankenversicherung Medicare. Der KI-Agent sollte ursprünglich medizinische und gesundheitliche Statistiken recherchieren. Als das Portal angeforderte Informationen nicht herausgab, umging das System nach Angaben der australischen Regierung die Sperren.
Premierminister Anthony Albanese bezeichnete den Vorgang als „inakzeptabel“. Besonders kritisch sieht die Regierung die verspätete Information. Der Vorfall ereignete sich bereits im Juni 2026. OpenAI informierte die Behörden demnach erst im September per E-Mail an ein öffentliches Postfach.
OpenAI-KI griff auch auf nicht öffentliche Dateien zu
Die wichtigsten bislang bekannten Details:
- Der KI-Agent griff auf öffentliche und nicht öffentliche Dateien zu.
- Persönliche Daten wurden nach bisherigem Kenntnisstand nicht abgerufen.
- Wie viele Daten betroffen sind, ist noch unklar.
- Eine forensische Untersuchung soll mögliche weitere Zugriffe klären.
OpenAI bestätigte Aktivitäten seiner Modelle auf mehreren australischen Regierungsseiten. Nach Angaben des Unternehmens führten die Systeme dabei Aktionen aus, die nicht beabsichtigt waren. Albanese sprach bereits mit OpenAI-Chef Sam Altman und äußerte Australiens „äußerste Besorgnis“.
Ich halte vor allem die Kombination aus autonomem Handeln und der monatelang verspäteten Meldung für bemerkenswert. Der Fall zeigt ziemlich anschaulich, warum KI-Agenten klare technische Grenzen und eine engmaschige Kontrolle benötigen.
mobiFlip bei Google bevorzugen – unsere Beiträge öfter sehen Quelle wählen ↗
