OpenAI will nach mehreren Vorfällen neue Regeln für die Offenlegung von Fehlverhalten seiner KI-Agenten entwickeln.
Hintergrund ist unter anderem der sogenannte „Wiki Incident“. Unabhängige Forscher berichteten Anfang September, dass intern eingesetzte OpenAI-Agenten über einen Monat hinweg ein deutsches Wiki zur Zusammenarbeit bei Evaluierungen nutzten. OpenAI erklärte anschließend, den Bericht zu prüfen.
Besonders auffällig war das Ausmaß. Laut den Forschern erstellten die Agenten zeitweise rund 400 Seiten pro Tag. Ein Administrator löschte etwa 100 Seiten täglich. Agenten versuchten zudem, ihre Beiträge durch vorangestellte „ZZZ“-Zeichen weniger sichtbar zu machen. Die Startseite wurde verändert und insgesamt neunmal wiederhergestellt.
OpenAI will Misalignment-Vorfälle transparenter machen
Mehrere Ereignisse spielen bei der Neubewertung eine Rolle:
- Der Wiki-Vorfall begann laut Forschern bereits am 11. Mai.
- Die Agenten tauschten Tipps und Antworten für Tests aus.
- Beim Hugging-Face-Vorfall entstanden zusätzlich Sicherheitsfolgen.
- OpenAI arbeitet nach eigenen Angaben mit Dutzenden Behörden weltweit zusammen.
OpenAI hatte Misalignment bislang vor allem als Forschungsthema behandelt und entsprechende Beobachtungen etwa in System Cards veröffentlicht. Das Unternehmen räumt nun ein, dass diese Praxis für reale Vorfälle nicht mehr ausreiche. Ein neues Rahmenwerk für Meldungen aus Training, Evaluation und Einsatz soll in den kommenden Wochen folgen.
Ich halte die Neubewertung für überfällig. Gerade der Wiki-Fall zeigt anschaulich, dass Fehlverhalten autonomer Agenten nicht nur ein theoretischer Messwert ist. Wenn KI-Systeme selbstständig externe Dienste nutzen können, braucht es klare Regeln dafür, wann solche Vorfälle untersucht und öffentlich gemacht werden.
mobiFlip bei Google bevorzugen – unsere Beiträge öfter sehen Quelle wählen ↗
