Instagram: Weniger Spam und Hass, aber Gefahr der Zensur

Instagram hat heute zwei neue Werkzeuge vorgestellt, mit denen man das soziale Netzwerk, welches zu Facebook gehört, noch sicherer machen möchte.

Ein Werkzeug ist ein Filter, mit dem man automatisch beleidigende Kommentare unter den Beiträgen blockieren lassen kann. Die Option ist erst mal nur in Englisch verfügbar, soll aber bald in weiteren Sprachen kommen. Das zweite Werkzeug ist ein automatischer Spam-Filter, der in 9 Sprachen (u.a. Deutsch) verfügbar ist.

Instagram verlässt sich hier laut eigenen Angaben auf Maschinen, die nach einem bestimmten Muster arbeiten und automatisch Spam-Kommentare filtern. Die von Instagram gefilterten Kommentare werden euch also erst gar nicht angezeigt.

Das Problem mit der KI bei Kommentaren

Ich habe mir heute Morgen einen durchaus interessanten Artikel bei Wired dazu durchgelesen, der ein paar Details zu den neuen Werkzeugen enthält. Aus Sicht von Instagram klingt das alles erst mal gut, doch das große Problem mit der künstlichen Intelligenz: Es besteht die Möglichkeit, dass auch Kommentare blockiert werden, die kein Spam sind. Komplexe Zusammenhänge sind schwer zu interpretieren.

Blockierte Kommentare werden beim Beitrag nie auftauchen, sind aber für die Person, die sie abgeschickt hat, weiter sichtbar. So wird es für die Spam-Accounts sehr schwierig und aufwändig gemacht. Sie können sich nicht mehr so leicht an den Algorithmus anpassen. Kommentare, die aber kein Spam sind und trotzdem von Instagram blockiert werden, werden so vielleicht nie wirklich entdeckt.

Kevin Systrom, Gründer und immer noch CEO bei Instagram, ist aber zuversichtlich. Immerhin haben viele Mitarbeiter mehrere Monate an diesen Filtern gearbeitet. Ich begrüße den Kampf gegen Spam und beleidigende Kommentare, doch ich glaube, dass die Technologie noch nicht so weit ist, dass sie uns die Arbeit abnehmen und richtig filtern kann. Dafür sind menschliche Gedanken zu komplex. Und die Spam-Accounts werden sich sicher auch sehr schnell daran angepasst haben.