Wird Instagram der netteste Ort im Internet?

Die App hat zwei neue Filter angekündigt, dank derer niemand mehr Hasspostings lesen muss.

Zum einen wurde der Anti-Spam-Filter auf insgesamt neun Sprachen ausgeweitet, darunter auch Deutsch. Und – jetzt kommt's - ein Filter wird in Zukunft Hasskommentare automatisch entfernen! Nach erfolgreichem Update findet sich die Option einfach in den Einstellungen unter dem Reiter "Kommentare".

Keine Hasspostings mehr!

Den Filter gibt es für's Erste nur auf Englisch, andere Sprachen sollen aber bald folgen. Der besondere Clou: der Poster der geblockten Kommentare sieht seinen in Worte gefassten Hass immer noch, für andere User bleibt die Sachen unsichtbar. Das Ganze funktioniert über einen Algorithmus, der auf menschlicher Einschätzung basiert und mit der Zeit weiterlernt. Entwickler haben händisch zwei Millionen Kommentare analysiert und sie entweder als okay eingestuft oder in einer der verbotenen Kategorien wie "sexuelle Belästigung", "Mobbing" oder "Rassismus" zugeordnet.

Der Techblog Wired hat das Ganze getestet und leider noch ein paar eigenartige Ergebnisse erzielt. Der Algorithmus hat manchmal Probleme, echten Hass und Geplänkel unter Freunden zu unterscheiden. Eigentlich unbedenkliche Kommentare werden gelöscht, während manche Hasspostings durchrutschen.

Fairerweise muss man aber einräumen, dass das System eben auf menschlicher Einschätzung basiert und keiner von uns arbeitet fehlerfrei. Außerdem wird der Algorithmus laufend weiterentwickelt und lernt auch selbstständig dazu. Am schwierigsten wird es für den Filter sein, die feinen Nuancen menschlicher Kommunikation richtig zu interpretieren und Hasskomentare von freundschaftlichen Scherzen zu unterscheiden. Ist der Algorithmus zu rigoros, könnte Instagram schnell unauthentisch werden, ist er zu lasch, macht er keinen Sinn.

Auf Nachfrage von Wired antwortete Instagram C.E.O Kevin Systrom: „Wir versuchen nicht, die Redefreiheit oder lustige Gespräche unter Freunden einzuschränken. Aber wir attackieren das Problem der Hasskommentare auf Instagram.“

Wenn das funktioniert, könnte Instagram zu einem der freundlichsten Orte im Internet werden. Wir sind gespannt auf das deutsche Pendant!

 

Aktuell