Was ist das für 1 Willkür?

Situation: Du schreibst mit einer Person in den privaten Nachrichten hin und her und plötzlich teilt Facebook Dir mit, dass das Sicherheitssystem Deine Inhalte blockiert hat. Doch warum?

„Diese Nachricht enthält Inhalte, die von unserem Sicherheitssystem blockiert wurden“ lautet die Nachricht, die erscheint, wenn Facebook (ggf. irrtümlicherweise) Privatnachrichten nicht versendet oder geteilte Links als missbräuchlich einstuft.

Dahinter steht ein komplexes System, das die Inhalte auf Schlagwörter, Phrasen und Wortumgebungen prüft, und anhand derer ableitet, ob eine Nachricht Inhalte enthält, die den Gemeinschaftsstandards widersprechen. Wann immer Algorithmen versuchen, geschriebenen natürlichen Text zu untersuchen, passieren Fehler. Und so kann es passieren, dass auch bei offensichtlich harmlosen Nachrichten das Sicherheitssystem das Versenden der Nachricht verbietet, da diese falsch positiv eingestuft wurde. Falsch positiv bedeutet in diesem Zusammenhang, dass das System einen Verstoß erkannt zu haben glaubt, falsch, dass dieser Befund falsch ist.

Im Falle von Links besitzt Facebook die Option, diese durch einen Mitarbeiter Facebooks prüfen zu lassen. Bei einem falsch positivem Link kann dieser über diese Option wieder freigegeben werden. Bei Privatnachrichten gibt es eine solche Option (noch) nicht, und dort müssen Nutzer auf weitere Verbesserungen des Sicherheitssystems warten. An diesem wird täglich gearbeitet, und seit den neuen Richtlinien, stärker gegen Hass und Hetze im Netz vorzugehen, wird viel experimentiert, was die Chance für falsch positive Befunde nochmals erhöht. Eine Möglichkeit, wenn euch dies passiert, ist, die Nachricht umzuschreiben und zu prüfen, ob Facebook diese dann nicht mehr blockiert.

Fazit: Auch wenn Facebook anzeigt, dass Nachrichten aufgrund ihres Inhalts blockiert werden, muss bedacht werden, dass dahinter maschinelle Abfragen stehen, und dies zu falsch positiven Befunden führen kann.