Wat is dat voor een willekeur?

Situatie: Jij schrijft met een persoon in de privéberichten over en weer en plotseling deelt Facebook je mee, dat het veiligheidssysteem jouw inhoud geblokkeerd heeft. Maar waarom?

„Dit bericht bevat inhoud die door ons veiligheidssysteem geblokkeerd werd“ luidt het bericht dat verschijnt als Facebook (mogelijk een vergissing) privéberichten niet verstuurt of gedeelde links als misbruik klasseert

Daar zit een complex systeem achter, dat de inhoud op steekwoorden, zinnen en woordomgevingen controleert. En aan de hand daarvan afleidt of een bericht inhoud bevat die de gemeenschapsstandaarden schenden. Als algoritmes proberen geschreven, natuurlijke tekst te onderzoeken, komen er fouten voor. En zo kan het gebeuren dat ook bij ogenschijnlijk onschuldige berichten het veiligheidssysteem het versturen van het bericht verbiedt. Omdat deze fout positief geklasseerd wordt. Fout positief betekent in dit verband dat het systeem denkt een schending te hebben herkend en dat deze bevinding niet juist is.

In het geval van links heeft Facebook de optie ze door een medewerker te laten controleren. Bij een vals positieve link kan deze via deze optie weer vrijgegeven worden. Bij privéberichten is zo’n optie er (nog) niet. Daarvoor moeten gebruikers op verdere verbeteringen van het veiligheidssysteem wachten. Hier wordt dagelijks aan gewerkt. En sinds de nieuwe richtlijnen sterker tegen haat en haatzaaieen ingaan, wordt er veel geëxperimenteerd, wat de kans op fout positieve bevindingen verhoogt. Een mogelijkheid, als het jullie overkomt, is het bericht anders te schrijven en te controleren of Facebook het bericht dan niet meer blokkeert.

Conclusie

Ook als Facebook zegt dat berichten om hun inhoud geblokkeerd worden, moet je bedenken dat daar machines achter zitten, wat tot vals positieve bevindingen kan leiden.

Vertaling: Petra, mimikama.nl