Facebook: 80% der gelöschten Hassrede wurde durch Software erkannt

Facebook erhöht Trefferquote durch Software bei Hass und Hetze

Immer wieder sind Hass und Hetze Thema in sozialen Medien. Vor allem auf Facebook muss man sich mit Kritik auseinandersetzen, dass hier zu lange zu wenig dagegen unternommen wurde. Die von Facebook dafür eingesetzte Software wurde aus diesem Grund stark ausgebaut. Neue Technologien wie Maschinelles Lernen, Computer Vision und Künstliche Intelligenz, unangemessene Inhalte noch schneller zu finden, werden hierfür eingesetzt.

Laut aktuellem Bericht zur Erfüllung von Facebooks Verhaltensregeln wurden im ersten Quartal 68 Prozent von problematischen Inhalten automatisch erkannt. Im dritten Quartal stieg der Prozentsatz sogar auf 80 Prozent. Facebook ist hier also offensichtlich auf dem richtigen Weg, was den Ausbau der Software angeht.

[mk_ad]

Facebook selbst schreibt zu diesem Thema:

Initially, we’ve used these systems to proactively detect potential hate speech violations and send them to our content review teams since people can better assess context where AI cannot. Starting in Q2 2019, thanks to continued progress in our systems’ abilities to correctly detect violations, we began removing some posts automatically, but only when content is either identical or near-identical to text or images previously removed by our content review team as violating our policy, or where content very closely matches common attacks that violate our policy. We only do this in select instances, and it has only been possible because our automated systems have been trained on hundreds of thousands, if not millions, of different examples of violating content and common attacks. In all other cases when our systems proactively detect potential hate speech, the content is still sent to our review teams to make a final determination. With these evolutions in our detection systems, our proactive rate has climbed to 80%, from 68% in our last report, and we’ve increased the volume of content we find and remove for violating our hate speech policy.

Auch Fake-Accounts geht es an den Kragen.

Im vergangenen Quartal wurden 1,7 Milliarden gefälschte Nutzerkonten gelöscht. Im Vergleich zum ersten Quartal des Jahres waren dies zwar 500 Millionen weniger, allerdings geht daraus hervor, dass Facebook das Anlegen falscher Accounts nun von vornherein besser blockt.

Weiters wurden im vergangenen Quartal 4,4 Millionen Inhalte mit Bezug zu Handel mit Drogen bei Facebook gelöscht, bei Instagram waren es 1,5 Millionen. Daten zu der zu Facebook gehörenden Plattform Instagram sind in diesem Bericht übrigens erstmals enthalten.

[mk_ad]

Passend zum Thema:

Hass im Netz: leider weiterhin ein großes Thema!

Quelle: Facebook-Newsroom
Artikelbild: Shutterstock / Worawee Meepian