Točka za prijavo sovražnega govora in posnetkov spolnih zlorab otrok na internetu

Facebook v težavah pri obravnavanju sovražnega govora zaradi prevelikega števila uporabnikov

24.11.2017

Pri Facebooku zaostrujejo pravila, ki se nanašajo na sovražni govor in druge neprimerne vsebine. A ker 1,3 milijarde ljudi iz celega sveta uporablja omrežje vsakodnevno, je njihovo delo prepoznavanja in odstranjevanja takšnih vsebin oteženo. Druga težava je sovražni govor, ki ga zaradi različnih izrazov in simbolov samodejni sistem prepoznave ne prepozna. Zato se morajo v veliki meri zanašati na pregledovalce, ki se posvetijo kontekstu in pri vsakem posameznem primeru ocenijo ali gre za sovražni govor ali ne.

Berkman Klein Center for Internet & Society je organiziral javni pogovor s predstavnico Facebooka in drugimi strokovnjaki, na katerem so se posvetili problematiki sovražnega govora na internetu. Facebookova pravila sovražnega govora ne dopuščajo,  prav tako pa je strogo prepovedano objavljanje različnih nasilnih vsebin in vsebin teroristične narave.

A kljub pravilom, ki natančno določajo, kaj je sovražni govor, ga je na družabnih omrežjih včasih težko prepoznati in nadzirati. Facebook ima dve milijardi uporabnikov, od tega jih 1,3 milijarde Facebook uporablja vsak dan. Ker 58 % uporabnikov prihaja iz držav izven ZDA, so zapisi in objave v najrazličnejših jezikih, zaradi česar je obravnavanje zapisov lahko oteženo.

Kako pa sploh poteka prepoznavanje in odstranjevanje sovražnega govora?

Če je neka vsebina prijavljena kot sovražna, bodisi s strani drugega uporabnika bodisi s strani samodejnega sistema prepoznave, se ta vsebina pošlje pregledovalcu, ki potem določi, ali je vsebina sovražne narave ali ne. Facebook trenutno v ta namen zaposluje 3.000 novih ljudi, ki bodo opravljali delo prepoznavanja sovražnega govora in drugih neprimernih vsebin – skupno bo pregledovalcev 7.500.

Prepoznavanje sovražnega govora na družabnih omrežjih pa postaja težje, ne le zaradi velikega števila uporabnikov, ampak tudi zato, ker so zapisi lahko prikriti na tak način, da samodejni sistem prepoznave sovražnega govora ne prepozna. Sovražni zapisi, ki jih je težje prepoznati lahko vsebujejo t. i. emojije (emotikone) ali različne slengovske izraze in simbole. Zato strokovnjaki poudarjajo, da je pri zaznavanju sovražnega govora najpomembnejši kontekst, v katerem je neki zapis nastal.

Pri Facebooku navajajo, da njihova pravila postajajo vse ostrejša. Poleg tega vse bolj sodelujejo tudi z zunanjimi akterji, kot so npr. skupine različnih strokovnjakov na področju boja pri terorizmu, ki pomagajo pri prepoznavanju terorističnih vsebin na platformi.

>> Več informacij o posvetu je na voljo na tej povezavi

Sledi nam na Twitterju


Kontakt

O nas

Za medije


Fakulteta za družbene vede

Center za družboslovno informatiko CDI

Sofinancerja


 

Za vsebine spletne strani odgovarjajo izključno avtorji (izvajalci projekta Center za varnejši internet). Evropska unija ne odgovarja za kakršnokoli morebitno uporabo na njej navedenih informacij.

Uporaba piškotkov