Točka za prijavo sovražnega govora in posnetkov spolnih zlorab otrok na internetu

Vloga prijavne točke Spletno oko na družbenih omrežjih

1.   Ali Spletno oko odstranjuje objave in komentarje z družbenih omrežij in forumov? Ali blokira uporabnike?

Zaradi očitnih nesporazumov se je v določenih medijih ustvaril vtis, da Spletno oko pri obravnavi prijavljenih vsebin neposredno sodeluje z družbenimi omrežji. Občasno se zato uporabniki interneta obračajo na nas, da bi jim pomagali reševati težave z izbrisanimi objavami in profili, zlasti na Facebooku. Ob tem je treba nedvoumno pojasniti, da prijavna točka Spletno oko nima nobenih pristojnosti za brisanje vsebin, ki jih objavljajo uporabniki, niti za blokiranje ali začasno onemogočanje uporabniških profilov.

 

 2. Kdo odstranjuje objave in blokira uporabnike? Na kakšni podlagi?

Odstranitev lahko izvede zgolj upravitelj spletnega mesta, torej družbeno omrežje, na podlagi lastnih pravil oziroma standardov (npr. FB standardi  skupnosti). Podobno velja za forume (npr. Slotech) in novičarske portale, tako zasebne (npr. Finance) kot javne (npr. RTV Slovenija).

Moderiranje je opredeljeno s poslanstvom oziroma s poslovnim modelom in interesom družbenega medija, založnika oziroma lastnika. Sovražni komentarji sicer po eni strani odvračajo udeležence, ki si želijo konstruktivne razprave, krnijo ugled (družbenega) medija in pomenijo potencialno nevarnost za pravne postopke, po drugi strani pa pretirano omejevanje lahko zavira odprtost razprav. Iskanje ravnotežja je avtonomna odločitev uredništva in predvsem poslovna odločitev lastnikov, seveda v okviru zakonodajnih meja.

Ker gre za občutljivo tematiko, jo večja družbena omrežja v zadnjem času obravnavajo vse bolj skrbno. Zahtevnejše odločitve pri Facebooku npr. sprejema nadzorni svet, več o njem na tej povezavi

 

3. Kakšno vlogo ima Spletno oko na družbenih omrežjih?

Prijavna točka Spletno oko na družbena omrežja odda prijavo za odstranitev določene vsebine v skladu s svojim poslanstvom, torej zgolj v primeru, ko od uporabnikov spleta prejme prijavo, za katero oceni, da je nezakonita. Osnovna aktivnost Spletnega očesa je namreč prejemanje prijav s strani uporabnikov interneta in (v primeru domnevne nezakonitosti) posredovanje teh prijav Policiji ter ponudnikom internetnih storitev.

Če se domnevno nezakonita vsebina nahaja na družbenem omrežju, prijavo načeloma (po predhodni pridobitvi mnenja Policije zaradi zaščite dokazov v interesu preiskave) pošljemo tudi temu družbenemu omrežju, in sicer na enak način in na istem formularju kot jo lahko odda prav vsak od milijonov uporabnikov (npr. Facebooka). Spletno oko samoiniciativno ne išče nezakonitih vsebin.

Če se družbeno omrežje na tako prijavo ne odzove, Spletno oko prijavo pošlje ponovno, tokrat z uporabo statusa verodostojnega prijavitelja (več v točki 10).

 

4. Kdo lahko družbenemu omrežju prijavi, da je določena vsebina domnevno protizakonita? 

Prijavo lahko sproži vsakdo, merila za obravnavo prijave pa so med spletnimi mesti lahko zelo različna. Vsako spletno mesto, ki omogoča uporabnikom javne objave, namreč v povezavi s tem postavlja lastna pravila. Spletna mesta večjih upravljalcev, kakršen je Facebook, imajo v ta namen pripravljene posebne obrazce. Po tej poti samo Facebook prejme več milijonov prijav na mesečni ravni.

Prijave uporabnikov pa niso edini način, na katerega družbena omrežja identificirajo domnevno protizakonite in tudi ostale (iz vidika določenega družbenega omrežja) sporne vsebine. Facebook denimo prek prijav prepozna zgolj dobrih 10% primerov sovražnega govora, proti katerim ukrepa, skoraj 90% pa jih prepozna samodejno, z uporabo umetne inteligence.

 

5. Kaj, če so družbena omrežja odstranila vsebino, ki ni bila sporna?

Pri tolikšnem obsegu obravnav se lahko zgodi, da družbena omrežja napravijo napako in odstranijo vsebino, čeprav ni v neskladju z zakonodajo niti s pravili oziroma standardi skupnosti konkretnega omrežja. Če menite, da določena vsebina oziroma uporabniški profil ne bi smela biti odstranjena, lahko pri družbenem omrežju, ki ju je onemogočilo, zahtevate povrnitev profila ali izbrisane objave. Facebook poroča, da je na podlagi pritožb v letu 2019 povrnil skoraj 500.000 primerov vsebin (vir), pri tem so ugodili desetini od skupno okoli pet milijonov zahtevkov za povrnitev.

V primeru, ko se družbeno omrežje z vašo zahtevo po povrnitvi ne strinja, so možnosti za nadaljnje pritožbe skromne; omejene so kvečjemu na malo verjeten primer, da bi bila njihova pravila protizakonita.

 

6. Kako Spletno oko ugotavlja nezakonitost vsebin?

Spletno oko ugotavlja znake nezakonitosti v zvezi s posnetki spolnih zlorab otrok in v zvezi s sovražnim govorom. V zvezi s spolnim izkoriščanjem otrok na internetu je pravna podlaga za ugotavljanje nezakonitosti 176. oziroma 173.a člen KZ-1 (več: pravna podlaga). Glede sovražnega govora pa je osnova 297. Člena KZ-1. Več informacij o tem lahko najdete na podstrani pravna podlaga. Spletno oko pri presoji domnevne nezakonitosti svoje kriterije usklajuje s Policijo.

 

7.    Kaj je Kodeks ravnanja EU za zoperstavljanje nezakonitemu sovražnemu govoru na internetu?

Na podlagi vse širše pojavnosti sovražnega govora na spletu so maja 2016 Evropska komisija in podjetja Facebook, Twitter, Youtube in Microsoft podpisali Kodeks ravnanja EU za zoperstavljanje nezakonitemu sovražnemu govoru na internetu (naknadno so pristopili še Instagram, Google+, Dailymotion, Snapchat in Webedia). Z njim so se IT podjetja prostovoljno zavezala k odstranjevanju sovražnega govora s svojih strežnikov.

Vlada Republike Slovenije je v poročilu Svetu Evrope izrazila močno podporo dogovoru in poudarila, da verjame, da gre za ustrezen pristop k naslavljanju problematike sovražnega govora ob hkratni zadostni zaščiti pravice do svobode govora.

 

8.    Kaj so monitoringi družbenih omrežij in zakaj se izvajajo?

Evropska komisija kot naročnik z občasnimi mehanizmi nadzora redno spremlja, kako IT podjetja izpolnjujejo zahteve, navedene v zgoraj omenjenem kodeksu. Monitoringi so način preverjanja izvajanja prostovoljnih zavez IT podjetij. V okviru monitoringa izvajalci identificirajo objave oziroma vsebine, ki jih ocenjujejo za nezakonite, in jih posredujejo družbenim omrežjem, da preverijo, ali ta ustrezno reagirajo in jih odstranijo. Več o kodeksu in monitoringih lahko preberete v pojasnilih Evropske komisije. Na voljo so poročila o prvemdrugem, tretjem in četrtem monitoringu. Iz navedenih poročil je razvidno, da gre za občasna kratka obdobja in za zelo omejeno število domnevno nezakonitih objav, zato tovrstne prijave predstavljajo zanemarljiv delež v celotnem obsegu prijav, ki jih prejemajo družbena omrežja.

Pri monitoringih je v preteklih letih občasno sodelovalo tudi Spletno oko. Pri tem je šlo za izvajanje ad-hoc specifičnega raziskovalnega projekta znotraj Centra za družboslovno informatiko (CDI, www.cdi.si), ki je potekal po metodologiji, ki jo je predpisala Evropska komisija. Monitoringi sicer niso del osnovnih aktivnosti Spletnega očesa, pač pa je to raziskava Evropske komisije, ki bi jo lahko po vnaprej določenem protokolu na enak način izvedla tudi katerakoli druga izbrana organizacija. Gre torej za občasno projektno aktivnost CDI, katere protokoli so povsem ločeni od siceršnjega delovanja in osnovne aktivnosti prijavne točke Spletno oko. Od konca leta 2019 Spletno oko tovrstnih monitoringov ni več izvajalo in sodelovanja trenutno ne načrtuje.

 

9.    Kaj pomeni status verodostojnega prijavitelja?

Da bi lažje sledila zavezam kodeksa, so IT podjetja organizacijam, ki so bile prepoznane kot kompetentne poznavalke področja nezakonitih vsebin na internetu, na osnovi preteklega dela in na podlagi mednarodnih sodelovanj, usposabljanj, konferenc in izobraževanj, podelila t.i. status verodostojnega prijavitelja. Nekaj mesecev po podpisu kodeksa so ta status podelila tudi projektu Spletno oko, ki se s problematiko nezakonitih vsebin na internetu – po oceni EC uspešno – ukvarja že od leta 2007.

Ta status pomeni dodatno možnost za prijavo spornih vsebin (sovražnega govora ali spolnega izkoriščanja otrok na internetu), s pojasnilom o kontekstu zapisanega, pri čemer se tovrstne prijave pregledajo prioritetno in pretehtajo s dodatno skrbnostjo. Ta status ne omogoča odstranjevanja objav, komentarjev ali blokiranja uporabniških profilov na družbenih omrežjih. Prav tako ta status ne pomeni, da Spletno oko aktivno pregleduje družbena omrežja. Ta status tudi ne omogoča kakršnegakoli drugega sodelovanja z družbenimi omrežji, na primer vpogleda v procese odstranjevanja vsebin. Gre zgolj za dodatno možnost prijave, ki jo družbena omrežja bolj pozorno pregledajo.

Več: Trusted Flagger Status (vir: Youtube)

 

10.    Na kakšen način Spletno oko uporablja status verodostojnega prijavitelja?

V primerih posnetkov spolne zlorab otrok na internetu Spletno oko ta status uporablja z namenom takojšnje zaščite otrok. V letu 2019 smo v ta namen status uporabili trikrat.

V primerih domnevno nezakonitega sovražnega govora je Spletno oko v letu 2019 v okviru osnovne aktivnosti prijavne točke – pri tem gre večinoma za ekstremne primere pozivanja k smrti – ta status uporabilo v šestih primerih konkretnih vsebin na družbenih omrežjih.

Od teh šestih so družbena omrežja tri primere zavrnila (oziroma se nanje niso odzvala), odstranjeni so bili torej trije od šestih prijavljenih primerov, od tega eden na omrežju Facebook. V vseh šestih primerih je šlo za poziv k umoru ali poboju.

Status verodostojnega prijavitelja je Spletno oko v preteklosti občasno uporabljalo v okviru monitoringov, predvsem v smislu preverjanja učinkovitosti družbenih omrežij (glej poročila o monitoringih v točki 8.).

V okviru osnovne aktivnosti torej  Spletno oko status verodostojnega prijavitelja uporablja izključno v primeru vsebin z elementi nezakonitosti, kadar s strani upravitelja družabnega omrežja ni odziva na običajno prijavo prek standardnega obrazca.

V letu 2020 (do konca septembra 2020) tega statusa še nismo uporabili.

Sledi nam na Twitterju


Kontakt

O nas

Za medije


Fakulteta za družbene vede

Center za družboslovno informatiko CDI

Sofinancerja

Logotip MJU

Logotip URSIV


 

Za vsebine spletne strani odgovarjajo izključno avtorji (izvajalci projekta Center za varnejši internet). Evropska unija ne odgovarja za kakršnokoli morebitno uporabo na njej navedenih informacij.

Uporaba piškotkov | Izjava o uporabi osebnih podatkov