Izziv: digitalno ocenjevanje starosti uporabnikov družbenih omrežij

03.01.2023
Ali je tehnologija ocenjevanja starosti prihodnost digitalne varnosti? Kako bo ta tehnologija vplivala na prihodnost naše digitalne pokrajine?

Po vzoru britanskega kodeksa o digitalnih storitvah za otroke, ki določa pravne smernice, ki jih morajo spletne platforme upoštevati za zagotavljanje varne izkušnje mladih uporabnikov, je ameriška zvezna država Kalifornija sprejela zakon za zaščito otrok na spletu. Dokument, ki je v veljavi na zahodni obali Združenih držav (kjer je registrirana večina velikih tehnoloških podjetij), pomeni pomemben premik v digitalni varnostni krajini. Svetovni oblikovalci politik vse bolj priznavajo pomen omogočanja varnejših digitalnih izkušenj za mlade uporabnike z zakonodajnimi ukrepi. Pred tem je morala večina spletnih platform v svojih splošnih pogojih navesti le najnižjo starost uporabnikov, ki pa so jo otroci z navajanjem napačnih podatkov zlahka zaobšli.

Kako lahko podjetja zanesljivo preverijo starost uporabnikov, ne da bi zbirala njihove podatke in posegala v njihovo zasebnost? Ena od možnih rešitev je uporaba tehnologije za ocenjevanje starosti.

Kako deluje?

INHOPE se je o njihovi tehnologiji pogovarjal z Julie Dawson, vodjo za politiko in regulacijo pri podjetju Yoti.

Tehnologija podjetja Yoti z analizo slike uporabnika oceni njegovo verjetno starost. V nasprotju s tehnologijo prepoznavanja obrazov ta sistem ni usposobljen za prepoznavanje osebe, temveč zgolj za izračun verjetnega ujemanja med starostjo osebe na sliki in vzorci, pridobljenimi iz podatkov strojnega učenja. Po opravljeni oceni starosti se zajeta podoba obraza iz strežnikov izbriše, zatrjuje proizvajalec, ocenjena starost pa se posreduje organizaciji. Nobena slika se ne shrani, deli ali uporablja za kakršen koli drug namen, razen za ocenjevanje starosti, zagotavljajo. 

Uporabniku se za uporabo tehnologije ni treba registrirati ali posredovati osebnih podatkov, temveč mora pred kamero zgolj pokazati svoj obraz. Postopek temelji na umetni inteligenci, ki je bila predhodno usposobljena na velikem številu obraznih posnetkov. Pri osebah, starih od 13 do 19 let, je natančna do 1,52 leta, pri osebah, starih od 6 do 12 let, pa do 1,56 leta.

Zakaj potrebujemo oceno starosti?

Trenutno vse spletne platforme nimajo zanesljive metode za potrditev starosti svojih uporabnikov. Nekatere v ta namen zahtevajo fizične identifikacijske dokumente, kot sta osebna izkaznica ali vozniško dovoljenje. "Več kot milijarda ljudi na svetu nima uradnega rojstnega lista, potnega lista ali vozniškega dovoljenja," poudarja Julie Dawson, "kakšni so torej načini, da lahko ljudje, ki nimajo svojih dokumentov ali nimajo dostopa do njih, uporabljajo te digitalne platforme?" Tehnologija ocenjevanja starosti omogoča tehnološkim podjetjem, da ustvarijo starosti primerno digitalno izkušnjo za vse, ki so stari od šest do sedemdeset let.

Tudi otroci v številnih državah nimajo možnosti pridobiti zakonite oblike osebnega dokumenta. V teh okoliščinah bi lahko ocenjevanje starosti platformam družbenih medijev in iger omogočilo, da relativno zanesljivo ocenijo starost svojih mladih uporabnikov in ustvarijo starosti primerne izkušnje za otroke, na primer:

  • izklopijo oglaševanje, ki ni primerno za posamezno starost;
  • zmanjšajo zbiranje podatkov na najmanjšo možno mero;
  • onemogočijo možnosti klepeta ali kamere;
  • omogočijo starosti primerno moderiranje vsebine;
  • onemogočijo geolociranje;
  • zagotovijo podporo in digitalne izobraževalne vire v otrokom prijaznem jeziku.

Kako zanesljiva je ta tehnologija?

Vsi si prizadevamo zagotoviti varno in starosti primerno izkušnjo za vse mlade uporabnike, pa vendar: kako zanesljiva je ocena starosti in ali obstajajo načini, s katerimi jo je mogoče manipulirati?

"Obstaja veliko različnih dejavnikov manipulacije, na primer mladi se lahko trudijo izgledati starejši, ali pa starejši poskušajo izgledati mlajši," je pojasnila Julie Dawson. Da bi se izognili tveganju, tehnologija Yoti uporablja tri- do petletno varovalko, kadar je zahteva po najnižji starosti zakonska obveznost, na primer pri nakupu alkohola ali obisku spletnih strani za odrasle.

V nekaterih primerih, na primer na večini platform družbenih medijev, pa minimalna starost ni zakonska zahteva. "Upoštevati moramo, kaj je sorazmerno," opozarja Dawsonova. Za spletna mesta, ki še nimajo zakonske obveznosti preverjanja starosti, je uvedba ocenjevanja starosti preprost, a velik korak k izboljšanju varnosti mladih uporabnikov.

Pomisleki glede obraznega prepoznavanja starosti

Natančnost tovrstnih tehnologij se sicer z razvojem povečuje, postopek pa je cenovno dostopen, zato je videti, da bi tovrstno ocenjevanje starosti lahko postalo ena bolj učinkovitih metod za izvajanje preverjanja starosti na spletnih družbenih platformah in s tem za razvijanje varnejšega digitalnega okolja.

Ostaja pa vprašanje, v kolikšni meri tovrstna tehnologija odgovarja na pomisleke, ki se porajajo v zvezi z njenim razvojem. Eden ključnih pomislekov je povezan z varovanjem zasebnosti, obstajajo pa še drugi.

Obvezno preverjanje starosti denimo lahko ustvari lažen občutek varnosti tako pri starših kot tudi pri otrocih, uporabnikih družbenih omrežij. Tako lahko uporabniki verjamejo, da vstopajo v “varne prostore”, zgolj zato, ker so uporabniki “preverjeni”.

Preverjanje starosti uporabnika tudi ni sinonim za popolno preverjanje preteklosti o uporabniku. Tudi, če postopek preverjanja pravilno (ali dovolj pravilno) določi starost, o uporabniku ne pove ničesar drugega, denimo, ali je bil pred tem že kdaj prepoznan kot starejša oseba.

Prihodnost tehnologije za ocenjevanje starosti

Ne glede na to, katero tehnologijo bomo uporabljali v prihodnosti, se moramo zavedati pomena zagotavljanja starosti primernih izkušenj. Da bi zagotovili varnost otrok v resničnem življenju, imamo na voljo zaščito in pravne zahteve glede starosti, ki sicer niso brezhibne, vendar jih je bolj ali manj enostavno izvajati. Izvajanje teh zahtev na spletu je večji izziv, ki ga družba še ni uspela primerno nasloviti.

Povzeto po: “How Yoti is changing the Digital Safety Landscape”

Vir: INHOPE