Teknologien er opptil 20 % bedre for lyshudede menn:- Det kan gå veldig galt

Tenk at du går på gata og en som går ved siden av deg blir arrestert av politiet, tilsynelatende uten grunn. Du går inn i en butikk, plutselig blir alle skjermene i butikken fylt opp av reklame som passer din alder og ditt kjønn.

Eller du har vært på butikken, går inn på jobben eller skolen, og lederne vet at du er til stede fra første sekund, og plutselig kommer det en psykolog bort til deg og spør om hvor lenge du har vært deprimert.

Dette kan være framtiden i Norge, satt på spissen, om vi implementerer fullskala ansiktgjenkjenningsteknologi i landet. Teknologien har gjort store framskritt de siste årene. Mennesker klarer å kjenne igjen mennesker med omtrent 5 prosent feilmargin, mens maskiner under gode forhold har en feilmargin på 0,2 prosent.

Det er i midlertidig noen utfordringer knyttet til dette, og hovedkritikken går på personvern. Skal det være lov å lagre informasjonen om deg? På hvilken måte kan man da bruke det? Dette snakket ekspertene om på Teknas nettseminar om ansiktgjenkjenning.

– Store variasjoner

Et annet problem er å sørge for teknologien fungerer som den skal. Feilmarginen kan variere ut fra avstand, omgivelse, belysning og vinkel blant annet. Det er dermed en risiko for forskjellsbehandling.

Hvor stor- og hvor representativ datamengde man har matet teknologien med er det også knyttet utfordringer til. Siden man foreløpig har testet mest på lyshudede menn, er feilmarginen her på 0,1 prosent, mens den for eksempel på mørkhudede kvinner kan være opp mot 20 prosent, forteller Tore Tennøe fra Teknologirådet.

– Det er en stor forskjell, og hvis man kun baserer seg på dette i for eksempel kriminaletterforskning, kan det gå veldig galt.

Carima Tirillsdottir Heinesen, som er kommunikasjonsansvarlig i Antirasistisk Senter, mener alle mennesker må kunne kjenne seg trygge på at teknologien som benyttes gir presise svar, særlig dersom det er teknologi som skal tas i bruk av myndighetene.

– Dette kan by på problemer fordi sjansen da vil bli større for at teknologien ikke i tilstrekkelig grad klarer å skille kvinner med mørk hud fra hverandre. Man kan jo tenke seg et scenario der politiet tar ansiktsgjenkjenning i bruk for å finne noen som er etterlyst. Med en feilmargin på 10-20 prosent på mørkhudede kvinner vil dette innebære en større sjanse for at kvinner med mørk hud blir feilaktig pågrepet og i verste fall dømt, enn andre. 

– For at dette skal være et system som ivaretar rettsikkerheten til hele samfunnet, er det selvsagt viktig at dette forbedres drastisk før systemer som dette kan implementeres i Norge, sier hun.

Hvordan kan dette brukes i dag?

Lee Bygrave, som jobber i det juridiske fakultet på UIO, forteller at det finnes ingen rettsregler som direkte regulerer bruk av automatisert ansiktgjenkjenning i Norge.

– Men teknologien inneholder bruk av biometriske opplysninger. Disse er en type opplysninger som faller under regelverket om personopplysningsvern. Det kan kun brukes til bestemte legitime forhold. Det må sikres mot uautorisert bruk og blant annet gis rett til en menneskelig etterkontrollering av systemet, blant annet.

– Ansiktgjenkjenning med identifikasjonsformål er ikke lov, med to unntak, eksplisitt samtykke eller nødvendige hensyn til allmenne interesser. Identifisering trenger ikke bety at man finner adresse og opplysninger om personen, det kan også være at en person blir skilt ut av en folkemengde, og blir nektet tilgang på et fotballstadion for eksempel, sier Bygrave.

Han legger til at det er lov å kategorisere personer, man kan for eksempel gi personalisert reklame til deg i butikker basert på ditt kjønn og alder.

Så hva er veien videre, vil vi få slike kameraer i det offentlige rom i Norge?

Tore Tennøe forteller at det er et godt stykke til vi eventuelt får teknologien i stor skala i landet.

– Utfordringen er at identifisering potensielt kan skje på avstand, uten at vi legger merke til det og uten samtykke. Ansiktet vårt er permanent og det kan ikke legges igjen hjemme eller slås av. Hvis jeg går rundt i byen og er usikker på om det er overvåkning med identifisering, så vil det umiddelbart gjøre noe med min atferd. 

–Det er svært få vanlige overvåkningskameraer i det offentlige rom, sist gang jeg sjekket var det 12 stykker, sier han.