3 ting du bør vite om ansiktsgjenkjenningsteknologi

Photo by Brands&People on Unsplash

Jeg har lest boken «Facial recognition» av Mark Andrejevic og Neil Selwyn.

De er begge ansatt ved Monash Universitet i Australia, og de har begge jobbet med teknologi og samfunnsutvikling. Mark er ekspert i hvordan «data mining» og digital overvåkning påvirker samfunnet vårt, mens Neil har over 25 år med forskning på hvordan digitale læringsmidler har blitt integrert i skolen og hvordan det påvirker læring hos voksne.

Jeg kunne lite om ansiktsgjenkjenning før jeg leste denne boka. Men ansiktsgjenkjenning er høyst relevant for oss som driver med personvern. Når bildet ditt blir brukt til å identifisere deg ved hjelp av digitale verktøy, vil det f.eks. være en særlig kategori personopplysning som det stilles ekstra krav til for å kunne behandle.

I denne bloggposten forteller jeg deg 3 ting jeg sitter igjen med, og som jeg mener alle bør vite om ansiktsgjenkjenningsteknologi.

1 Teknologien kjenner ikke igjen ansiktet ditt, den bruker sannsynlighetsregning og statistikk

Det heter «ansiktsgjenkjenningsteknologi» og da skulle man tro at teknologien kjenner oss igjen. Men det gjør den ikke. Den regner ut hvor sannsynlig det er at bildet den tar av deg akkurat nå korresponderer med et allerede kjent bilde av deg som er knyttet til din identitet.

Og den sannsynligheten vil aldri kunne bli 100%. La meg sitere forfatterne:

«Any match generated by FRT is probablistic. Machines can neither recognize us or know us, they can simply generate a probability that a detected set of parameters align with a stored set, and this pobability can never reach 100% certainty.»

For meg avmystifiserte dette ansiktsgjenkjenningsteknologi. Jeg tror at mange av oss, kanskje særlig vi som ikke har teknisk bakgrunn, har en tendens til å tenke på teknologi vi ikke forstår som magi. Det gjør at vi kan bli litt for redde i møtet med ny teknologi. Så redde at vi ikke tør ha en mening, eller at vi tror at teknologien fungerer bedre enn det den faktisk gjør.  

2 Selv under optimale forhold, fungerer ikke teknologien sånn kjempebra

Det regnes som statistisk suksess når ansiktsgjenkjenningsteknologi når en 99% suksessrate. Og det kan den nå under optimale forhold som på en flyplass hvor belysningen er god, referansebildet ditt er standardisert gjennom passbildet og du som passasjer er samarbeidsvillig fordi du ønsker at teknologien skal fungere slik at du skal kunne komme deg dit du skal.

Men 99% suksessrate betyr at per 100 person vil teknologien ta feil en gang. Det høres ut som en suksess, men en av 100 blir fort et veldig stort tall når vi tenker på hvor mange mennesker som daglig bruker en flyplass.

3 Suksessraten blir betraktelig lavere hvis du ikke er hvit

Det er flere grunner til at ansiktsgjenkjenning fungerer best på hvite mennesker. Teknologien ble sin tid trent på bilder av hvite menn, og lenge før det, ble kamerateknologi først og fremst utviklet for å kunne avbildet hvite mennesker.

Boka beskriver faktisk at da kamerateknologi ble kommersielt tilgjengelig, var det først da produsenter av brune forbruksvarer (som sjokolade og møbler), klagde på dårlig synlighet på bilder, at kameraprodusenter tok tak i problemet.

Jepp, rasisme er virkelig folkens. Og det slutter aldri å overraske meg på hvilke måter valg som fortidsmennesker tok, fortsatt får konsekvenser for oss i dag. Det er noe vi bør ta med oss når vi nå tar en del valg om hvordan vi skal forholde oss til kunstig intelligens, men det er et annet nyhetsbrev!

For å komme tilbake til poenget her: det at ansiktsgjenkjenningsteknologi fungerer langt dårligere på deg som er melaninrik, betyr at byrden med å bevise at teknologien tar feil, vil uforholdsmessig falle på deg. Og det er ikke greit.

Hele poenget med personvernlovgivningen vår er nettopp å beskytte oss mot at personopplysningene våre brukes på en diskriminerende måte. Personvern er menneskerettigheter i praksis, og hvis teknologi slår uforholdsmessig negativt ut mot en gruppe mennesker, er det mildt sagt problematisk.