Ousmane Bah har sagsøgt Apple for 1 mia. dollars i svig og tort efter virksomheden, ifølge ham selv, uretmæssigt har anklaget ham for at begået et tyveri i en Apple-butik. Ifølge Bah og hans forsvarer har Apple benyttet sig af automatiseret ansigtsgenkendelse, og på den måde matchet Bahs ansigt med overvågningsbilleder fra tyveriet.
Det skriver legaltechnews.com.
Ifølge onlinemediet fik man under retssagen en politibetjent til at gennemse overvågningsmaterialet, og her stod det klart, at Bah og gerningsmanden slet ikke lignede hinanden.
Sagen er interessant, fordi den bringer en ny spiller på banen i forhold til både databeskyttelse og menneskerettigheder. Ansigtsgenkendelse er blevet endnu et eksempel på, hvordan teknologiens hastige udvikling udfordrer lovgivningen.
Microsoft vil have national regulering
Ansigtsgenkendelse er allerede et vilkår for mange brugere af diverse enheder i hele verden. Både Apple og Samsung giver med deres nyeste smartphone-modeller brugeren mulighed for at låse telefonerne op via ansigtsgenkendelse, og Uber bruger lignende teknologi til at bekræfte identiteten af brugerne bag deres app. Derudover arbejder man fra politiets side med forskellige former for ansigtsgenkendelse gennem det netop indkøbte Palantir-system. Brugsscenarier, der umiddelbart virker tilforladelige og bekvemme, men som også giver anledning til bekymring.
For at forstå udfordringerne ved virksomheders brug af ansigtsgenkendelse skal man blot et lille år tilbage i tiden. I en blog på Microsofts hjemmeside efterlyste firmaets præsident Brad Smith, at den amerikanske regering lavede bindende regulatoriske foranstaltninger, der lovmæssigt strakte sig ud over blot etiske retningslinjer. I indlægget anerkender Brad Smith tech-giganternes ansvar i forhold til de nye teknologisk muligheder, men han savner reel national lovgivning, der ifølge ham altid er fundamentet for effektiv regulering.
"Mens vi sætter pris på, at nogle mennesker i dag opfordrer til, at teknologivirksomheder træffer disse beslutninger - og vi erkender et klart behov for vores egen ansvarlighed (...) - mener vi, at dette er en utilstrækkelig erstatning for beslutningstagning fra offentligheden og dets repræsentanter i en demokratisk republik. Vi lever i et land af love, og regeringen skal spille en vigtig rolle i reguleringen af ansigtsgenkendelsesteknologi. Som et generelt princip forekommer det mere fornuftigt at bede en valgt regering om at regulere virksomheder end at bede de enkelte selskaber om at regulere en sådan regering", skriver Smith i blogindlægget.
Ifølge Preben Mejer, direktør for rådgivningsvirksomheden Radr, har ansigtsgenkendelse potentiale til at blive et 'skræmmende monster'. I en kommentar i Berlingske tilbage i oktober peger han på, at udfordringerne ved brugen af ansigtsgenkendelse kan nå 'Orwell'ske dimensioner. Preben Mejer fremhæver, at der med teknologien følger mange bekvemmeligheder for forbrugerne, der f.eks. kan få brygget sin favorit-kaffe automatisk, når man træder ind på yndlingscafeen, men at udfordringerne står i kø.
"Hvis du er lidt mindre heldig, og lever i lande, hvor menneskerettigheder ikke er noget, man tager så tungt, ser billedet anderledes ud. Kina er i gang med at udvikle et sammenhængende system, hvor landets 600 mio. overvågningskameraer bindes sammen med software. Ambitionen er at samtlige 1.3 mia. kinesere skal kunne genkendes på under tre sekunder", skriver Preben Mejer, og henviser til Kinas social credit-projekt, der i byen Rongcheng hierarkiserer borgerne ud fra et fastdefineret pointsystem, hvor det giver point at deltage i frivilligt arbejde og få gode karakterer, mens det trækker ned at gå over for rødt og ikke betale sine regninger til tiden. Borgere med mange point kan veksle dem til f.eks. VIP-behandling i lufthavne og bedre lægehjælp.
GDPR og menneskerettighederne beskytter os - eller gør de?
I Danmark er vi med i EU, og det betyder samtidig, at indsamling af data og hermed også indsamling af information gennem ansigtsgenkendelse er beskyttet af samtykkereglerne i GDPR. Men sagen fra USA om Apples påståede brug af ansigsgenkendelse i forbindelse med butikstyveri udstiller en af problematikkerne ved samspillet mellem teknologien og lovgivningen.
For mens databeskyttelseslovens §1 stk. 2. indikerer at den "gælder for al behandling af personoplysninger, der helt eller delvis foretages ved hjælp af automatisk databehandling", så melder gråzonerne sig i eksemplet med Apple. Et samtykke til brug og behandling af data kræver jo viden om, at denne data bliver indsamlet. Og her illustrerer eksemplet ovenfor, at der kan være flere situationer, hvor borgere f.eks. færdes i det offentlige eller i private rum, hvor data bliver indsamlet uden borgernes viden herom.
Her kunne man anføre, at private virksomheder, der via ansigtsgenkendelse indsamler data uden borgernes samtykke, kan risikere straf og bødeforlæg i relation til forordningens retningslinjer og praksis på området. Når ansigtsgenkendelse derimod bruges af offentlig myndighed eller når private virksomheder bruger indsamlet data i f.eks. retslige situationer som i eksemplet ovenfor, så er det, at gråzonerne udstilles. Kunne man f.eks. påpege, at Apples indsamling af data via ansigtsgenkendelse er i god tro og faktisk en hjælp til at sigte den rette kriminelle? Og hvad med de myndigheder, der via ansigtsgenkendelse arbejder med predictive policing med Palantir, der har til formål at undgå kriminalitet?
Sikkert er det dog, at ansigtsgenkendelse kan blive en udfordring i diskussionen om behandling af data, og på sigt måske også for vores opfattelse af samspillet mellem data og menneskerettigheder.