Sag om fordeling af skolebørn udstiller domstolenes manglende teknologiforståelse

Foto: Shutterstock merge

I et skoledistrikt i den svenske storby Gøteborg skulle 1400 børn starte i skole 2020. Der var bare et problem - en stor del af eleverne skulle krydse en Sveriges største floder Göta med timelang pendling til følge. 

Placeringen af de mange elever var sket automatisk hos de lokale myndigheder gennem et algoritmebaseret system. Men algoritmerne havde angiveligt ikke taget højde for floden, hvorfor der hurtig blev rejst mistanke om, at dataen bag algoritmerne var fejlagtig.

Omstændighederne omkring de mange skoleelever, der pludselig skulle bevæge sig uden om floden eller lære at svømme elitesvømning fik daværende advokat Charlotta Kronblad til at gå ind i sagen og føre sag mod de lokale myndigheder i Gøteborg. Her fik hun at vide, at alle, der var utilfredse med tildeling af skoledistrikt kunne klage individuelt. Men Charlotta Kronblad valgte i stedet at stævne myndighederne for at slå fast, hvorvidt den anvendte kode bag systemet var lovlig. 

Tabte sagen til manglende forståelse

Ifølge Charlotta Kronblad forstod domstolene ikke problematikken. De afviste sagen med henvisning til, at Charlotta Kronblad selv måtte bevise, at systemet var automatiseret. 

Ifølge Kronblad var det dog oplagt, at der var tale om en automatiseret fordeling af eleverne. For ingen mennesker med kendskab til området og den velkendte flod, som skærer gennem landskabet og byen, ville have lavet en så uhensigtsmæssig fordeling af eleverne. Men det argument var ikke nok hos domstolen.

"Domstolen kjøpte ikke det selv om jeg gjorde det klart at jeg ikke fikk tilgang til algoritmene og selve koden", udtalte hun på konferencen Nordic Legal Tech Day i Oslo ifølge Advokatbladet.no.

Sagen åbner ifølge Charlotta Kronblad for et grundlæggende kompetencespørgsmål hos domstolene - hvordan skal fejlagtige og måske endda ulovlige algoritmebaserede beslutninger påklages og anfægtes ved domstolene, hvis domstolene ingen forståelse har for teknologien bag og i dette tilfælde helt afviser sagen.

Dansk ekspert: Advokatens rolle er afgørende i domstolenes afgørelser

Spørgsmålet fra den svenske advokat er altså, hvorvidt domstolene reelt mangler teknologiforståelse for at kunne træffe den rette afgørelse. 

Ifølge nyudnævnt professor i digital forvaltning Hanne Marie Motzfeldt fra Det Juridiske Fakultet på KU, så udstiller sagen mange interessante aspekter. Hun hæfter sig bl.a. ved, at advokatens tilgang til en sag som denne er helt afgørende for, hvilket udfald man ender med i retten.

"I Jens Peter Christensens nyeste bog refererer han til et russisk ordsprog, der lyder: 'alt nyt er noget gammelt, som bliver nyopfundet'. Det dækker meget godt det her - her er der truffet en forvaltningsafgørelse, hvor der indlysende er oplysninger som er relevante for den automatiserede fordeling af elever, og de er ikke blevet inddraget. Det er en problematik, som vi kender i den gode gamle forvaltningsret, hvor man skal efterleve officialprincippet - altså at man skal have de oplysninger ind, som er relevante for at træffe den korrekte afgørelse. Og nogen ville måske også betegne dette som en skøn eller regel problematik - altså at man opstiller en intern regel, som resulterer i at man ikke får de relevante oplysninger med. I dette tilfælde altså algoritmen", siger hun.

Hun understreger, at det her altså ikke er et odiøst problem - det handler i bund og grund om almindelig forvaltningsretlig sund fornuft.

"Man skal altså ikke opfinde den dybe tallerken her. Havde man gået efter den gode gamle forvaltningsret, så havde man nok truffet den rette afgørelse."

På spørgsmål om, hvorvidt problematikken om manglende teknologiforståelse ligeledes er et dansk problem svarer hun:

"Jeg vil sige både og - hvis de advokater, der fører sagerne formår at sætte det ind i de rette rammer, og det er jo dem der fører sagen frem, så tror jeg ikke, at domstolene havde håndteret det sådan her. Den svenske domstol håndterer sagen, fordi advokaten fremlægger i relation til GDPR. Jeg tror godt en dansk dommer ville kunne se, at myndigheden har opstillet en intern regel, som man ikke vil forklare hvad går ud på og som man ikke vil fravige, og som åbenlyst ikke har inddraget relevant fakta, nemlig floden og transporttiden. Havde man gået forvaltningsvejen ind, så tror jeg også dommerne havde håndteret sagen anderledes", siger hun, og påpeger, at der ikke er de store forskelle på dansk og svensk forvaltningsret i denne henseende. 

De automatiserede afgørelser

I Danmark har Datatilsynet udarbejdet en såkaldt vejledning om registreredes rettigheder. 

Her slår Datatilsynet fast, at danske borgere har ret til, "at afgørelser, der har betydelig påvirkning på dig (f.eks. retsvirkning), ikke kun er baseret på automatisk behandling.

Men der er et vigtigt forbehold her, påpeger Hanne Marie Motzfeldt. Og det drejer sig om det offentliges lovhjemmel

"I artikel 22 stk 2 i GDPR står der, at såfremt det er lovhjemlet, så gælder stk 1 ikke. Det betyder, at der ikke er noget forbud mod automatiserede afgørelser i det offentlige. Den offentlige forvaltning er den udøvende magt, og den må kun udøve de opgaver, som den er blevet pålagt ved lov af staten. Derfor skal der altid være en lovhjemmel, som pålægger dem den her opgave. Altså så må det offentlige gerne bruge de her automatiserede afgørelser. Der står f.eks. ikke noget sted, at SKAT og SU-styrelsen må bruge automatiserede afgørelser, men de gør det jo tusindvis af gange om året," siger hun og tilføjer: 

"Men så er der selvfølgelig også stk. 3 - altså retten til at klage, hvor man skal have et menneske ind over. Altså den individuelle påklageret, som myndighederne i Gøteborg også påpeger." 

Hanne Marie Motzfeldt vurderer, at der i fremtiden vil være behov for nogle andre dokumentationskrav fra det offentliges side, når mængden af sager om automatiserede afgørelser stiger.

"Jeg tror, at i takt med, at de her automatiserede afgørelser bliver mere udbredte, så kunne jeg godt forestille mig, at man kunne få et behov for, at offentlige myndigheder får nogle dokumentationskrav i forhold til algoritmerne eller også, at vi får nogle mere it-kyndige domstole. "