Algoritmer bliver tit beskyldt for at være en direkte trussel i automatiseringen og digitaliseringen af vores samfund, ofte med henvisning til risikoen for bias og opløsning af retssikkerhedsmæssige mekanismer.
Men i en artikel fra Harvard Business Review argumenteres der for, at vi i stedet for at frygte algoritmerne som værende fulde af bias, faktisk bør benytte dem i langt højere grad for at undgå selvsamme bias. Udgangspunktet for diskussionen om algoritmer er ifølge indlægget med det forkerte fortegn.
Skal vi så blot omfavne algoritmernes muligheder? Ifølge senioradvokat Peter Lind Nielsen fra Bech-Bruun er det godt, at vi har en sund skepsis i forhold til algoritmerne. For vi skal ikke blindt stole på, at måden hvorpå den data som algoritmerne indsamler og benytter er troværdig.
Er algoritmen matematisk, er der ofte større tiltro til den, fordi den jo ikke lader sig påvirke af, at det er sent fredag eftermiddag og at beslutningstageren har en ventende konflikt med konen derhjemme
"Vi skal kunne stille spørgsmål til disse algoritmer, for det er nemmere at undersøge, hvordan algoritmen har truffet sine beslutninger, end hvordan et menneske har. Vi kan jo ikke gå ind i hovedet på folk, og det er jo navnlig relevant, når vi taler om skønsbetingede beslutninger, for hvad har vi puttet ind i det skøn? Er algoritmen matematisk, er der ofte større tiltro til den, fordi den jo ikke lader sig påvirke af, at det er sent fredag eftermiddag og at beslutningstageren har en ventende konflikt med konen derhjemme," siger Peter Lind Nielsen.
Skepsissen mod algoritmerne handler også om frygten for forandring. Det siger Simon Eklund, som er medstifter af legaltech-firmaet Legal Desk, der lever af at tilbyde digitale skabeloner og sagsbehandling til klienter.
"Rent psykologisk har vi jo en skepsis mod forandring og status quo er jo altid dejlig trygt. Der er mange forskellige facetter i det her, både den sådan diffuse psykologiske, nemlig at maskinerne tager over, men der er også den samfundsøkonomiske, som handler om arbejdsmarkedet og et muligt tab af arbejdspladser og sikring af retssikkerheden," siger Simon Eklund.
"Det rører ved noget i os mennesker"
Algoritmernes indtog har f.eks. gjort det muligt for virksomheder og offentlige myndigheder at behandle enorme datamængder på meget kort tid. Og det er da også her, at potentialet inden for algoritmerne for alvor kommer til sin ret, mener Peter Lind Nielsen. Udfordringen ligger i forholdet mellem digitale systemer og skøn.
Det rører jo ved noget i selve den menneskelige natur, for vi mennesker har det bedst med bevidstheden om, at vi er de bedste til at lave disse skøn, fordi vi er mennesker. Det rører ved noget eksistentielt i os, og vi er nødt til at acceptere, at mange beslutninger tages ud fra algoritmer
"Det rører jo ved noget i selve den menneskelige natur, for vi mennesker har det bedst med bevidstheden om, at vi er de bedste til at lave disse skøn, fordi vi er mennesker. Det rører ved noget eksistentielt i os, og vi er nødt til at acceptere, at mange beslutninger tages ud fra algoritmer. Vi får nogle støtteværktøjer, som kan hjælpe os, så vi som almindelige mennesker kan fokusere på skøn og vurderinger. For når det er store datamængder, er det altafgørende, at vi har de her systemer. Algoritmer kan du jo rette, hvis den fejler," siger han, og fremhæver et eksempel med en test af en selvkørende Tesla.
"Under en testkørsel i USA kørte en Tesla frontalt ind i en rød brandbil, som holdt på tværs på vejen, for algoritmen havde ikke lært, hvad den skulle gøre, hvis der pludselig var en forhindring. Her kan man jo nemt justere i algoritmen, og dermed undgå lignende fejl."
Simon Eklund mener, at debatten om algoritmer alt for ofte handler om enten for eller imod. Ifølge ham bør man i stedet fokusere på, hvordan man reelt kan anvende teknologien her og nu.
"Debatten bliver meget alt eller intet. Vi skulle måske i stedet se på, om vi kunne bruge algoritmerne til visse opgaver f.eks. at klæde dommerne ordentligt på. Det er jo heller ikke fordi vi har taget bogholderen ud i forhold til bogføring, men vi har digitaliseret og effektiviseret selve processen."
Bias er også menneskelig
Er bias forbeholdt algoritmerne, eller findes der også bias i den menneskelige behandling af sager og afgørelser? Ifølge Peter Lind Nielsen giver algoritmerne i hvert fald mulighed for at fjerne diverse hensyn og udefrakommende omstændigheder, som kan påvirke beslutningerne.
"For nogle år tilbage lavede man en undersøgelse i det amerikanske retssystem med en statistik over prøveløsladelser, hvor man undersøgte, hvornår på dagen, at sagerne blev behandlet – hvis det var tæt på frokost eller sidst på dagen, så var man mindre tilbøjelig til at vinde sin sag. Og der kan man sige, at disse forhold er taget ud, hvis man bruger algoritmer, for hvis vi gør denne algoritme blind for disse påvirkninger, så kan den jo sikre en mere ensartet sagsbehandling," siger han.
Simon Eklund påpeger dog, at der særligt inden for f.eks. strafferet vil være store udfordringer forbundet med brug af algoritmer til sagsafklaring. Han henviser til, at data og historik ikke altid er nok til at træffe de rigtige beslutninger.
Hvis valget står mellem at slå to voksne eller et barn ihjel, så skal der jo skrives en beslutning ind i maskinen, og hvem tager så den beslutning - virksomheden, lovgiver eller nogle helt tredje?
"Rent retssikkerhedsmæssigt er der jo nogle bekymringer, som er meget forståelige og meget relevante. Når man begynder at bruge algoritmer, så er der jo udfordringen ved bias i disse når maskinen f.eks. tager dig ud på baggrund af navn og bopæl, fordi det eksempelvis er mere statistisk sandsynligt, at du er skyldig, hvis du hedder det ene frem for det andet. Det ville vi jo aldrig tillade, hvis det var et menneske. Derudover er der bekymringer, når vi taler om f.eks. selvkørende biler, for så handler det også om etik og moral. Hvis valget står mellem at slå to voksne eller et barn ihjel, så skal der jo skrives en beslutning ind i maskinen, og hvem tager så den beslutning - virksomheden, lovgiver eller nogle helt tredje?"