/Algortimebillede.jpg)
På K-NEWS har vi flere gange skrevet om algoritmisk bias. Blandt andet tilbage i februar, hvor vi på baggrund af en undersøgelse fra Massachusetts Institue of Technology (MIT) belyste de konsekvenser, det kan have for borgernes basale menneskerettigheder, når der er bias i algoritmer.
Ifølge de to forskere fra MIT, som lavede undersøgelsen, er resultaterne bekymrende, fordi de viser, at der i de automatiserede mærkninger af indhold sniger sig bias ind i maskinernes forståelser af datasættene. Det kan resultere i diskrimination blandt andet på baggrund af etnicitet eller køn, f.eks. når virksomheder skal ansætte nye medarbejdere.
Ifølge forskerne er det derfor nødvendigt med mere transparens fra de virksomheder, der udvikler algoritmerne.
Indirekte diskriminering
Det er naturligvis ulovligt at diskriminere på baggrund af etnicitet, køn, alder, religion eller seksuel orientering, men som de to advokater på Rett24 skriver, så bruger mange virksomheder algoritmer, der resulterer i en slags indirekte diskriminering blandt andet i forbindelse med ansættelse.
Det kan eksempelvis ske ved, at algoritmerne tager faktorer som postnummer med i screeningsprocessen, hvor mennesker med en bestemt etnisk baggrund eller en bestemt alder er overrepræsenterede.
Denne form for indirekte diskriminering kan være meget svær at få øje på, fordi folk ofte ikke er opmærksomme på, at de bliver udsat for forskelsbehandling eller diskriminering. Det skyldes blandt andet den manglende gennemsigtighed i screeningsproceduren.
Algoritmisk diskriminering kan nå bredt, fordi algoritmer kan håndtere langt flere processer og afgørelser, end mennesker kan. Dette kombineret med manglende transparens medfører altså, at diskrimination kan foregå i stor skala uden, at det bliver opdaget. Derfor er det heller ikke så ligetil at løse problemet, skriver de to advokater.
Bedre lovgivning
På Rett24 kan man læse, at det er nødvendigt at tilpasse lovgivningen om algoritmer, inden teknologien løber fra os. For med det rigtige regelværk kan man udnytte de muligheder, der er ved at anvende kunstig intelligens, samtidig med, at man kan minimere risikoen for diskrimination. Den gældende lovgivning på området spiller en vigtig rolle i kampen mod algoritmisk diskrimination, men den løser ikke alle udfordringerne.
I EU arbejder man lige nu på at regulere kunstig intelligens, og man har især fokus på at skabe mere gennemsigtighed og dokumentation. Men hvis man skal sikre dette, så kræver det, at der bliver ført tilstrækkelig kontrol med, at reglerne omkring diskrimination bliver overholdt.
Det kan f.eks. ske ved, at lovgivningen på området suppleres med brancheaftaler eller ved at indføre særlige tilsynsordninger eller tilsynsmyndigheder, skriver Rett24.