/Ansigtsgenkendelse.jpg)
Det hører sjældenhederne til, at verdens største techfirmaer erkender begrænsninger i egen software. Men det er ikke desto mindre, hvad først IBM, siden Amazon og nu også Microsoft gør. Alle stopper de deres salg af ansigtsgenkendelsesteknologi til politiet, da teknologien medfører for mange fejl i selve genkendelsen af ansigter.
Den bratte opbremsning kommer i kølvandet på mordet i USA på George Floyd, hvor bl.a. politiets brug af ansigtsgenkendelse er kommet i fokus. Teknologien og algoritmen bag er nemlig behæftet med så mange fejl, at den i flere tilfælde profilerer de forkerte.
Ifølge DR's techkorrespondent Henrik Moltke skal årsagen findes i det datasæt, som teknologien er bundet op på. Datasættet er nemlig typisk bundet op på en overrepræsentation af hvide mænd, og det betyder, at der er en naturlig høj fejlprocent behæftet på sorte.
"Det er et problem, man har været opmærksom på i nogle år og prøvet at rette op på, men det er jo et problem, hvis politiet i en tilspidset situation kommer til at fejlidentificere en person i marken og tror, at en uskyldig er en forbryder," siger Henrik Moltke til dr.dk.
Det er et særsyn, at techgiganterne melder så markant ud, da det kan svække deres markedsværdi.
"Store techfirmaer gør sjældent noget, som kan begrænse deres markedsværdi for at vinde PR, simpelthen fordi det på markedet vil blive tolket som svaghed. Derfor ser vi ikke så tit, at så store firmaer agerer sådan her, og derfor er det ret interessant, at vi på få dage ser meget store spillere på markedet for kunstig intelligens og cloud-tjeneste pludselig gøre noget, som var ret utænkeligt for få uger siden", siger Henrik Moltke til DR.
Hos Microsoft kræver man nu national lovgivning på området, før man overvejer at åbne salgskanalerne igen.
"Før der foreligger en stærk, national lov, der bygger på menneskerettigheder, vil vi ikke sælge denne teknologi til politiet," siger Microsoft i en udtalelse.