/EU%20parlamentet-1.jpg)
D. 21. april præsenterede EU-kommissionen et nyt udspil til en fælles europæisk regulering af kunstig intelligens. Lovforslaget bliver betegnet som et af de mest vidtgående internationale initiativer i forhold til at regulere og i nogle tilfælde helt ulovliggøre brugen af kunstig intelligens.
"Det er et meget vigtigt signal set i et global sammenhæng, at nogle dele af AI simpelthen ikke er lovligt at anvende i et samfund baseret på demokrati, retssikkerhed og fundamentale rettigheder", siger Daniel Leufer, der policy analyst ved den europæiske nonprofit-organisation Access Now til Wired.com.
Forslaget i sin nuværende form er da også gennemgribende.
F.eks. vil forslaget helt forbyde brugen af AI i forbindelse med myndigheders segmentering af udsatte grupper i relation til udbetaling af offentlige ydelser, såfremt algoritmerne ikke er transparente og tilgængelige for offentligheden. Men også AI-systemer, der segmenterer grupper i til brug i markedsføringssammenhæng bliver med forslaget ulovliggjort - f.eks. ved at placere bettingreklamer på sider, som besøges af personer med gamblingproblemer o.lign. Og dermed altså en kæp i hjulet til det amerikanske og kinesiske techgiganter, som tjener styrtende på disse typer af kundeprofileringer.
No more real life action
Og så er der myndighederne, og ikke mindst politiets brug af algoritmer og kunstig intelligens i forhold til kriminalitetsforbyggelse. Som vi på K-NEWS tidligere har kunne fortælle, så man både i USA og flere steder i Europa ved at efterrationalisere på implementeringen af 'predictive police'-systemer, der bruger netop kunstig intelligens og mønstergenkendelse til at udpege de såkaldte hot spots, hot times og i nogle tilfælde også hot persons.
For mens forslaget fortsat finder det lovligt, at anvende algoritmer til opklaring af kriminalsager retrospektivt, så lægges der op til, at det skal kræve en helt særlig tilladelse, hvis man vil overvåge folk via ansigtsgenkendelse i realtid. Ifølge sitet lawfareblog.com beskrives det således:
"Loven udelukker også brugen af "realtids" fjernbiometriske identifikationssystemer, såsom ansigtsgenkendelse, i offentligt tilgængelige rum til retshåndhævelsesformål."
Som eksempel kan myndighederne have hjemmel til at bruge ansigtsgenkendelse og biometriske algoritmer som reaktion på en kriminel handling - f.eks. scanning efter gerningsmænd på en togstation i forbindelse med et netop udført terrorangreb.
Bøder sprænger budgettet
Det skal samtidig heller ikke være gratis at overtræde den europæiske regulering. EU-kommissionen foreslår et bødeniveau svarende til 6% af en virksomheds globale salg - til sammenligning ligger de højeste bødestørrelse i relation til brud på GDPR på op til 4% af en virksomheds globale omsætning.
Der er med udspillet desuden lagt op til en stram kontrol med virksomheders og myndigheders evne til at gøre datasæt og algoritmer tilgængelige. Ifølge Wired.com kræver forslaget, at virksomheder til enhver tid skal kunne informere brugere om, hvornår, hvordan og hvorfor de anvender AI. Og det er dermed et vigtigt udgangspunkt i forhold til at forme fremtiden for udrulningen af stadig mere kunstig intelligens i samfundet, mener Leufer.
"Der eksisterer et narrativ, der siger, at vi står midt i et AI-race, men det er noget nonsens. Vi skal ikke konkurrere med Kina om former for kunstig intelligens, som på den måde understøtter masseovervågning", siger han til Wired.com, med henvisning til den megen kritik, der er rejst mod den kinesiske brug af kunstig intelligens i deres social credit-systemer, hvor befolkningen deles op i samfundsklasser med flere eller færre privilegier afhængigt af deres placering i pointsystemet.
Det ventes, at forslaget snarest skal drøftes i parlamentet og i rådet med henblik på at udfærdige et endeligt direktiv.