Kina er foregangsland, på deres egen måde, når det kommer til regulering af kunstig intelligens

Billedet: screenshot af Wired-artiekl og redigeret billede fra Shutterstock

De nye regler, som i skrivende stund, er ved at blive udrullet i Kina, er muligvis, som det beskrives i teknologimagasinet Wired, et af verdens mest ambitiøse forsøg på at regulere kunstig intelligens.

Vidtrækkende initiativer til regulering af kunstig intelligens

Lovgivningen vil ramme en lang række teknologiske virksomheder, der anvender algoritmer som en afgørende del af deres forretningsmodel. Herunder blandt andet virksomheder, der tilbyder services og varer i form af kørselstjenester, e-handel, streaming tjenester og sociale medier. Sådan opsummerer Wired målgruppen for den kinesiske lovgivning.

Det er regler, som favner bredt, og de omfatter algoritmer, som nogle af Kinas største og mest værdifulde virksomheder anvender til at fastsætte priser, kontrollere søgeresultater, anbefale videoer og filtrere indhold.

Kinas præsident Xi Jinping holdt en tale tilbage i oktober, hvor han blandt andet sagde:

”Nogle usunde og uorganiserede signaler og tendenser er opstået i takt med den hurtige udvikling af vores lands digitale økonomi.” Eller som hans udtalelse lyder på engelsk: ” “Some unhealthy and disorderly signals and trends have occurred in the rapid development of our country’s digital economy,”

Reguleringerne går under navnet Internet Information Service Algorithmic Recommendation Management Provisioner, og de er udformet af Cyberspace Administration of China, som har ansvaret for cybersikkerhed, censurering på internettet og regler for e-handel i landet.

Med lovgivningen lægges en hård linje overfor virksomhederne. De kan – hvis de ikke overholder den – sanktioneres i form af bøder, forbud mod at indhente nye kunder, fratagelse af deres licens, og dermed retten til at drive deres forretning eller hele nedlukninger af deres hjemmesider eller apps.

I vesten har vi frasagt statens ansvar i det her. Det er ret interessant, at Kina nu går efter sine egne. På en måde er det noget, man må beundre.

Rogier Creemers, ekspert i kinesisk lovgivning

Helt konkret forbyder lovgivningen blandt andet kinesiske virksomheder at anvende brugernes personlige data til at lave differentierede priser for et produkt eller en service, et fænomen, som er afdækket i blandt andet nogle af landets kørselstjenester. Og virksomhederne pålægges et større ansvar for at informere deres brugere om anvendelsen af personlige data.

Brugerne skal desuden have mulighed for at afvise, at deres data må bruges af algoritmerne til at målrette annoncer. Og med den nye lovgivning lægges også et stort ansvar hos virksomhederne for at forhindre ”afhængighed eller overdrevet brug”, som Wired skriver.

Sidstnævnte kan ses som en forlængelse af, at der sidste år blev strammet gevaldigt op på, hvor meget tid mindreårige måtte bruge på computerspil.

Allerede før marts, hvor reglerne trådte i kraft, kunne man se et skift i den måde, de store kinesiske virksomheder anvender algoritmer.

Ifølge Russell Wald, director of policy for Stanford’s Institute for Human-Centered Artificial Intelligence, er det vigtigt at notere sig, at reglerne ikke gælder regeringens brug af algoritmer eller data. Nogle af reglerne handler i bund og grund blot om at bevare regeringskontrol, som det uddybes i Wired. Men den korte version fra ham lyder:

”Vi har at gøre med regulering, som gavner regimet,” siger Russell Wald til Wired, som også i artiklen bemærker, at flere kinesiske techvirksomheder allerede er lovtvunget til at holde et stærkt blik rettet mod online platforme efter indhold, som den kinesiske regering finder skadeligt.

EU er også på vej

Kina er ikke det første land, der vedtager regler til regulering af kunstig intelligens. Men de er foregangsland, når det kommer til at få lovgivningen udrullet.

Tilbage i marts vedtog EU ”Deal on Digital Markets Act”, som har til formål at indskrænke store online platformes magt på markedet ved blandt andet at kræve, at ”gatekeeper” virksomheder som eksempelvis Facebook, Google og Apple, skal indhente samtykke fra den enkelte bruger, før brugerens data må bruges til at målrette annoncer mod brugeren.

Ifølge Wired minder de regler, som man har vedtaget i Kina, langt hen ad vejen om nogle af de regler, man diskuterer og er i gang med at indføre i EU. En central forskel er dog, at der i EU kan være længere udsigt til, at reglerne kan få reel virkning.

Og så er der - måske ikke overraskende - en anden fundamental forskel mellem Kina og EU, når det kommer til regulering af kunstig intelligens.

Jurastuderende på Vrije University i Holland, Silvia De Conca, fortæller til Wired, at lovgivere i Europa generelt har fokus på at sikre markedets og individets rettigheder, hvor problemer med kunstig intelligens i Kina derimod opfattes som et kollektivt problem, og at det i Kina derfor i højere grad handler om, hvad der er bedst for fællesskabet.

Et fællesskab, der jo med vestlige øjne, klart dikteres af staten uden den store demokratiske indblanding.

Fra EU er der desuden et direktiv på vej om AI-regulering.  Det kan du læse om HER.

Kan sprede sig til andre lande

Kina har som nævnt allerede tidligere vedtaget lovgivning til regulering af kommerciel brug af kunstig intelligens, og erfaringerne fra de seneste 18 måneder viser, at staten ikke er tilbageholdende med at slå hårdt ned på de store virksomheder.

Et eksempel er, da kørselstjenesten Didi blev fjernet fra kinesiske app stores, fordi regeringen var bekymrede for deres anvendelse af data.

Og Russell Wald fortæller, at Kina med deres frembrusen har gunstige muligheder for at påvirke andre lande, når det kommer til regulering af kunstig intelligens, fordi det er det første land, som har lovgivning, der vil få vidtrækkende konsekvenser for de store techvirksomheder.

Den slags afsmitning af, hvordan en økonomisk stormagt regulerer nye avancerede teknologier, har man tidligere set have en effekt på andre lande i regionen. Så lovgivningen ventes især at have indflydelse på lande med stærke bånd til Kina, skriver Wired.

”I vesten har vi frasagt statens ansvar i det her. Det er ret interessant, at Kina nu går efter sine egne. På en måde er det noget, man må beundre,” fortæller ekspert i kinesisk lovgivning Rogier Creemers til magasinet.