Bedre – eller måske værre – retssikkerhed med AI

Billedet: Marya Akthar får ordet første gang og mikrofonen driller. Ved siden af hende i teltet, hvor AI-debatten "Hjælp - min advokat er en robot" åbnede programmet i Djøfs baggård, ses Rasmus Thingholm og Frederik Waage.

Det er Domstolsstyrelsens udviklingsdirektør Merethe Eckhardt, der opridser tidsparadokset, der følger med forhåbningerne, der knytter sig til, hvad kunstig intelligens, kan gøre for retssikerheden, effektiviteten i retsvæsenet og ensartetheden i afsagte domme med mere.

Efter cirka to år med ChatGPT, som gjorde kunstig intelligens til hvermandseje og en nærværende agenda spørger udviklingsdirektøren:

“Hvordan tager vi den her teknologi til os på en måde, som kan give os retssikkerhed på den rigtige måde? I løbet af de sidste 2.000 år har vi kæmpet for at lave nogle regler, der ligesom afspejler de fleste og rummer de få, uanset hvem de der få er.”

Merethe Eckhardt er en af de fem paneldeltagere, der på Folkemødet 2024 diskuterede, hvad AI kan gøre for domstolene, gøre ved juridisk rådgivning og hjælpe med i forvaltningen - ikke mindst med borgerne, der skal bruge det, for øje.

En gut på Stanford University, opfandt en app, der hedder DoNotPay. Hvis folk havde parkeret på en måde, hvor de syntes, at de ikke skulle have en bøde, men havde fået en alligevel, så kunne de indtaste på appen, tage nogle billeder, og så kunne den vejlede dem om, om de måske kunne undgå at betale bøden

Professor i retsfilosofi og etik, Jesper Rybergs eksempel på det han kalder juridisk parallelbrug af AI. Altså kunstig intelligens, der hjælper borgerne i retssikkerhedsspørgsmål uden brug af den etablerede juridiske branche.  

Magtens Tredeling episode 191 er en redigeret optagelse af den paneldebat, hvor udviklingsdirektøren og fire andre i panelet - Marya Akhtar fra Institut for Menneskerettigheder, professor i forvaltningsret Frederik Waage, retsfilosof og etikprofessor Jesper Ryberg og Djøf Advokat-formand Rasmus Thingholm – kom godt ud i hjørnerne og italesatte det allestedsværende AI’s muligheder og farer inden for de tre nævnte områder, hvor vi alle har en høj grad af forventing om, at retssikkerheden skal være på plads.

AI's potentiale og fordele

AI har potentialet til at revolutionere mange aspekter af advokat- og retssystemet. Som Jesper Ryberg, professor i etik og retsfilosofi, bemærker, kan AI bruges til at skabe nye redskaber for retssikkerheden. Et eksempel, han bringer op, er appen "Do Not Pay", udviklet af den Stanford-studerende Joshua Browder, som hjælper brugere med at tage stilling til, om en parkeringsbøde er uberettigede ved at analysere data og yde vejledning via en simpel mobilapp. Jesper Ryberg kalder det parallel AI, da det er juridisk hjælp, som bliver leveret direkte på mobilen i lommen uden, at mennesker med juridisk indsigt er involveret i den enkelte rådgivning.

Dette illustrerer, påpeger han, hvordan AI kan demokratisere adgangen til juridisk rådgivning og potentielt spare borgere tid og penge.

Med en mere direkte konsekvens i branchen for juridisk rådgivning fremhæver panelet, at AI åbenlyst kan effektivisere mange af de rutineprægede opgaver, som advokater og fuldmægtige sidder med, når de for eksempel skal gennemgå store datasæt i forbindelse med due diligence og M&A-opgaver. Dette kan forbedre arbejdsvilkårene for advokatfuldmægtige ved at reducere deres arbejdstid og øge deres livskvalitet, påpeger Djøf Advokats Rasmus Thingholm.

På trods af det store potentiale er der betydelige risici forbundet med implementeringen af AI i retssystemet. En af de største bekymringer er manglen på transparens og forklarbarhed. Som Marya Akhtar fra Institut for Menneskerettigheder påpeger, er AI-værktøjer aldrig neutrale; de er designet af mennesker med specifikke mål og forudsætninger, hvilket kan føre til skævheder og diskrimination.

Jesper Ryberg bliver i podcastepisoden også interviewet alene, hvor K-NEWS beder ham uddybe nogle hans panelpointer. Og han påpeger, hvordan domme og afgørelser i dag varierer afhængigt af hvilken dommer, sagen behandles af. Her mener han, at AI på sigt klart kan hjælpe med at skabe større konsistens i strafudmålinger ved at analysere data fra lignende sager. Dette forudsætter, at algoritmerne arbejder med data fra omfattende og idag ikke-eksisterende databaser.

Krav til dommere og databaser

Jesper Ryberg understreger potentialet ved en fælles database med for eksempel alle danske byretsdomme. Og i samme åndedrag påpeger han den opgave, der ligger i at formatere hvordan dommerne og alle ved domstolene skriver deres domme. Det hele bliver bedre at arbejde med for AI og machine learning jo mere ensartede, de er. Den perfekte verden, kommenterer han dog, vil være, at AI et sted ud i fremtiden blevet så god, at alle indlæg og bevisførelser, der optræder i danske retssale, automatisk transkriberes og gøres til brugbar data.

Brugen af AI i advokatbranchen, forvaltningen og retssystemet er uundgåelig. Men det er afgørende, at teknologien implementeres på en måde, der beskytter borgernes rettigheder. Helt afgørende er klare krav til forklarbarhed og ansvarlighed, når algoritmer bruges til at træffe juridiske beslutninger.

At det juridiske samfund og alle de faglige spillere skal også uddannes og forberedes på disse teknologiske ændringer, står også klart. En undersøgelse som Karnov og Djøf Advokat i fællesskab har gennemført viser, at mange i advokatbranchen ikke mener, at de er klædt på til at håndtere AI, så der er behov for uddannelse og træning. Dette indebærer en forståelse for de etiske og juridiske implikationer samt tekniske aspekter af AI.

Podcasten om AI og retssikkerhed, som du kan lytte i din normale podcastapp på mobilen eller i playeren i toppen af artiklen her, er en af de længere Magtens Tredeling-episoder, men den samler også bredt op på AI-status que. Et status quo, der ændrer sig hurtigere end vi nok er vant til.

Undervejs i podcasten nævnes både Chromebook-sagen, som et eksempel på magtforskydning, domstolsstyrelsens pseudonymiserings-machinelearning-projekt og ChatGPT.

Alle de tre emner har vi på K-NEWS lavet podcastepisoder om, og dem får du – som vi lover i "rulleteksterne" på den nyeste  - et link til her:

Chromebooksagen: Når man vil gøre noget ulovligt lovligt er Magtens Tredeling #186.

ChatGPT år 1 og det nye vilde vesten er Magtens Tredeling #158.

Og Magtens Tredeling #152 fortæller om den svære, lærerige og langsomme udvikling af machine learning på domstolenes forsøgsgård.

Panelet ved Folkemødedebatten i 2024 med titlen "Hjælp - min advokat er en robot". Fra venstre: Jesper Ryberg, Marya Akhtar, Rasmus Thingholm, Frederik Waage og Merethe Eckhardt.

Herunder: Jesper Ryberg til højre og debatmoderator Rasmus Lehman Hylleberg til venstre.