Debat

Ragnarok truer: Boom i kunstig intelligens kræver høj etik og politisk stillingtagen

Kunstig intelligens vil være i brug i mere end 90 procent af alle offentlige myndigheder om blot tre år. Potentielt står vi til at høste store gevinster, men vi risikerer samtidig et dataetisk ragnarok, hvis ikke alle – fra politikere til sagsbehandlere – forstår at dataetik er et fælles ansvar.

Danske kommuner, regioner og statslige myndigheder er på vej ind i en ny epoke i den offentlige digitalisering. Over de kommende tre år vil ni ud af ti offentlige myndigheder tage kunstig intelligens i brug i forvaltning og sagsbehandling, viser dette års rapport, IT i praksis®, som Rambøll og Dansk IT står bag.

Allerede nu anvender fire ud af ti offentlige myndigheder kunstig intelligens til at effektivisere sagsgange, automatisere processer og samkøre systemer, hvor teknologien fungerer som et effektivt og beslutningsunderstøttende redskab.

Med de mange nye muligheder, som kunstig intelligens byder på, er det offentlige i bund og grund ved at gentænke velfærden i Danmark. Brugen af kunstig intelligens og big data kan dog føre mange steder hen, og det er altafgørende, at politikerne kommer på banen og sikrer den politiske demokratiske styring af udviklingen. Ellers tages teknologierne i brug, uden at der reelt er taget stilling til, i hvilken retning samfundet skal bevæge sig.

Vil historiebøgerne om føje år se tilbage på denne tid og berette om foregangslandet Danmark, der forstod at bruge kunstig intelligens klogt og etisk korrekt til gavn og glæde for deres borgere? Eller vil de vil berette om politikere, kommuner, regioner og sagsbehandlere, der ikke var deres dataetiske ansvar voksent og som endte med at gøre mere skade end gavn?

Kunstig intelligens er en medalje med to sider

På forsiden af medaljen ses en fremtid, hvor kunstig intelligens har løftet kvaliteten i det offentlige, der tilbyder borgerne helt nye eller væsentligt forbedrede og personaliserede services, som ellers ikke var mulige. Vi ser, at det offentlige på foretagsom manér har effektiviseret flere arbejdsgange og processer og herved sparet penge, der kan komme borgerne til gode.

Men medaljen har også en alvorlig bagside.

Algoritmerne, som forvandler data til handling, og som er grundstenen i kunstig intelligens, kan også gøre skade. Vi har allerede set, hvordan algoritmer utilsigtet kan videreføre og forstærke diskrimination på basis af køn, alder og etnisk oprindelse. Og heri ligger den store udfordring med kunstig intelligens. De fejl, der tidligere havde begrænset effekt, fastholdes, forstærkes og spredes nu i hidtil uset grad.

Flere myndigheder har f.eks. allerede indført digitale afklarings- og profileringsværktøjer, der skal forudsige hvem, der risikerer at få en bestemt sygdom, blive langtidsledige, klare sig dårligt i skolen, blive tvangsfjernet, osv.

Ideen om at vi kan udpege disse mennesker tidligt og med skræddersyede tilbud hjælpe dem med et styrket socialt sikkerhedsnet er fin og prisværdig. Problemet er bare, at vi hurtigt kan gøre mere skade end gavn. Profileringsværktøjerne, der skal forudsige langtidsledighed, har allerede fået stor kritik.

Afgørelser kan falde forkert ud. Problemet med algoritmer - specielt de selvlærende af slagsen - er, at årsagssammenhænge forsvinder ned i et ingenmandsland, som ingen efterfølgende kan forklare.

Dataetik er afgørende

Der er næppe den politiker eller sagsbehandler, der ønsker at forværre tingenes tilstand, men det kan være svært at gennemskue, hvilke utilsigtede konsekvenser, der følger med. Det, der ligner en ansvarlig effektiv løsning, som sikrer mere tid til varme hænder og grundig faglig sagsbehandling, kan medføre traumatiske konsekvenser som stigmatisering, fejl i sagsbehandling og på længere sigt manglende tillid til den digitale offentlige sektor.

Dataetik er mere end lovkrav til datahåndtering og ser bredere på de samfundsmæssige og menneskelige konsekvenser. Hvor lovgivning skal skærme borgerne mod åbenlyse fejl og misbrug af data, handler dataetik om at være bevidst om, hvor vi bringer samfundet hen via teknologi.

Politikerne skal derfor involvere sig i de dataetiske konsekvensvurderinger. De skal sætte spørgsmål ved, om digitalisering er ønskelig og forsvarlig over for borgerne. De skal spørge, hvordan det kommer til at påvirke sagsbehandlingen af den enkelte borger, og sikre at borgerne kan få en forståelig forklaring på, hvorfor enhver beslutning er truffet.

Samtidig skal den enkelte sagsbehandler have evnen, viljen og magten til at ’overrule’ modellernes forudsigelser. Det kræver, at de har indblik i, hvordan algoritmen er opbygget, og hvad der ligger til grund for modellernes klassificering.

Vi skal værne om borgernes tillid til den digitale forvaltning og vores ønske er, at vi bliver verdensførende på dataetik – ikke kun brug af data om borgerne i den offentlige forvaltning. Og mens vi er glade for, at der er etableret et Dataetisk Råd, der skal hjælpe os med at afveje en teknologibegejstret offentlig forvaltning med borgernes ve og vel, så har vi alle sammen et medansvar.

Læs også
Top job