Vi skal bekæmpe overdreven brug af digitale dobbeltgængere

Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.

I de kommende år vil du opleve, at du i stigende grad bliver vurderet på dine data. Det vil f.eks. ske, når du skal tale din sag hos en offentlig sagsbehandler, vil tegne en forsikring eller optage et lån. Sagsbehandleren, assurandøren eller bankrådgiverens beslutning vil i stigende grad blive taget på baggrund af det, som kaldes profilering, dvs. en evaluering af dine aktiviteter, der f.eks. gør det muligt at analysere aspekter af din personlighed, forudsige din adfærd og kortlægge dine interesser og vaner.

Alt efter beslutningens karakter vil alt lige fra offentlige Facebook-opslag til personlige oplysninger om dine familiære og sociale forhold blive brugt til at skabe din profil, altså en form for digital dobbeltgænger, som kan bruges til at forudsige, hvor nem eller svær du er at få i arbejde efter en periode med arbejdsløshed, i hvilken udstrækning du får brug for din private sundhedsforsikring eller hvor god en bankkunde du vil blive.

I værste fald vil din digitale dobbeltgænger indgå i beslutninger, som bliver taget helt automatisk, dvs. at en computer på baggrund af dine data alene vil bestemme en given sags udfald. I andre tilfælde vil en fagperson gå computerens beslutning efter i sømmene og give sagen sin skønsmæssige bedømmelse.

I begge tilfælde er det vigtigt at holde sig for øje, at vores digitale dobbeltgængere kun tegner et stift og unuanceret øjebliksbillede af, hvem vi er. En dataprofil er kun at sammenligne med et ridset eller splintret spejl, og hvor det i forbindelse med befolkningsundersøgelser og forskning kan give mening at fastfryse nogle tendenser i et øjeblik for at besvare helt konkrete spørgsmål, vil det i borger- og kundenært arbejde virke stik modsat hensigten.

En af grundene er, at de fleste af os vil udvikle os uforudsigeligt. Det er en del af vores personlige frihed og friheden for de sociale grupper, vi tilhører og identificerer os med, at vi skal have mulighed for at overraske andre og for selv at blive overraskede. Dét kender vi f.eks. fra sundhedssektoren, hvor en diagnose ofte må forventes at udvikle sig med en vis grad af uforudsigelighed over tid, og hvor fastholdelsen af en behandling, som ikke tager hensyn til dette, kan få meget negative konsekvenser.

Virksomheder og offentlige myndigheder skal finde ud af, hvordan de vil sikre, at en knægt, hvis forældre har kortere eller ingen uddannelse, men som har både evner og lyst til at blive læge, ikke bliver modarbejdet af sin digitale dobbeltgænger. Det vil både kræve, at profileringssystemerne er gennemsigtige og at diverse fagpersoner bliver uddannet til at skabe plads til uforudsigeligheden.

Det handler altså både om at undgå automatiseret diskriminering og især om at overveje, om vi faktisk ønsker at leve i en mindre overraskende og mere forudsigelig verden.