Serier
Mine nyheder

Vi har ikke publiceret nogle artikler for nyligt i de emner, du følger. Søg efter andre emner her.

Du har ingen overvågninger endnu

Klik på ikonet for at overvåge
emner og journalister.

Mistillid til digitale løsninger kan gøde jorden for konspirationsteorier

Uigennemsigtigheden indenfor databehandling og mistillid til digitalisering er vand på møllen til konspitationsteorier.

Corona rammer verden

Stoler du på Sundhedsstyrelsens Smittestop-app, når den siger, at du har være tæt på en person med corona og derfor bør lade dig teste? Eller er du en af dem, der ikke tror på appen over en dørtærskel, fordi den blot er statens måde at styre dig på, og at data i øvrigt kontrolleres af Google og Facebook?

Den største trussel mod digitaliseringen er, at brugerne mister tilliden til de digitale løsninger, de bruger i hverdagen. Og truslen bliver kun større i takt med, at løsningerne med brug af kunstig intelligens og machine learning bliver stadig bedre til at give brugerne handlingsanvisninger baseret på deres hidtidige adfærd kombineret med andre datakilder.

Den yderste konsekvens af den manglende tillid er, at der opstår konspirationsteorier om de digitale løsninger. Det har vi senest set under det amerikanske valg, hvor Trump har hjulpet skepsissen over for digitale teknologier og medier gevaldigt på vej.

Konspirationsteorierne har også i mange år været på mode inden for IT-området, hvor techgiganternes uigennemsigtige datastrømme og uigennemskuelige forretningsmodeller har rokket ved tilliden i en sådan grad, at nogen ligefrem tror, at det er Bill Gates, der har opfundet Covid-19.

Vi forstår ikke de digitale løsninger
Det fundamentale problem er, at vi som mennesker ikke forstår, hvordan de digitale løsninger når frem til de resultater, som de præsenterer os for. Vi kan ikke gennemskue alle mellemregningerne, og vi har ingen mulighed for at kontrollere de algoritmer, som digitale produkter lægger til grund for det, de fortæller os.

På engelsk kalder man det Black Box Algorithm: Den digitale løsning er en sort boks, hvor vi kan se et output i form af eksempelvis en anbefaling, men ingen forudsætninger har for at forstå det, der foregår inden i kassen. Den manglende forståelse øger den potentielle skepsis over for løsningen, hvilket kan føre til, at brugerne ignorerer anbefalingerne eller ligefrem gør det stik modsatte.

Hvordan skaber man tillid til en app?
I landbruget, som er den branche, jeg kender bedst, er et godt eksempel en applikation, der med stor sandsynlighed kan forudsige svampeangreb i en mark flere dage i forvejen. I applikationen kombineres forskellige datakilder og viden fra mange års forsøg med svampebekæmpelse i en algoritme, så man kan forudsige et svampeangreb, før man kan se det.

Dermed kan landmanden bekæmpe det langt mere præcist med et lavere forbrug af plantebeskyttelsesmiddel og derved spare arbejdstid og penge samt øge udbyttet af høsten.

Applikationen skaber dog selvsagt kun værdi for landmanden, hvis han stoler på, at mark nummer 17 nu også bliver angrebet af kartoffelskimmel om tre dage, som appen siger, og handler derefter. Derfor er den store udfordring, hvordan landmanden kan få den tillid til appen, som gør, at han investerer tid og penge i at følge dens anvisninger. Og hvad gør appen i øvrigt ved ham som landmand? Er han bare en forlænget arm for et IT-program?

Efter at have arbejdet med digitalisering i adskillige år ser jeg især fire faktorer, der er gældende for at opnå den gyldne tillid hos brugerne, så vi mindsker risikoen for konspirationsteorier.

1. Vi skal være transparente
Vi skal troværdigt kunne forklare, hvordan den sorte kasse når frem til de resultater, den præsenterer. Det er selvsagt et dilemma, fordi maskinrummet kan være svært at forklare selv for fagpersoner, og fordi brugeren skal kunne afkode informationerne på få sekunder. Men ikke desto mindre skal vi gøre forsøget.

Det kan eksempelvis være ved at formidle, hvilke datakilder der benyttes, ved at redegøre for processen og ved at være åben om forbehold og usikkerheder.

2. Maskinen skal regne rigtigt
Vi skal gøre alt, hvad vi overhovedet kan for at undgå fejl og forkerte beregninger i de digitale løsninger. Hvis først brugeren en gang er blevet udsat for en fejl, stiger risikoen markant for, at han ikke eller vil bruge den samme løsning igen.

Et oplagt eksempel kunne være apps til rutevejledning eller vejrudsigter, hvor mange fravælger dem, der én gang har formidlet dårlige ruter eller forkerte vejrudsigter. Eller hvad med dårlige forslag til hoteller eller restauranter, som vi får på grund af maskinens forkerte læsning af det, den tror er vores præferencer?

3. Brugeren skal med om bord
Vi skal gøre en stor indsats for at inddrage brugerne fra starten, så vi i størst muligt omfang kan tage højde for deres bekymringer, følelser og holdninger i udformningen af de digitale løsninger. Det er selvsagt umuligt at involvere alle de personer, der skal bruge det færdige produkt, men det giver stadig gode indsigter at få brugerperspektivet på banen tidligt i processen

Fordelen ved at involvere brugerne tidligt er også, at vi får banket den til tider store teknologibegejstring, vi som udviklere kan have, i jorden. Det handler ikke om, hvad teknologien kan, men derimod om hvad brugerne har behov for og rent faktisk vil komme til at bruge.

4. Vi skal synliggøre værdien
Vi skal gøre en stor indsats for at kommunikere den værdi, som de digitale løsninger skaber for brugerne. Hvis ikke den gode fortælling formidles klart og tydeligt, er det langt lettere at få et billede af, at en løsning kun har til hensigt at spare penge, automatisere for automatiseringens egen skyld eller ligefrem anvende brugernes data til ulovlige formål.

En klar fortælling mindsker med andre ord risikoen for, at der opstår falske myter om løsningens relevans, troværdighed og datasikkerhed.

Teknologifjendske sølvpapirshatte
Spørgsmålet er, om løbet er kørt. Er det stadig muligt at skabe tillid til de digitale løsninger, eller vil vi i fremtiden få stadig flere teknologifjendske sølvpapirshatte, der ikke stoler på maskinen?

Eller – og det er måske det værste scenarium – er der en risiko for, at vi fremover bliver så apatiske over for de mange algoritmer i vores hverdag, at vi viljeløst accepterer alt fra Googles søgeresultater til datinganbefalinger på Tinder uden et sekund at overveje at læse disclaimere og vejledninger?

Jeg er konstruktiv af natur, og jeg tror på, at vi kan skabe den påkrævede tillid hos brugerne. Digitaliseringen er kommet for at blive, og den giver samfundet en lang række fordele lige fra mere konkurrencedygtige virksomheder til en øget bæredygtighed. Men vi bør tage udfordringen dybt seriøst, for som vi har set det i mindre skala med Smittestop-appen, så kan konspirationsteorier sagtens opstå i Danmark.

BRANCHENYT
Læs også