Vi skal beskytte os mod misinformation skabt af kunstig intelligens
AI-genereret misinformation bliver betragtet som en af de største globale trusler, og der er behov for teknologier, som kan hjælpe os med at kende forskel på skidt og kanel.
Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.
I 2024 skal halvdelen af verdens befolkning stemme til nationale valg. Det rekordstore antal mennesker skal dog passe på ikke at fare vild i junglen af misinformation, når de skal sætte deres kryds. Falske nyheder truer nemlig den demokratiske proces, hvilket er en af grundene til, at misformation topper World Economic Forums liste over største globale trusler i de næste to år; foran ekstreme vejrforhold vel at mærke.
Det er særligt den AI-genererede misinformation, som vil gøre det sværere at skelne skidt fra kanel i nyhedsbilledet. Sidste år vakte det f.eks. opsigt, da journalisten Eliot Higgins postede billeder af Donald Trump, som bliver arresteret af politiet. Higgins havde brugt programmet Midjourney, hvor man ved hjælp af kunstig intelligens kan skabe billeder, som f.eks. ligner ægte pressefotos.
Og selv om mange af de millioner mennesker, som har set arrestationen af den tidligere præsident, formodentlig vil vide, at hændelsen ikke fandt sted, giver billederne os en skinger påmindelse om, at dagene, hvor vi kan identificere syntetiske billeder med det blotte øje, er talte.
I EU søger man at skærme for problemet med forordningen AI Act, som skal skabe grundlag for transparent og ansvarlig brug af kunstig intelligens. Det er imidlertid ikke alle udfordringer, man kan lovgive sig ud af, og vi bliver nødt til at overveje, hvordan vi teknisk kan minimere risikoen for, at misinformation afsporer den offentlige debat.
Specielt på de sociale medier, som er den primære nyhedskilde for mange mennesker, er der behov for, at vi skaber et teknologisk supplement til den filtrering, som de traditionelle nyhedsmedier varetager, så vi kan sikre et stabilt grundlag for den offentlige debat. Regeringens ekspertgruppe for tech-giganter anbefaler ligefrem, at tech-giganterne bliver forpligtet til at udvikle teknologier, som kan deklarere menneskeskabt eller ”valideret” indhold.
Her kan det være en oplagt mulighed at undersøge, hvorvidt blockchainteknologien vil kunne bruges til at verificere ægtheden af et billede, en tekst eller en video. Blockchainteknologierne bygger på gennemsigtighed og verificeringsmuligheder, som kan bruges til at skabe en teknisk standard til at markere troværdigt nyhedsindhold.
Der er allerede flere bud på løsninger på markedet, bl.a. fra en af partnerne i IT-Universitetets Blockchaincenter, virksomheden Valid, som leverer en teknologisk nyhedsverificeringsløsning. Der er imidlertid brug for flere initiativer, som kan sikre, at sådanne løsninger bliver videreudviklet, taget i brug og at vi får mere viden om deres reelle effekt og samfundsmæssige betydning.
