AI-rekruttering skal nedbryde fordomme – ikke fastholde dem
Nyt forskningsprojekt skal sikre, at brug af kunstig intelligens i ansættelsesprocesser ikke er diskriminerende.
Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.
I 2014 begyndte Amazon som en af de første store virksomheder at udvikle et AI-baseret rekrutteringssystem. Ambitionen var at udvikle et værktøj, som kunne scanne tusindvis af ansøgninger og bedømme dem med ét til fem stjerner.
Systemet skulle udover at spare HR-afdelingen for tid og penge også bidrage til en mere objektiv rekrutteringsproces, hvor de fordomme, som mange af os mennesker har, spillede en mindre rolle. Da systemet skulle tages i brug, fik udviklerne af systemet sig dog en grim overraskelse. Det viste sig nemlig, at systemet favoriserede mænd over kvinder i tilfælde, hvor kvinderne var lige så kvalificerede.
Grunden var, at rekrutteringssystemets kunstige intelligens var blevet trænet til at se mønstre i virksomhedens ansættelser gennem de foregående ti år, og i den periode var hovedparten af alle nyansatte mænd. Algoritmerne bidragede således med at fastholde den skæve kønsfordeling, som tech-branchen (dengang som nu) kæmpede for at udligne.
Ikke desto mindre er markedet for AI-rekrutteringsværktøjer i dag – ti år senere – i kraftig vækst. Ifølge Society for Human Resource Management (SHRM) bruger 88 procent af alle virksomheder i verden kunstig intelligens i en eller anden udstrækning, når de hyrer medarbejdere.
Og selvom dette tal nok skal tages med et gran salt, er der ingen tvivl om, at AI-rekruttering er vidt udbredt. Derfor bør vi finde metoder, hvormed vi kan sikre, at HR Tech nedbryder bias og fordomme - i stedet for at forstærke dem.
På IT-Universitetet i København har vi etableret et tre-årigt samarbejde med Jobindex. Formålet med projektet, som er støttet af Innovationsfonden, er at udvikle bias-fri algoritmer, som kan bruges i AI-baserede rekruteringsprocesser.
Algoritmerne vil blive evalueret i et såkaldt ”fairness-dashboard”, som HR-medarbejderne kan bruge til at tjekke, i hvilken grad systemets algoritmer tager højde for forskellige lighedsparametre. Dashboardet vil bl.a. blive skabt på baggrund af kvalitative undersøgelser hos rekrutteringskonsulenter og jobsøgende samt det data, som den nuværende rekrutteringsproces er baseret på.
At sikre en fair og bias-fri rekrutteringsproces er ikke bare politiske korrekte fjer, som HR-afdelinger og rekrutteringsvirksomheder kan pynte sig med. For at overholde EU’s nye forordning om kunstig intelligens, den såkaldte AI Act, skal virksomhederne forberede sig på at kunne dokumentere, at deres AI-baserede rekruteringssystemer lever op til gældende lovgivning.
Dette vil kræve en gennemsigtighed, som kun de færreste rekruteringssystemer er født med, og derfor ser medarbejdere i HR-afdelinger og rekrutteringsvirksomheder ind i en nær fremtid, hvor ærmerne skal smøges op, således at de kan argumentere for, at deres ansættelsesprocesser ikke diskriminerer på bagrund af f.eks. køn, alder eller hudfarve.
