Sårbare forbrugere i fare: Kunstig intelligens øger risiko for manipulation

En ny bølge af systemer med kunstig intelligens vil gøre store virksomheder endnu bedre til at forstå, forme og i stand til at påvirke deres kunders beslutninger.

Derfor er der brug for nye regler og mere oplysning til at beskytte forbrugerne og til at opretholde konkurrencen i markedet for varer og tjenester, vurderer en række af eksperter.

»Teknologien bevæger sig meget hurtigt i dag. Den har på nogle områder overhalet den lovgivning, der skal beskytte forbrugerne,« siger Camilla Kerlauge, managing director for AI hos konsulenthuset Accenture.

Især store virksomheder på det danske marked har det seneste årti drastisk forøget deres evne til at indsamle og analysere data om deres kunder.

Formålet er bl.a. at øge kundernes engagement, maksimere salg, øge overskuddet eller styre forsyningskæder.

De nye systemer favoriserer ifølge eksperter disse virksomheder og risikerer derved at mindske konkurrence på pris og kvalitet, fordi mindre selskaber får det svært.

Systemerne er endda så gode, at de kan tippe magtforholdet væk fra forbrugerne i selv stærkt konkurrenceudsatte markeder, vurderer bl.a. Ioanna Constantiou, professor i dataanalyse på CBS.

»Der er ikke længere noget, der hedder frie markeder,« siger Ioanna Constantiou.

»Virksomhederne gør ikke dette med onde hensigter. De bruger bare teknologien til at hive så meget værdi som muligt ud af alting, men i den proces risikerer de at gøre skade. Hvis vi ikke ændrer på disse algoritmer, så kan ende i noget det ligner et dystopisk samfund,« fortsætter hun.

Systemerne gør virksomhederne endnu bedre til fornemme, hvornår f.eks. forbrugerne er mest sårbare eller åbne over for et tilbud.

De vil kunne skræddersy både priser, tilbud og budskab på et splitsekund og derefter ramme forbrugerne på det bedst tænkelige tidspunkt.

Forbrugerne kan derved få sværere ved at forstå betingelserne omkring et køb, ligesom de oftere kan føle sig presset til at slå til eller ubevidst risikerer at fravælge bedre alternativer i større udstrækning end i dag, vurderer eksperterne.

Variationen i varer og tjenester risikerer også at falde, i takt med at systemerne hele tiden presser de største sællerter foran i køen, vurderer bl.a. Ioanna Constantiou.

»Magtbalancen er skredet de seneste år, og det er ikke til forbrugerens fordel,« siger Anette Høyrup, chefjurist i Forbrugerrådet Tænk.

»Hvem skal føre tilsyn med brugen af kunstig intelligens og algoritmer og sikre, at de ikke manipulerer og er partiske, og at sårbare forbrugere ikke bliver udnyttet på de forkerte tidspunkter?« fortsætter hun.

Hvor man indtil for nylig havde brug for en lang række personlige data om bl.a. kundernes adfærd på nettet for at tegne en præcis profil af dem, så kan de nye systemer gøre det bedre med færre og bredt tilgængelige data som f.eks. billeder og videoer.

Det sætter ifølge bl.a. Anette Høyrup hensigten i den nuværende lovgivning, herunder Databeskyttelsesloven (GDPR) fra 2018, skakmat.

EU’s konkurrencekommissær Margrethe Vestager oplyste søndag, at EU sandsynligvis vil nå til enighed om en politisk aftale senere i år, der vil bane vejen for den første lovgivning for virksomheder der udvikler og bruger kunstig intelligens.

Loven vil opdele modellerne i fire grupper fra »minimal« til »uacceptabel« risiko for samfundet som helhed og sætter begrænsninger svarende til risikoen. Den vil også indeholde en opdatering af ophavsretten for indhold brugt til at træne den kunstige intelligens.

Lovgivningen vil i følge Anette Høyrup dog ikke afholde virksomhederne fra at udnytte modellerne til at påvirke forbrugerne..

Dertil kommer, at den eksisterende lovgivning som GDPR ikke håndhæves i tilstrækkelig grad, mener hun.

»Vi har en dataindsamling og en tracking på nettet, som juridisk set ikke burde finde sted. Dertil kommer nu den øgede brug af kunstig intelligens og algoritmer,« siger Anette Høyrup.

I den kommende tid vil det ifølge Camilla Kerlauge derfor i stor udstrækning være virksomhederne selv, som skal sætte grænserne for, hvor langt de vil gå.

»Virksomheder skal overveje at lægge et ekstra etisk lag over den her teknologi, indtil lovgivningen følger med,« siger hun.