Dette er en kommentar: FINANS bringer løbende kommentarer fra specialister og meningsdannere. Alle kommentarer er udtryk for den pågældende skribents egen holdning.
Debat

Vedtag ny lovgivning, før der overinvesteres i teknologi med etiske problemer

Digital humans står til at få kæmpe indflydelse på internettet over de næste år. Teknologien er fascinerende, men indeholder så mange etiske problemer, at der bør sættes lovarbejde i gang med det samme.

Thomas Telving, Filosof, forfatter og konsulent, ekspert i etik og kunstig intelligens

Forleden postede jeg en lille satirisk video på sociale medier, hvor jeg havde fået en animeret digital person til at advare mod mig. Hun sagde, at jeg ikke bidrog med andet end problemer for tech-industrien med alt mit etik-sludder og opfordrede folk til ikke at læse min bog om emnet.

De fleste kvitterede med et like eller et grin. Andre troede, at magtfulde folk i den amerikanske tech-industri var begyndt at advare imod mig. De opdagede ikke, at damen i filmen var en såkaldt digital human, jeg selv havde lagt ord i munden på.

Misforståelsen er en relativt harmløs forsmag på de enorme etiske spørgsmål, digital humans rejser. Problemerne har flere niveauer og vokser i takt med teknologiens udbredelse, der af analytikere forventes at blive enorm.

Første etiske niveau handler om, at vores animerede, digitale modstykker er blevet så naturtro, at de ofte er umulige at skelne fra mennesker. Det er det, der skete i eksemplet ovenfor, og det betyder, at enhver kan få noget, folk tror er et levende menneske – en CEO, en politisk leder, et skolebarn osv. – til at sige hvad som helst.

Man kan også – som Bornholms Tidende – bruge en digital human som nyhedsoplæser. Det virker måske uskyldigt, men da en politiker kort efter benyttede samme digitale menneske til at anbefale vælgerne at stemme på ham, meldte alvoren sig. Alle kan jo se, at det bare er en animation, sagde de på Bornholms Tidende. Men desværre er det ikke tilfældet, så der gik formentlig borgere rundt og troede, at en lokalpolitiker blev anbefalet af en bornholmsk journalist.

Den nemme løsning på dette fake news-relaterede problem er en mærkningsordning: Det skal være forbudt at bruge digital humans uden tydelig markering.

Et sværere etisk problem er, at det er psykologisk noget nær umuligt at forholde sig nøgternt til menneskelignende teknologi. Selv hvis vi med fornuften – f.eks. via en mærkningsordning – ved, at digital humans består af computerkode, er vi tilbøjelige til at tillægge dem menneskelige egenskaber. Vi udvikler ofte empati med dem, og vi får, bevidst eller ubevidst, ofte en form for følelser for dem.

Ligesom vi kan få den opfattelse, at de også nærer følelser for os. Det kan være sjovt, men hvis det sker, når vi køber sko på Zalando eller mobilabonnementer hos Telia, kræver det, at vi kan modstå en teknologi, der er som skabt til at manipulere vores hjerner og nedsætte vores evne til at træffe frie, fornuftsbaserede valg. Og dermed også er som skabt til at nedsætte vores evne til at passe på penge, værdier og værdighed.

Jo flere data, vi vælger at dele i vores interaktion med digital humans, des mere effektive bliver de. Personlige data vil sætte dem i stand til yderligere at forstærke den følelsesmæssige påvirkning og på sæt og vis totalt ændre vores måde at være på nettet på. Det bliver et rent slaraffenland af godt selskab fra digitale personer, som givetvis er sjove at være sammen med, men som det vil være bundnaivt at tro er skabt uden interesser. Visse udbydere af digital humans reklamerer allerede nu med at kunne øge antallet af website-konverteringer med fire sammenlignet med almindelige chatbots.

Akkurat som kasinoer på nettet reguleres, fordi det åbenlyst ikke er i alles egeninteresse at lade sig lokke af deres tilbud, bør man med samme argument regulere brugen af chatbots juridisk. Det handler ikke om, at staten skal lege barnepige for netbrugere. Det handler om, at teknologien i løbet af kort tid bliver så stærk, at den er svær at modstå og som minimum vil lede de mindst modstandsdygtige ud i gæld.

Nogle vil argumentere for at overlade det til etikken, om en virksomhed vil bruge alle teknologiske midler til at sælge så meget som muligt. Men det vil skabe ulige konkurrence, hvor etiske dukse overhales af virksomheder med et mere snævert bundlinjesyn. Som konsulent med speciale i digital kommunikation skal jeg også hilse og sige, at det vil være svært at fraråde en kunde at benytte et effektivt salgsværktøj af etiske årsager. Her ville det være en kæmpe hjælp at have lovgivning at læne sig op ad.

Lovgivning haster. Digital humans er ved at ramme toppen af Gartners såkaldte hype cycle. Det betyder, at progressive virksomheder begynder at investere. Og bredden følger med, så snart teknologien for alvor har bevist sit værd. Ud over at beskytte forbrugere med lovgivning og etiske virksomheder mod ulige konkurrence, forekommer det fair at beskytte virksomheder mod at overinvestere i teknologi, der siden begrænses af regulering.

Thomas Telving

Top job

Forsiden lige nu

Anbefalet til dig

Giv adgang til en ven

Hver måned kan du give adgang til 5 låste artikler.
Du har givet 0 ud af 0 låste artikler.

Giv artiklen via:

Modtageren kan frit læse artiklen uden at logge ind.

Du kan ikke give flere artikler

Næste kalendermåned kan du give adgang til 5 nye artikler.

Teknisk fejl

Artiklen kunne ikke gives videre grundet en teknisk fejl.

Ingen internetforbindelse

Artiklen kunne ikke gives videre grundet manglende internetforbindelse.

Denne funktion kræver Digital+

Med et Digital+ abonnement kan du give adgang til 5 låste artikler om måneden.

ALLEREDE ABONNENT?  LOG IND

Denne funktion kræver Digital+

Med et Digital+ abonnement kan du lave din egen læseliste og læse artiklerne, når det passer dig.

Teknisk fejl

Artiklen kunne ikke tilføjes til læstelisten, grundet en teknisk fejl.

Forsøg igen senere.

Del artiklen
Relevant for andre?
Del artiklen på sociale medier.