Skræmmende høj forbrugertillid til AI stiller store krav til virksomheder

Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.

En ny generation af kunstig intelligens med bl.a. ChatGPT i front har på rekordtid slået rod hos både virksomheder og forbrugere. Og det i en sådan grad, at forbrugere verden over i stor stil er parate til at basere alt fra medicinske diagnoser og karriererådgivning til indkøb af tøj, biler og elektronik på anbefalinger fra kunstig intelligens.

Det viser en international undersøgelse fra Capgemini Research Institute, som omfatter flere end 10.000 forbrugere i 13 lande, herunder også nordiske lande. Og hold nu fast – for resultaterne i undersøgelsen er ikke bare opsigtsvækkende. Det er også skræmmende læsning, hvis man tager de kritiske briller på.

For eksempel mener 64 pct. af forbrugerne, at AI-generede anbefalinger er en hjælp i forbindelse med køb produkter eller serviceydelser. Og flere end halvdelen af respondenterne i undersøgelsen stoler så meget på generativ AI, at de vil lade teknologien hjælpe med økonomisk planlægning. Men det stopper ikke her. To tredjedele svarer nemlig også, at de er villige til at søge personlig rådgivning om parforhold og karriereplaner fra kunstig intelligens. Ja, hele 67 pct. mener sågar, at de med fordel kan få stillet medicinske diagnoser via generativ AI.

Det er overraskende mange, der på den måde udtrykker en høj grad af tillid til kunstig intelligens. Måske også for mange. Det rejser et naturligt spørgsmål om, hvorvidt forbrugerne og digitale brugere i dag har den kritiske distance og de nødvendige forbehold, der er så vigtige at have med, når vi står over for at omfavne ny teknologi i vores liv.

For det, at noget er smart og lynhurtigt kan give os et tilsyneladende personligt svar på alt, hvad vi måtte begære, er nemlig ikke ensbetydende med, at svarene er korrekte og upartiske.

AI-redskaber er nemlig ikke ufejlbarlige. Det har vi allerede har set flere danske eksempler på. Eksempelvis da ChatGPT stormede ind på scenen og fejlagtigt oplyste, at venstrepolitikeren Mads Fuglede lå inde med en betinget fængselsstraf for at have delt fortrolige oplysninger. Eller den mere kuriøse – og hurtigt rettede – fejl, at Mette Frederiksen var leder af De Radikale.

Faktum er også, at det endnu langt fra er tydeligt for os som brugere, hvem der reelt står bag de generative AI-redskaber. Så det er typisk umuligt at se, hvilke særinteresser, der kunne være på spil og påvirke de informationer, vi bliver præsenteret for - og hvilke, der er udeladt. Læg dertil, at generativ AI også er et nyt og ’interessant’ redskab for svindlere, hackere og andre med onde, digitale hensigter, som både private og virksomheder i stigende grad vil blive udsat for.

Kritisk sans og ansvarlige virksomheder

Så når forbrugerne kaster sig hovedkulds og tilsyneladende tillidsfuldt over de nye, generative AI-redskaber, er der god grund til at hejse et advarselsflag. Den kritiske sans og kildekritikken online, der i forvejen er udfordret af de sociale medier, skal vi i den grad huske at have med i omfavnelsen af generativ AI.

Det er naturligvis et ansvar, som hver enkelt bør tage på sig. Om ikke andet så fordi, det er i hendes eller hans egen interesse. Men al erfaring har vist, at det i forvejen er endog meget svært for de fleste at navigere rundt i de digitale muligheder.

Netop det efterlader også danske virksomheder med en afgørende og ny rolle i forhold til både ansvarlig og etisk udbredelse og brug af generative AI. For de kommercielle aktører ser naturligt nok store muligheder i at hjælpe deres kunder og sælge mere via generative AI-værktøjer. Men med mulighederne og ambitionerne følger altså også et stort ansvar for at uddanne forbrugerne og skabe gennemsigtighed.

Ikke mindst i lyset af den høj grad af tillid til AI, som vi ser hos forbrugerne, er det afgørende, at virksomheder er bevidste om, hvordan AI spiller ind i deres forretningsmodel. Men ikke nok med det. De skal også være yderst bevidste om det store ansvar, de har, ift. pålideligheden af de informationer og anbefalinger deres AI-værktøjer leverer - samtidig med, at de skal håndtere en ny dimension af datasikkerhed på vegne af forbrugerne.

Fejler virksomheder her, kan det have store omdømmemæssige, juridiske og økonomiske omkostninger. Noget den EU-lovgivning, der er på vej omkring kunstig intelligens, om noget sætter en fed streg under.

Det er derfor kritisk, at AI fra start bliver integreret ind i virksomhedens strategi og drift, så potentiale og risici i forhold til forretningen er tydelige fra dag ét. Et andet springende punkt i arbejdet med den nye generation af AI er, at den rent teknisk bliver forankret i en robust og fremfor alt kontrollerbar it-arkitektur – og at det sker med en etisk og menneskelig tilgang.

For de generative AI-redskaber er basalt set softwareprogrammer, der yderst præcist og med en efterligning af menneskelig samtale finder svar i enorme mængder af data. Så selv om skindet kan bedrage, er det fortsat teknologi blottet for det etiske kompas og den menneskelige fornemmelse og empati, som på mange måder altid har været centrum for mødet mellem dygtige virksomheder og deres tilfredse kunder.

Set i det lys stiller udviklingen inden for generativ AI, og den hast hvormed den nye teknologi finder vej ind i virksomhederne og i forbrugernes liv, helt nye krav. Det gælder også de mange danske virksomheder, der lige nu arbejder for at komme med på AI-bølgen.