Det vilde AI-vesten: Den gode, den onde og den ukendte udvikling

Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.

For nylig deltog jeg i en it-sikkerhedskonference på Christiansborg, hvor årets helt store tema var kunstig intelligens (AI).

Konferencen samlede politikere, internationale eksperter i cybersikkerhed og danske it-chefer fra både den private og offentlige sektor for at diskutere den danske AI-fremtid. Debatterne spændte bredt fra etiske overvejelser og regulering til tekniske aspekter og fremtidige udfordringer.

Under konferencen blev det desuden tydeligt, hvor nødvendigt det er med en fælles indsats på både nationalt og internationalt niveau for effektivt at bekæmpe nye cybertrusler gennem informationsdeling.

Netop dette var også et af de emner som den danske digitaliseringsminister, Marie Bjerre, fremhævede i sin tale sammen med behovet for en fælles indsats for at regulere og forme fremtiden for kunstig intelligens. Hendes ord i salen fik mig til at reflektere yderligere over, hvad det er vi står over for i arbejdet med kunstig intelligens, når vi balancerer innovation og sikkerhed og udforsker potentialet.

Kunstig intelligens automatiserer og identificerer

Kunstig intelligens har allerede fundet vej ind i mange aspekter af vores arbejdsliv. Således viser en undersøgelse foretaget af Deloitte, at 61 pct. af medarbejdere benytter AI i deres daglige arbejde. Teknologien skaber en multiplikatoreffekt, der effektiviserer arbejdsprocesser, identificerer fejl, automatiserer rutineopgaver og tilfører økonomisk værdi, og er således estimeret til at generere et marked med en værdi af knap 9 billioner kroner i 2032.

Kunstig intelligens spiller en stadigt voksende rolle i cybersikkerhedsbranchen. Teknologien anvender algoritmer til at skabe nye data, mønstre og løsninger, baseret på eksisterende information, hvilket gør den yderst effektiv til at opdage og modstå cybertrusler.

En af de mest betydningsfulde måder, som AI forbedrer cybersikkerheden, er gennem automatiseret trusselsidentifikation og reaktion. Traditionelle metoder til trusselsopdagelse er ofte afhængige af kendte signaturer og mønstre, som kan være ineffektive mod nye og ukendte cyberangreb.

Kunstig intelligens kan derimod analysere store mængder data og generere potentielle trusselscenarier, som teknologien lærer og tilpasser sig, så hidtil ukendte trusler kan blokeres. Muligheden for at forudsige og reagere på nye trusler med hidtil uset præcision er afgørende at beskytte kunders digitale aktiver og giver en hidtil uset effektivitet, der gør teknologien i stand til at tilføre værdi til mange industrier og arbejdsområder.

De dårlige nyheder

Desværre har kunstig intelligens også en mørk side. Hackere udnytter teknologien til at udføre sofistikerede angreb og træne nye medlemmer af hackergrupper, hvilket i værste fald kan få alvorlige konsekvenser for virksomheder og samfundet.

Kort tid efter, at generativ AI for alvor blev offentligt tilgængeligt med lanceringen af ChatGPT, viste studier nemlig, at generativ AI blev misbrugt af hackere til at generere malware og phishing-mails. En udvikling, der er dybt bekymrende, da det ikke bare kun underminerer tilliden til digital kommunikation, men forstyrrer forretningskritiske operationer.

Ligeledes har vores egen rapport om de største cybertendenser i 2023 vist, at cyberangreb mod danske virksomheder steg med 49 pct. i 2023 sammenlignet med året før, hvilket bør ses som et udtryk for, at disse AI-værktøjer er i brug. Helt konkret viste stigningen, at en dansk organisation i gennemsnit blev ramt af 1079 cyberangreb om ugen i 2023.

Dette er en bekymring ikke kun på grund af det potentielle tab af forretningsomdømme og kundetillid, men også på grund af det faktum, at de globale gennemsnitlige omkostninger ved et databrud for en virksomhed anslås til at koste mere end 30 millioner kroner.

Med introduktionen af AI-modeller på arbejdspladser verden over kommer en hidtil uset angrebsflade. Hackere har nu mulighed for at ”forgifte” AI-modeller og infiltrere virksomheder, der benytter sig af forgiftede modeller. Det betyder, at hvis angribere får adgang til modellen, kan de manipulere AI-modellens træningsdata eller selve AI-modellen, skabe sårbarheder, bagdøre eller fordomme, der kompromitterer sikkerhed, effektivitet og etisk adfærd. Derfor er det afgørende at implementere AI-modeller i kontrollerede miljøer og udvikle klare politikker for brugen af dem.

Fremtidens AI

Mens vi står over for disse udfordringer, er det vigtigt at erkende, at vi kun lige har kradset overfladen af, hvad der kan opnås med kunstig intelligens og stadig bevæger os på ukendt territorie. Hvad vi endnu ikke har set, er konsekvenserne af generativ AI, når det bruges til deepfakes, der kan manipulere politiske dagsordener, sprede falske nyheder og skabe forvirring og splittelse i samfundet.

Verdensledere som Joe Biden og Volodymyr Zelenskyj er allerede blevet misbrugt omfattende i deepfakes. Mens et af de største og mest betydningsfulde valgår i historien udspiller sig for øjnene af os, stiger ønsket om at manipulere valg, og vælgerne bliver udfordret med truslen fra politiske manipulatorer.

Vi skal alle være opmærksomme på kunstig intelligens’ etiske og samfundsmæssige implikationer og arbejde sammen på tværs af sektorer for at imødegå disse udfordringer. Samtidig må vi ikke glemme de utallige muligheder, som AI kan bringe, herunder forbedret sundhedspleje, mere effektiv energianvendelse, mere personaliserede tjenester og i mit eget felt: forbedret cybersikkerhed.

Ved at håndtere disse udfordringer og muligheder klogt kan vi forme en fremtid, hvor AI gør en positiv forskel for vores samfund og vores liv. Kun gennem samarbejde på tværs af sektorer kan vi bygge en fremtid, hvor AI bidrager positivt til både økonomi og samfund. Derfor må vi handle ansvarligt og omfavne kunstig intelligens’ potentiale med et åbent sind, men med regulering for øje.