Pas på hackerne: Byg din egen AI-sandkasse

Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.

Kunstig intelligens (AI) er formentlig ét af de mest buldrende teknologitog, vi nogensinde er gået ombord på. Men for mange virksomheder er kunstig intelligens stadigvæk en noget abstrakt størrelse, og det er let at lade sig skræmme af de alvorlige makroøkonomiske konsekvenser, teknologien ofte forbindes med. Dermed drukner mange af fordelene helt automatisk. Af ren og skær frygt afledt af de dommedagsprofetier, der indimellem får taletid i medierne.

Graden af sikkerhed omkring AI skal naturligvis tilpasses den enkelte virksomhed, men set fra min stol handler det lige nu om, at dansk erhvervsliv får etableret både sikkerhedsforanstaltninger og regelsæt for brugen af AI. Dertil kommer den lidt mere jordbundne it-hygiejne, som den enkelte virksomhed selv skal håndtere.

I min egen virksomhed har vi f.eks. etableret en ”sandkasse”, hvor vi helt afskærmet fra omverdenen har eksperimenteret, prøvet grænser af og ret beset leget os til erfaring med AI. Jo mere du arbejder med kunstig intelligens, desto mere pragmatisk bliver dit forhold til teknologien, og jo større udbytte vil du få af den. Det er vores erfaring.

Gratis billetter og pivåbne døre

EU-landene har som de første i verden vedtaget en AI-lov. EU vil blandt andet forbyde AI inden for områder som biometri, ansigtsgenkendelse, følelsesgenkendelse og manipulation. Med andre ord går lovgivningen på teknologiudnyttelse i relation til samfundsproblematikker og ikke den taktiske anvendelse af AI i erhvervslivet.

Jeg er med på, at det selvfølgelig ikke er EU’s opgave at opsætte hegnspæle for virksomheders brug af AI, men i debatten savner jeg et større fokus på den konkrete udnyttelse af teknologien ude i virksomhederne. For tro mig, ChatGPT og tilsvarende applikationer bruges allerede flittigt rundt om i afdelingerne, og det medfører en betydeligt øget risiko.

De færreste tænker over, at man med AI får meget mere end en gratis adgangsbillet til nye muligheder. Med i kurven får man nemlig også en pivåben dør til internettet og dermed potentielle hackere. Denne kraftigt øgede digitalisering har således en pris. Hver dag udsættes virksomheder, store som små, for hackerangreb, som heldigvis for det meste opfanges af de sikkerhedssystemer, vi har vænnet os til, og som er nødvendige. Med AI åbner der sig imidlertid en ny angrebsflanke, som er fløjet under radaren.

Læk af følsomme oplysninger

Teknologien puster både til de ansattes dårlige adfærd og åbner en dør for dem med slette hensigter. Sidste forår førte brugen af ChatGPT f.eks. til et læk af følsomme data hos Samsung. I mit eget netværk har jeg oplevet at modtage fortrolige virksomhedsoplysninger, som tydeligvis var oversat fra engelsk til dansk ved hjælp af ChatGPT. Og det sker altså også i virksomheder, der normalt har en tårnhøj it-sikkerhed.

Risikoen for uforvarende læk af følsomme oplysninger er til stede hver eneste gang, en medarbejder bruger ChatGPT eller et af de andre AI-værktøjer. Det samme er risikoen for ubudne gæster. Internettet er fyldt med robotter, der er ”ansat” på store hacker-fabrikker, og som blot venter på en åbning til at kunne sende små, intelligente bomber ind i virksomhederne, som udløser sig, når det er mest opportunt.

Skal man så helt forbyde AI i virksomhederne? Det vil være en stor fejl. Vi er selv nået langt med brugen af AI både i vores drift og i de løsninger, vi leverer til vores kunder. Vi kan måle, at AI har gjort os mere effektive, end vi var for blot seks måneder siden, og som CEO kan jeg sige, at teknologien har ændret min hverdag markant. Jeg har flere AI-assistenter, der hjælper mig med mit arbejde, og det samme gælder den øvrige ledelse. AI er eminent til at minimere meget af det administrative arbejde.

Skab et sikkert miljø

Teknologien kan tilføre så meget værdi og så mange nye muligheder, at vi knapt kan forestille os det. Min klare anbefaling er at komme i gang med at bruge den og høste erfaringer. Men det bør ske i et sikkert miljø.

I vores egen AI-sandkasse, som er en kopi af ChatGPT, har vi hentet inspiration fra softwareudvikling, hvor sandkasser er betegnelsen for et sikkert miljø, hvor man kan lancere og teste nye applikationer med minimal risiko. Alle medarbejdere har adgang til vores AI-sandkasse og bruger den til at søge information, udvikle kode samt skrive, korrigere og oversætte tekster. Men det sker i et helt lukket miljø. Ligesom ChatGPT bliver vores egen AI-sandkasse også klogere i takt med, at der bliver trænet nye versioner af GPT. Men selv ikke her er sikkerheden 100 procent ufejlbarlig.

I vores belgiske filial, hvor vi har en stor afdeling, der arbejder dedikeret med den finansielle sektor, er vi således gået skridtet videre. De medarbejdere, der arbejder med digital transformation hos storbanken BNP Paribas, skal f.eks. efterlade deres it-udstyr i banken. Og de skal igennem en sluse, når de kommer og går for at sikre, at der ikke opstår huller i det hermetisk lukkede system. Det kan lyde paranoidt. Men i krydsfeltet mellem AI og sikkerhed er det en bydende nødvendighed, at hver enkelt virksomhed tager stilling på samme måde. Ellers bliver dommedagsprofetierne netop til virkelighed.