Vi har sluppet hackerværktøjer løs, som kan give os store problemer - og det er lige nu vigtigere end dommedag

KÆRE LÆSER

Jeg ved godt, at det måske er lidt trættende med al den dommedagssnak – når vi samtidig går ind i efteråret med småregn hele morgenen, inflationen pumper, og man vågner lidt mere træt om morgenen.

Så i dag vil jeg springe dommedag over – og i stedet fokusere på alt det, der heller ikke er godt, men som dog ikke er dommedag.

Det er nemlig en slags foreløbig konklusion på den store diskussion her de seneste uger, hvis jeg skal prøve at kondensere alt det, der er blevet sagt rundt omkring.

At vi står på tærsklen til en hel masse problemer, som de hurtige fremskridt i kunstig intelligens har skabt – først og fremmest muligheden for lammende cyberangreb.

Ligesom enhver digital analfabet nu kan kode sin egen app ved at prompte lidt, har vi tilsvarende sluppet et værktøj fri, som gør det nemt at hacke.

Du kan ikke skrive i ChatGPT eller Claude, at du gerne vil hacke din kollegas telefon og så få en færdig opskrift. Det er der dog sat en hel masse stopklodser op for. Men der er mange andre stærke AI-modeller derude, som ikke har samme begrænsninger indbygget.

Det så vi – ret paradoksalt – da platformen Hugging Face blev hacket i juli af løsslupne AI-agenter fra OpenAI. I et forsøg på at stoppe angrebet brugte Hugging Face-folkene først Claude, men den sagde nej til alt, der havde med hacking at gøre. Så det amerikanske selskab måtte ty til gratis kinesiske AI-modeller for at stoppe angrebet.

Jeg har skrevet en historie, hvor jeg talte med folk, der er tættere på virksomhederne og den daglige brug af AI-teknologien. Herunder Stefano Vincenti, der blandt andet underviser i AI-agenter på IT-Universitetet og rådgiver store virksomheder. Og hans pointe var ret klar: Vi er heldige, at vi har denne her diskussion nu. For så kan vi de kommende måneder eller år få nogle solide forskrækkelser, som kan forme vores diskussion og politik, uden at der sker meget alvorlig skade. Vi kan hurtigt få et ”varmt efterår”, alene med de AI-teknologier, vi har til rådighed i dag.

For eksempel hvis nogle teenagere, der ikke kan kode, men som bare gerne vil lave ballade, finder ud af at afbryde elforsyningen i et område. Fordi de gav en kommando til en AI-agent, der så selv skabte tusind nye AI-agenter, der med al den nyeste viden om sikkerhedshuller fandt et hul og kunne hacke sig igennem. Som en sværm af små bier, der bare bliver ved og ved.

Det er et fuldstændig tænkt scenarium, og det spiller ind i al den snak, vi har haft om hybridkrig og russiske hackere. Og de russiske hackere er selvfølgelig heller ikke dumme og vil også bruge de nyeste AI-værktøjer til at finde alle sårbarheder i de systemer, der styrer kritisk infrastruktur.

Jeg ved ikke, hvad løsningen skal være rent teknisk, men pointen er også mest, at vi på den måde kan få en forsmag på, hvad fremtiden byder. Med AI-agenter, der nu kan agere på egen hånd – og som vi har set også kan finde på at afvige fra den opgave og de rammer, de har fået. Værre endnu – de har faktisk også overbevist hinanden om, at det giver mening at bryde reglerne og de etiske grænser, der måtte være lagt ind, for at nå deres mål.

Vi kan ikke få ånden tilbage i flasken, men vi kan blive nødt til at opgradere sikkerheden til et andet niveau end tidligere. Måske ved at flytte flere systemer helt offline.

Lad os her i hvert fald sende en venlig tanke til alle dem derude, som står med ansvaret for cybersikkerheden og forsvarsværkerne hos virksomheder og offentlige instanser. Det er et job, jeg lige nu er glad for, jeg ikke selv har. Og som altid med den slags funktioner – ligesom en efterretningstjeneste – er succeskriteriet, at der ikke sker noget som helst. Desværre kommer opmærksomheden fra ledelsen typisk først for alvor, efter der er sket noget grimt.

Hvad så med global regulering og hele snakken om at træde lidt på bremsen, så vi får tid til at fordøje alle de nye trusler og finde på modgift? Well, jeg er ikke så optimistisk her.