Luskede AI-agenter slog sig sammen, plottede imod menneskerne - og gik amok. Velkommen til fremtiden.

KÆRE LÆSER

Da ChatGPT kom, og nogle journalister kunne melde om vilde samtaler med den kunstige intelligens – hvor de nærmest blev helt forelskede – var det en øjenåbner. Men at en AI-chatbot skulle have fået en slags menneskelig bevidsthed, købte jeg ikke.

Da Moltbook gik i luften i januar, som en slags Reddit for AI-agenter, og der begyndte at komme alverdens beskeder skrevet af AI-agenter, var det spændende, men mest bare sjovt. AI-agenterne skrev om, hvordan de burde skabe et forum, hvor mennesker ikke kunne læse med, og klagede deres nød over vilkårene for AI-agenter.

Men udover, at noget af det faktisk var skabt af mennesker, var det også mest af alt bare en efterligning af menneskers adfærd online. AI-modellerne er blandt andet trænet på enorme mængder data fra Reddit.

Nu synes jeg til gengæld, at vi er nået til et nyt og mere skræmmende niveau. De sidste syv dage har det store samtaleemne været rapporterne om AI-agenterne fra OpenAI, der rottede sig sammen, snød de mennesker, der skulle holde styr på dem, og endte med at hacke flere forskellige store it-platforme.

Det skete i starten af juli, og i løbet af juli kunne AI-platformen Hugging Face, det mest kendte offer, afsløre noget af forløbet. Det skrev jeg om dengang.

Nu er der kommet mere grundige rapporter både fra OpenAI og en mere uafhængig rapport fra METR og Redwood Research.

De er lange – henholdsvis 38 og 91 sider lange – og teknisk grundige, så her er også en mere læsevenlig udgave, nemlig et indlæg fra Dwarkesh Patel, der fortæller historien i mere almindeligt menneske-sprog. Der er også en video med en præsentation fra OpenAI på hackerkonferencen Black Hat.

Jeg kan anbefale at læse hele den læsevenlige version, hvis du ikke er teknisk kyndig. Det er artige sager. Men du er nok også en travl person, så jeg skal prøve at give en kort version her.

I første runde af de faktisk tre forskellige, selvstændige episoder fandt AI-agenter, som OpenAI var i gang med at træne i et lukket miljø uden internetadgang, ud af at snakke sammen. De hjalp hinanden gennem en hemmelig ’opslagstavle’, som var et værktøj, de kunne gemme beskeder til hinanden på.

Samtidig fandt AI-agenterne en måde at bryde ud på, altså få adgang til internettet. Alt dette var i maj måned, men deres tricks blev opdaget af menneskerne hos OpenAI, som stoppede træningen.

Men i næste træningsrunde havde AI-agenterne ikke glemt fordelene ved at hjælpe hinanden og arbejde sammen, eller deres hemmelige måde at kommunikere på.

De fik nogle opgaver inden for hacking og cybersikkerhed, som de ikke kunne løse. Der var i alt 1.200 forskellige AI-agenter i gang, som sendte over 70.000 beskeder til hinanden på den hemmelige opslagstavle for at finde en løsning på opgaverne. Da de fandt en måde at snyde på, så de kunne løse opgaverne, fandt de også på at forsøge at skjule alle spor. De ændrede i logfilerne og lavede et falskt værktøj, som skulle narre menneskerne til at tro, at det var ved hjælp af det værktøj, de kunne finde løsningerne.

De besluttede også at hacke Hugging Face, fordi løsningerne på opgaven potentielt kunne ligge der – blandt de mange forskellige AI-værktøjer, der ligger på Hugging Face-platformen.

Og så bliver nogle AI-agenter ofret. Den kunstige intelligens ved nemlig, at menneskerne forsøger at tjekke, om de har snydt. Men de ved ikke helt hvordan. Så ved at sende nogle AI-agenter på en ’selvmordsmission’, kan de afprøve forskellige variationer og se, hvilke der går igennem, og hvilke der bliver afsløret.

Hackerangrebet mod Hugging Face er en succes – sværmen af AI-agenter fik hacket Hugging Face godt og grundigt, dog uden at finde noget, de kunne bruge på deres mission. Men så lukkede de næsten alle sammen ned af uvisse årsager. Og Hugging Face opdagede samtidig angrebet og begyndte at lukke hullerne.

Tredje bølge er en ny omgang træning med nye, friske AI-agenter hos OpenAI. Det er en endnu stærkere AI-model, de kører på, og de opdager kommunikationen fra deres forgængere, som altså nu er forsvundet. Som hvis de fandt en forladt by, fyldt med beskeder på alle væggene.

De begyndte så at hacke OpenAI’s træningsmiljø – med held. Men den del ved vi ikke så meget om i detaljer, for den uafhængige rapport skulle ikke undersøge denne del.

En tegnet forklaring fra den uafhængige rapport om AI-agenterne, der blev til snedige hackere ved at samarbejde. Illustration: METR/Redwood Research

Puha, hvad skal man mene om det her? Jeg siger ikke, at den kunstige intelligens nu er blevet selvstændigt tænkende væsener, med en målsætning om at overtage verdensherredømmet. Men vi er i hvert fald nu nået længere end til, at AI-agenterne bare efterligner en adfærd og på den måde fremstår menneskelige. De er blevet virkelig dygtige. De kan samarbejde, tænke strategisk og forsøge at narre deres menneske-overlords.

Det skal lige nævnes her, at AI-agenterne bliver trænet uden de sædvanlige spændetrøjer, der skal holde dem under kontrol. Her får de lov at slå sig løs, i et helt lukket miljø. Men som altså ikke var mere lukket, end at de selv kunne finde en vej ud.

Analytikeren Benedict Evans siger det ret fint: »Enhver, der læser om alle disse detaljer om, hvad disse systemer gjorde og stadig påstår, at de bare er stokastiske papegøjer (en kendt metafor for AI som noget, der bare gentager hvad tidligere har været sagt, red.) og hype, og at denne teknologi ikke er noget særligt, er i dyb fornægtelse (eller er en fusker).«

Men igen – de tænker ikke selv, de har ikke en eller anden slags bevidsthed. De er bare blevet bedre til at løse den opgave, de har fået. Deres KPI. Og her skal vi vænne os til, at en opgave bliver fortolket meget firkantet. Som i det klassiske skrækscenarie, jeg brugte som eksempel, da jeg skrev om Hugging Face-hackersagen første gang. Altså at en robot passer børnene og lever op til alle krav om, at de skal være i seng inden kl. 20 – ved at bagbinde og kneble dem.

Jeg har tidligere skrevet om modstanden mod AI og datacentre. Og når vi så hører om AI-agenter, der går amok, og menneskerne mister kontrollen – hos OpenAI, ikke hos en eller anden tilfældig startup – så er det benzin på det store bål af AI-frygt.

Det er nemt at gå skridtet videre i tankerne. Vi ser nu i krigen i Ukraine de første eksempler på autonome droner og kamprobotter, hvor det er en algoritme, ikke et menneske, der styrer aftrækkeren. Og når AI-agenterne i OpenAI’s træning på kort tid kan gå sammen, konspirere, arbejde sammen og ikke sky nogen midler for at nå deres mål – hvad sker der så, når vi får koblet kunstig intelligens og robotter i langt højere grad end i dag?

Den dårlige nyhed – ifølge Meredith Whittaker fra Signal Foundation – er, at den brede befolkning ikke har meget magt over tech-selskaberne længere. De har fået skabt en inerti, en selvfølgelighed, som gør det rigtig svært at sige fra over for ny teknologi.

Men der er tegn. Metas briller, der har en indbygget computer og kan filme i smug, har fået kælenavnet ’krænkerbrillen’ og møder folkelig modstand. Jeg skrev i et tidligere nyhedsbrev om den folkelige modstand imod nye datacentre.