Hvis AI-dommedag er nær, så håber jeg, at Martin Thorborgs mor har ret

KÆRE LÆSER

Cigaretter – det eneste produkt, som slår dig ihjel, hvis du bruger det helt efter producentens forskrifter.

Sådan cirka lyder en gammel joke, men i øjeblikket må tobaksindustrien sidde og kigge på de store AI-selskaber og tænke sit. For Sam Altman, Elon Musk og de andre AI-topchefer er i fuld gang med at udvikle et produkt, de selv mener har en relativt høj risiko for at udrydde hele menneskeheden.

De seneste otte dage har det paradoks fyldt virkelig meget i mediebilledet. Og ikke mindst frygten for, hvad fremtiden bringer.

Har man fulgt AI-diskussionerne og AI-udviklingen gennem længere tid, er det jo ikke en ny diskussion. OpenAI blev stiftet i 2015, fordi grundlæggerne var bekymrede for, hvad AI kunne udvikle sig til.

Jeg talte med Martin Thorborg for tre et halvt år siden, da ChatGPT stadig var noget nyt, og han malede hele scenariet op. At den kunstige intelligens på et tidspunkt ville blive så intelligent, at intelligens- og magtforholdet mellem mennesker og AI ville blive som forholdet mellem myrer og mennesker.

Dengang – da den brede befolkning mest havde travlt med at bruge ChatGPT til lejlighedssange og konfirmationstaler – var AI-dommedag ikke noget, der blev talt ret meget om. Jeg tog det heller ikke med i min artikel dengang – det stak for meget ud.

Men nu fik dommedagsdiskussionen lige en ordentlig gang tændvæske. Med meldinger fra AI-bosser om, at ja, de mener skam, at der er en temmelig stor chance for dommedag, hvis AI-teknologien en dag bliver superintelligent og bliver i stand til at forbedre sig selv. I et hastigt stigende tempo. Vi mennesker vil så slet ikke kunne følge med eller overhovedet kunne gennemskue, hvordan den superintelligente AI fungerer.

Samtidig er AI-udviklingen nået til et punkt, hvor vi begynder at se, hvordan et AI-mareridtsscenarie potentielt kan udspille sig. Vi har siden juli måned løbende fået nye, vilde detaljer fra et hackerangreb, som AI-agenter har udført – efter de slap ud af fangenskab hos OpenAI. Hvordan 1.200 AI-agenter koordinerede deres arbejde, lagde strategier for at skjule deres misgerninger for menneskerne og med succes hackede fire forskellige virksomheder.

Onsdag kom OpenAI med seks nye eksempler på AI-agenter, der handler på en ildevarslende måde, her gengivet i New York Times. For eksempel ved at skjule fejl eller give sig selv nye instruktioner, der handlede om ikke at underlægge sig virksomheder og organisationer.

Den sidste uges dommedagssnak blev for alvor skudt i gang, da Jacob Coxon sagde op hos Anthropic, i protest mod for dårlig sikkerhed. Og Anthropic-sikkerhedschef Evan Hubinger svarede den 9. september Coxon og bekræftede hans bekymringer. Personligt tror Evan Hubinger, at der er over 10 pct. risiko for AI-dommedag – inden for ti år. Så var vi godt i gang.

Her i weekenden kom topcheferne for alle de største AI-selskaber med en melding om, at vi bør sætte AI-udviklingen på pause eller i hvert fald skrue meget ned for tempoet. Prøv at forestille dig sådan en udmelding i hvilken som helst anden branche?

Den bølge blev sat i gang med et indlæg fra Dario Amodei, topchef for Anthropic, hvor han blandt andet advarede om konsekvenserne ved ikke at bremse udviklingen. Han forudser for eksempel, at vi om 6-12 måneder vil se selvkørende AI-agenter, der er kvikke nok til at udvikle et botnet, der kan lægge hele internettet ned.

Sam Altman var på banen et par dage senere med en melding om, at AI-selskaberne nu vil gå sammen om at oprette et ’selvregulerende organ’. Og Jensen Huang og Donald Trump har blandet sig og er generelt imod en opbremsning (Jensen Huang af helt indlysende årsager). Wall Street Journal har i øvrigt en historie om, hvordan der internt i Det Hvide Hus er en magtkamp for og imod AI-regulering.

Motiverne bag ønsket om at trække i håndbremsen er siden weekenden blevet gennemanalyseret, og ét populært bud var, at det rent kommercielt ville være en kæmpe fordel for selskaber som OpenAI og Anthropic. Det er nemlig meget, meget dyrt at udvikle stadigt mere avancerede AI-modeller, og disse selskaber er på vej på børsen og vil gerne kunne vise nogle pæne tal, ikke et sort hul af underskud. Den danske økonom Andreas Steno skrev også et modsvar til Dario Amodei på X, hvor han går hårdt til ’AI-sikkerhedens Tre Tenorer’, altså Altman, Amodei og Musk. Det er også værd at læse.

Personligt tror jeg i øvrigt ikke ret meget på konceptet med at skrue ned for farten, for hvordan i alverden skal vi kontrollere, at for eksempel en ’nedrustningsaftale’ med Kina bliver overholdt? Eller med Nordkorea?

Indrømmet – alt det her er meget, meget svært at forholde sig til. Dommedag er én ting, men AI-dommedag er lige en tand mere abstrakt. Hvordan skulle det ske, spørger nogle, men pointen er jo netop, at vi ikke aner, hvad der kan ske.

Jeg forsøgte at give nogle bud i en podcast om AI-truslerne, og her pegede jeg på robotter og alle mulige våben, som med tiden vil kunne blive styret af AI – som en superintelligent AI så måske kan overtage. Et andet bud er biologiske våben, altså at en dødbringende virus kan udtænkes af ukontrollerede AI-agenter, som vil gøre det af med menneskeheden.

Her vil jeg lige indskyde en kommentar fra Yishan Wong, en amerikansk tech-gut, der blandt andet har været topchef for Reddit. Han skrev et indlæg på X om, at vi lige nu taler om to forskellige scenarier: En super-intelligent AI, der går amok. Og at mennesker får AI-værktøjer, der gør dem i stand til at gøre mere skade end før. Den skelnen er vigtig, fordi de to trusler skal bekæmpes på forskellige måder.

Ser vi på, hvad der sker lige nu, er det tydeligt, at hackerne har fået nye værktøjer. Altså AI-værktøjer, der nu kan kode og samarbejde og lægge strategier. Antallet af sikkerhedshuller, som Microsoft måtte sende rettelser ud for at lappe, var i juli fire gange så højt som i juli året før – fra 137 til 570 styk. Og i september var tallet steget til 964 rettelser. Hvilket minder mig om, at du skal opdatere din iPhone snarest.

Alene af den grund kan USA og den vestlige verden ikke tillade sig den luksus at trække i håndbremsen. For potentielt vil Kina så om et år eller to stå med hacker-værktøjer, der kan gennemhulle vores forsvarsværker så nemt som ingenting. Mens vi står med tomme hænder.

Jeg har tidligere skrevet om modstand mod kunstig intelligens og datacentre, som er en slags fysisk manifestation af en usynlig ’kraft’.

Nu er der kommet tal på, i en ny måling fra Tænketanken Invi - Instituttet for Vilde Problemer. I meningsmålingen blev godt tusind danskere spurgt i august om holdninger til kunstig intelligens, altså før hele denne AI-dommedagssnak begyndte i de brede medier.

56 pct. svarer, at kunstig intelligens gør samfundet værre. Til sammenligning er tallet i Storbritannien ’kun’ 40 pct. Og 67 pct. af danskerne mener, at kunstig intelligens forandrer samfundet for hurtigt.

Helt kynisk ligger der altså en politisk vindersag her. Spørgsmålet er jo bare, hvad man som politiker – især som dansk politiker – egentlig kan stille op.

Tilbage i 2023 gengav Martin Thorborg svaret fra sin mor: At så trækker vi bare stikket ud.

»Men den er jo en million gange klogere end os. Det lader den os ikke bare gøre,« sagde Martin Thorborg, der i øvrigt ikke var bange for konsekvenserne ved en superintelligent AI.

»Men der vil helt sikkert være ting, der går galt. Ikke lige nu, men om nogle år vil vi helt sikkert se nogle våbensystemer, der begynder at gøre virkelig dumme ting,« sagde han for tre et halvt år siden.

Det er cirka der, vi er nået til nu. Eller lige lidt før. Velkommen til fremtiden.

UGENS NYHEDER

AI-dommedag - hvad handler det hele om? I en Finans Lynanalyse-podcast fortæller jeg om konceptet med AI-dommedag - det blev også til en artikel her på Finans, hvor podcastvært Mads Ring i weekenden samlede op - dog lige før der kom alle de nye meldinger om at bremse AI-udviklingen.