Kun AI kan beskytte mod AI: Tech-giganterne tager fremtiden som gidsel
OpenAI bliver ifølge mange analytikere verdens største it-sikkerhedsfirma i løbet af det kommende årti. Det sker vel at mærke samtidig med, at deres egne produkter udgør de væsentligste sikkerhedsudfordringer.
Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.
Er det okay at bygge en forretningsmodel, hvor man først udvikler en potentielt skadelig teknologi med lynets hast for derefter at tjene gigantiske summer på at beskytte os imod den selvsamme teknologi?
De fleste danskere kender ChatGPT, men de færreste ved nok, at virksomheden bag slet ikke har som plan at skulle tjene penge på AI-værktøjet.
Faktisk er ChatGPT en enormt dårlig forretning for OpenAI og forventes at vedblive med at være det. Paradokset er, at det ikke nødvendigvis vil være et problem for hverken virksomheden eller investorerne bag.
OpenAI har nemlig ikke sit hovedfokus på at kapitalisere på det produkt, vi alle sammen har lært at kende. I stedet ligger den helt store guldkalv i at beskytte verden imod de skadevirkninger og det misbrug, som AI-teknologien i fremtiden kommer til at muliggøre.
Endnu stærkere modeller
Indtil videre har vi slet ikke set de reelle og virkeligt alvorlige skadevirkninger. Det har været mindre, delvist iscenesatte eksempler som med ’Hugging Face’ og ’PHP-sikkerhedshullet’.
Der var i begge tilfælde skruet helt op for skræmmeretorikken, mens det ikke kunne matches af de reelle implikationer. Men sådan vil det ikke vedblive med at være.
OpenAI skjuler det faktum forbavsende lidt/dårligt i selskabets egen kommunikation om de førnævnte hændelser.
Tag blot selskabets første opslag om PHP-sikkerhedshullet, hvor de bl.a. skrev: ”Så vidt vi ved, fandt banebrydende AI disse sårbarheder før angriberne.”
Mens hjemmesideansvarlige over hele verden var i lettere panik på det tidspunkt, sørgede OpenAI for at positionere deres teknologi som ’banebrydende’ og tilføjede:
”Efterhånden som modellerne bliver stærkere, rækker mulighederne ud over at finde og rette enkelte sårbarheder.”
Vi har altså at gøre med en virksomhed, der profilerer sig på at udvikle både risikoen og løsningen, og man kunne som iagttager fra sidelinjen indvende: Jamen, hvis de er enige i disse risici, hvorfor pauser de så ikke udviklingen af disse stadigt stærkere modeller?
Det gør de ud fra en logik, man kender helt tilbage fra folkeskolen. Her var det også sådan, at man som barn ville undskylde sin ageren med, at en anden elev jo altså gjorde det samme. ”Når han må, så må jeg også.”
Defensiv AI bliver guldkalven
AI-techgiganter som OpenAI, Anthropic, Meta m.fl. kæmper altså om at have det globale ejerskab og førersæde, når det kommer til avanceret AI-teknologi.
Samtidig kommunikerer de på en måde, hvor de ikke lægger skjul på, at de ser et kæmpe marked være på vej. Det man kalder for ’defensiv AI’.
Defensiv AI er det teknologi- og rådgivningsben af techgiganternes forretninger, som skal levere den hjælp, som både virksomheder og lande i fremtiden vil være afhængige af for at kunne beskytte sig imod problemerne og truslerne ved AI.
For at markedsmodne dette forretningsområde er det i techgiganternes interesse dels at holde hastigheden på produktudviklingen høj, så den konventionelle sikkerhedsindustri ikke kan følge med, dels at bruge retoriske greb som ’banebrydende’, når de første misbrugssager udfolder sig i offentligheden.
På den måde indser markedet, at man er nødt til at alliere sig med firmaerne bag de komplekse AI-produkter, hvis man skal have en chance for at beskytte sig imod skadevirkningerne, og så vil aktiekurserne formentlig se hidtil usete højder pga. denne eksplosive vækst i defensiv AI.
Når man både leverer risiko og løsning
OpenAI er et skoleeksempel på dette. Virksomheden har endda i stilhed opbygget deres Daybreak-program - et lukket, applikationsbaseret initiativ, hvor organisationer mod betaling får adgang til OpenAI’s mest avancerede frontier-modeller specifikt til at forsvare sig mod AI-cyberangreb.
Selskabet opdaterede for nylig sine tal, som viser, at antallet af sårbarheder fundet gennem programmet er vokset eksplosivt fra 858 til 1.885, og PHP-krisen fungerer som den perfekte reklamesøjle for netop det.
Sideløbende har OpenAI lanceret et andet strategisk initiativ kaldet Patch the Planet, der officielt skal fremstå som filantropisk open-source-hjælp. I realiteten fungerer det imidlertid som en ramme for at integrere OpenAI’s modeller dybt ind i infrastrukturen hos globale techvirksomheder.
Tilsammen udgør det en markedsposition for techgiganten, hvor kun selskabets frontier-AI kan beskytte mod frontier-AI. Det er en markedsposition, hvor man selv leverer både ”risikoen” (ved at drive kapløbet fremad) og ”løsningen” (gennem de defensive platforme).
Spørgsmålet er så, om det virkelig vil blive accepteret af verdenssamfundet, at selskaberne på denne måde tjener gigantiske milliardbeløb på sikkerhedsproblemer, de selv er medvirkende til at forårsage?
