Vi svømmer i dårlig software

KÆRE LÆSER

Da Artemis 2-missionen i starten af april var på vej mod månen, opstod der et meget jordnært problem: Astronauternes computer havde to udgaver af Outlook kørende samtidig, og det gav problemer med at tjekke e-mails fra jorden. Det blev fikset med fjernkontrol fra NASAs it-support.

Sammen med toiletproblemerne var det mest lidt sjovt, at de også på en månemission havde meget dagligdags problemer.

Men computeren, der skulle drive al teknikken i rumkapslen, var selvfølgelig ikke en helt almindelig Windows-computer med Outlook. Den var bygget specielt til formålet, læste jeg om i en (ret nørdet) artikel, jeg faldt over.

Den korte version: På grund af stråling i rummet kan hardwaren lettere fejle eller give forkerte svar end på jorden, så den centrale computer i rumskibet var bygget til at kunne håndtere selv ekstreme situationer. Hjernen i computeren, CPU’en, var der hele otte styk af. De kørte i sync, så der altid var en klar til at køre videre, hvis nogle af dem satte ud. Eller hvis der kom forkerte svar ud fra en af dem på grund af strålingen.

Tilbage i 1969, da menneskeheden for første gang ville lande på månen, var computere noget ret nyt. Men NASAs ingeniører var helt på forkant og byggede nogle meget driftssikre computere. Alligevel var det ved at gå helt galt, lige da Armstrong og Aldrin var på vej ned mod månens overflade.

I en anden (og endnu mere nørdet) artikel fra Ars Technica fik jeg lige genopfrisket historien: En radar på månelandingsmodulet begyndte at sende en masse fejlmeddelelser til hovedcomputeren, som så blev overbelastet. Det hele blev løst med to gange genstart – en mild version af en genstart, hvor alle de vigtige data om landingen stadig blev gemt i computeren. Og astronauterne kunne lande sikkert (med manuel styring og meget lidt brændstof tilbage, men det er en anden historie).

Jeg har taget de her eksempler med, selvom mit tech-nyhedsbrev ikke skal handle om rumfart hele tiden. Men det mindede mig om, hvordan vi nede på jorden accepterer, at computere og software ikke bare virker, men ofte driller lidt. Eller går helt i sort.

Ja, jow, hvis man voksede op med Windows 98 eller ME, så er dagens computere og styresystemer bundstabile i sammenligning. Det er dejligt. Men så er der så meget andet, hvor vi stadig accepterer en masse fejl og mangler.

Der er adskillige historier om elbiler, der kommer på markedet, selvom softwaren ikke er helt klar endnu. Skærmen går i sort, den adaptive fartpilot bremser uden grund på motorvejen, og den slags ret kritiske fejl.

Det bliver så efter lidt tid klaret med en softwareopdatering, måske skal man forbi værkstedet for at få den, hvis bilproducenten ikke har lært af Tesla og kan sende opdateringerne afsted ’gennem luften’ (Over The Air).

Computerspil var engang noget, man købte på en cd-rom, og så skulle det bare virke. Da man begyndte at kunne sende opdateringer over internettet, blev de første versioner af et spil mere og mere halvfærdige. Så kunderne brugte 400-500 kr. på et spil, der egentlig ikke var helt færdigbagt, og så måtte man vente på (og bakse med) opdateringer, før man havde et færdigt produkt.

På arbejdet har alle nok oplevet nye it-systemer, der bliver taget i brug under stor fanfare, men den første tid er plaget af alverdens børnesygdomme. Noget som i bedste fald kun koster en masse tid, men i værste fald kan gå ud over forretningen.

Måske er det bare et grundvilkår i en digital og meget mere kompleks verden, for det er selvfølgelig meget, meget dyrere at udvikle computere og software, som om det skulle sendes til månen. Skal man have et nyt it-system, får man nogle tilbud, og så vælger man nok ikke det, som koster 35 mio. kr., hvis andre vil gøre det for 10 mio. kr.

Selvom det sikkert i nogle tilfælde havde været en bedre forretning at købe noget, som der er lagt mere kærlighed i. For fejl eller nedbrud koster også.

Men vi har også bare vænnet os til, at det handler om at ’shippe’ hurtigt, og dermed at udvikle software hurtigt. En af pointerne i historien om computersystemet til Artemis-missionen var, at de ikke kunne bruge agil udvikling. Det er en i dag meget udbredt metode til softwareudvikling, hvor man tager mange korte ’sprints’ og dagligt holder korte møder.

Agil udvikling har ellers generelt været en fordel for softwareprojekterne. Tidligere kunne store projekter fejle spektakulært, fordi man forsøgte at planlægge alt på forhånd og så låste hele projektet fast, selvom der opstod problemer undervejs. Eller de forskellige elementer kunne køre i hver sin retning, fordi man forsøgte at tage kæmpebidder, uden at koordinere undervejs.

Men den agile metode går ud over softwarekvaliteten, siger Michael Riley i artiklen om hardware og software til Artemis-missionen . Han er leder af instituttet for softwareudvikling på det tekniske universitet Carnegie Mellon i USA, og han har arbejdet tæt sammen med NASA. Gammeldags dyder som en stringent opbygning af softwaren går tabt, og projekterne bliver sammensat af en masse mindre bidder, som tilsammen gør det meget kompliceret og skaber fejl.

Vi klarer os nok her på jorden med det nuværende kvalitetsniveau, selvom det er irriterende (og for dem, der har købt en ny bil, der ikke virker helt endnu, ekstremt skuffende).

Men næste bølge er på vej – kode skrevet ved hjælp af AI. Også kendt som vibe coding.

Der er mange forskellige niveauer her, fra hjælp til eksperterne, som nu kan kode hurtigere, men stadig har hånd i hanke med hver en linje – til at enhver kan få den kunstige intelligens til at kode hele systemer for os.

Så bliver softwarekvalitet for alvor et spændende emne. Det er nemlig ikke noget, man lige kan vurdere udefra, på samme måde som man kan måle brudstyrken i stål eller fedtindholdet i hakket kød.

Der skal en mirakuløs omgang selvkontrol til, hvis ikke nogle vælger den hurtige og nemme løsning og sælger AI-skabt kode, uden at vide præcis, hvordan det egentlig er klistret sammen under motorhjelmen.

Det bliver ikke software, man har lyst til at flyve til månen med. Eller have i styresystemet i sin bil.

Men så må vi håbe på, at der med tiden vil komme nye AI-værktøjer, der løser det problem.

UGENS NYHEDER

Apple får ny topchef – hardwaremanden John Ternus. Vi skal snart vinke farvel til Tim Cook, der overtog verdens måske mest utaknemmelige job som afløser for Steve Jobs. Men de forløbne 15 år har vist, at det gik jo meget godt endda. Nu skal Apples leder af hardwareudvikling John Ternus overtage, fra 1. september. Jeg kiggede nærmere på både Tim Cooks tid som Apple-boss og på forventningerne til den kommende topchef.

John Ternus (t.v.) vil afløse Tim Cook som topchef for Apple til september. Han skal nu både leve op til Tim Cooks og Steve Jobs’ succes. Foto: PR

Novo Nordisk indgår stort samarbejde med OpenAI. Kunstig intelligens kan sætte turbo på udviklingen af ny medicin, og Novo Nordisk indgår derfor nu et partnerskab med OpenAI. Men foreløbigt er det småt med oplysninger om, hvad det konkret betyder, rapporterede mine kollegaer Iben Schmidt og Anna Sofie Laue. Og det kan i værste fald give bagslag, hvis OpenAI kan lære en masse af Novo Nordisk, men ender med at blive en trojansk hest, advarer eksperter. Altså springer ud som en konkurrent bagefter, efter at have trænet AI-modeller på Novos data.

Anthropic vokser voldsomt med værktøjer til at kode. Nye tal fra Anthropic, den store konkurrent til OpenAI, viser en enorm vækst: Omsætningen er mere end tredoblet siden december - altså på fire måneder. Til et niveau, der svarer til en årlig omsætning på 190 mia. kr. Det fik nogle til at konkludere, at Anthropic nu er større end OpenAI – og det ville for alvor være en vild udvikling – men de to selskaber opgør omsætning på forskellig vis, så det holdt ikke helt i praksis.

Sikkerhedskaos? Anthropics AI-model Mythos er too hot to handle. En af de store historier, mens jeg holdt ferie i sidste uge, var Mythos fra Anthropic. Som endte med at blive, well, mytisk, for Anthropic ville gerne fortælle om men ikke frigive den nye AI-model. Den var nemlig så god til at finde sikkerhedshuller i software, at det ville være ekstremt farligt, lød forklaringen. Et af eksemplerne var, at Mythos havde fundet et kritisk sikkerhedshul i styresystemet FreeBSD, som ellers bliver anset for meget sikkert. Og hullet havde været der i 27 år, uden at noget menneske havde set det. Indtil nu holder Anthropic derfor Mythos i kort snor, så kun Microsoft, Google og et par andre store tech-selskaber har fået adgang. Er det reelt, eller er det mest hype? Det må tiden vise. Hos det danske tech-medie Version2 lyder dommen, at det mest af alt er god markedsføring.

Er Intel i gang med et gigantisk comeback? I aften kommer Intel med regnskab, og det sker efter en måned, hvor aktiekursen er steget med næsten 50 pct. Intel, den tidligere så dominerende chip-producent, har været i en massiv krise, hvor teknologien haltede efter taiwanske TSMC (som producerer for Apple og Nvidia, blandt mange andre). Men på det seneste har Intel kunnet sende mange gode nyheder ud. En aftale med Elon Musk om at være leverandør af chipproduktion til det store Terafab-projekt er den seneste fjer i hatten. Samlet er Intels aktiekurs mere end tredoblet på et år. Undervejs har Trump-regeringen blandt andet skudt 10 mia. dollars ind i Intel og taget en ejerandel, for det er strategisk afgørende for USA at have en chipproducent på egen jord.

UGENS ANBEFALING

Én person står med en enorm magt over vores fremtid. Men kan vi på nogen måde stole på ham?

Sådan lyder oplægget til The New Yorkers portræt af Sam Altman, topchef for OpenAI, som er skrevet af de anerkendte journalister Ronan Farrow og Andrew Marantz.

De har talt med et trecifret antal mennesker, der har arbejdet sammen med Sam Altman, og hele vejen igennem bliver der tegnet et billede af en mand, som gerne lyver, hvis det hjælper ham.

Et eksempel: Sam Altman konfronterede engang to ansatte med oplysninger om, at de var i gang med et kup imod ham. En anden chef i OpenAI havde fortalt om det, sagde Sam Altman. De to, Daniela og Dario Amodei, hentede så den pågældende chef ind til mødet, og han nægtede at have sagt noget som helst i den stil. Hvorefter Sam Altman slår helt bak og siger, at han aldrig har beskyldt dem for at planlægge et kup. De to søskende, som historien handler om, dropper siden ud af OpenAI og stifter Anthropic. Sam Altman har en anden version af den episode.

Advarsel: Det er en lang artikel. Meget lang. Det tager faktisk en time og 43 minutter at lytte til den hele. Men det er spændende læsning om en mand, der har fået en fuldstændig central rolle globalt, både i tech-sammenhæng og i vores samfund generelt.

Man skal have abonnement, men det kan købes ret billigt, hvis man vil læse portrættet.