Antallet af svindelwebshops vokser eksplosivt – især på grund af ét nyt redskab
Kunstig Intelligens er et tveægget sværd, for imens vi tror på, at AI er et af fremtidens vigtigste redskaber til at bekæmpe it-kriminalitet, udnytter de kriminelle allerede tilgængelige AI’s til at snyde alt og alle. Hvordan tackler vi som samfund dette?
Dette er et debatindlæg: Finans bringer løbende indlæg fra specialister og meningsdannere. De er alle udtryk for den pågældende skribents egen holdning.
En ny undersøgelse fra Telenor Erhverv bekræfter det, som vi og andre it-sikkerhedsleverandører allerede havde registreret: Nemlig at it-kriminelle i stigende grad benytter kunstig intelligens til at ramme og lamme forbrugere og virksomheder.
Undersøgelsen fra Telenor Erhverv og Tænk viser, at antallet af anmeldte webshops er steget med 200 procent fra 1000 i 2016 til 200.000 i 2021.
Forklaringerne på den store stigning kan være mange. Lykkeriddere, som ville udnytte webshop-boomet under corona, er en del af den, og en anden del er, hvor let det er blevet at skabe falske hjemmesider, som både ser ægte og lokkende ud med tæt på perfekt oversat tekster, men som også udkommer på dusinvis sprog skabt med et enkelt klik.
Og hvordan sker det? Via, hvad jeg tror bliver Word of the Year 2023: ChatGPT – og andre kunstige intelligensløsninger.
For kunstig Intelligens er blevet de it-kriminelles yndlingsredskab. Siden lanceringen af ChatGPT i november 2022, har teknologieksperter og it-sikkerhedsvirksomheder verden over været bekymrede over den indvirkning, AI-genererede indholdsværktøjer vil have – og særligt inden for cybersikkerhed. Et spørgsmål mange stiller er, ”Kan AI-software demokratisere cyberkriminalitet?”
Svaret er, med den seneste undersøgelse, ja.
AI automatiserer fusk
Gentagne gang er det blevet bevist, hvordan AI skaber bedre phishing-e-mails og djævelsk effektive spear-phishing-beskeder – meget bedre end nogen menneskelig aktør kunne. Både fordi det går hurtigere og kan gøre det på samme sprog på samme tid og fordi AI’en er overraskende ”kreativ” og forstår, hvilke hjælpemidler der virker.
Et lidt ældre, men klart eksempel var ved Black Hat og Defcon-sikkerhedskonferencen i Las Vegas, hvor et team fra det singaporeanske teknologiagentur fremviste en automatiseret phishing-løsning bygget på AI.
Ved at bruge OpenAIs GPT-3-platform og andre AI-as-a-service-produkter fokuserede forskerne på personlighedsanalyse-genererede phishing-e-mails tilpasset deres kollegers baggrund og individuelle personligheder. Til sidst udviklede forskerne en pipeline, der plejede og forfinede e-mails, før de angreb deres tilsigtede mål. Til deres overraskelse leverede platformen også automatisk meget relevante detaljer, såsom at nævne en singaporeansk lov, som der skulle tages højde for, når AI’en blev bedt om at generere indhold til dens mål.
Skaberne af ChatGPT har allerede indbygget diverse AI-drevne funktioner til at stoppe for brugeradfærd med det formål at skade andre, men gang på gang ser vi, hvordan man både i forsøg – og i virkeligheden – kan omgå begrænsningerne.
Falske webshops er første trin i AI-tsunamien
Når du som forbruger – eller som virksomhed – falder for de mange nye, falske hjemmesider, er du heldig, hvis alt der sker er, at du aldrig får den vare, du har betalt for.
For er du rigtig uheldig, og ikke tager dine forholdsregler, så vil de it-kriminelle få adgang til dine kortoplysninger og potentielt kunne bruge dine informationer til langt være formål.
Uanset hvad er det en rentabel forretning for de it-kriminelle. At skabe en hjemmeside fra bunden kan klares med værktøjer fundet på den skjulte del af internettet for under 100 kroner, og ransomware-as-a-service og AI’s som ChatGPT – er også blot et stik i lommen.
Imens AI-problematikken skal tackles på et juridisk og politisk niveau, er it-sikkerhedsvirksomheder verden over i færd med at gøre sit for at beskytte dig og dine kunder. Også her er vi nødt til at tænke AI ind i ligningen, så mistænkelig adfærd opdages – og vi er nødt til konstant at følge med de it-kriminelles utømmelige kreativitet i jagten på den næste, tør jeg sige det, geniale angrebsmetode til at ramme dig eller din virksomhed.
Imens vi som it-sikkerhedsindustri gør vores for at beskytte privatpersoner og virksomheder, er det stærkeste råd, jeg kan give dig, at hvis noget lyder for godt til at være sandt, er det nok en løgn.
En løgn skabt at en kunstig intelligens.
