Falske anmeldelser kan blive sværere at opdage på grund af ChatGPT
Selvom falske anmeldelser ikke er et nyt fænomen, gør AI-chatbots som ChatGPT det muligt at skrive så overbevisende anmeldelser, at det kan være svært at opdage det.
På et øjeblik kan en AI-chatbot som ChatGPT generere falske anmeldelser af restauranter, hoteller og virksomheder, og de kan være særdeles svære at få øje på i strømmen af anmeldelser.
Derfor er der nu - i endnu højere grad end normalt - god grund til at være kritisk, når man læser anmeldelser på nettet. Det skriver avisen The Guardian.
Inden ChatGPT for alvor gjorde sit indtog blokerede Google i 2022 allerede over 115 mio. falske anmeldelser af restauranter, hoteller og virksomheder. Tripadvisor identificerede 1,3 mio. falske anmeldelser samme år, mens hjemmesiden Trustpilot fjernede 2,7 mio. falske anmeldelser i 2021.
Før i tiden har de mange falske anmeldelser været relativt lette at opdage på grund af mærkeligt sprog eller generiske beskrivelser, skriver The Guardian. Det har ChatGPT imidlertid lavet om på.
For at undersøge hvorvidt man kan stole på anmeldelser på nettet, udførte mediet et eksperiment på hjemmesiden Tripadvisor.
På kort tid kunne journalisterne overtale chatbotten ChatGPT til at skrive en række falske anmeldelser, der var så realistiske, at hjemmesidens screeningprocesser ikke kunne opfange, at de var skrevet af kunstig intelligens.
Blandt andet kunne ChatGPT skrive en positiv anmeldelse om et firestjernet hotel i Kraków og beskrive det som »fantastisk« og »en kort gåtur fra det centrale torv«, mens den et øjeblik senere i en ny anmeldelse skrev, at hotellet var »småt, trangt og gammeldags«.
Derudover viste det sig, at ChatGPT af sig selv kopierede opbygningen af Tripadvisors anmeldelser med stjerner og en overskrift efterfulgt af en længere tekst.
The Guardian slettede selv de falske anmeldelser fra hjemmesiden efter kort tid.
Ifølge mediet mærker Tripadvisor allerede en stigning i anmeldelser, som formentlig er skrevet af AI.
»I år har Tripadvisor allerede fjernet mere end 20.000 anmeldelser, som vi tror indeholder AI-genereret tekst,« siger virksomheden blandt andet til The Guardian.
