Juraprofessor: Pas på med at tro på chatbotter
Det kan få store konsekvenser for personer, hvis en chatbot skriver løgne om dem, advarer juraprofessor.
I sidste uge sad juraprofessoren Jonathan Turley og scrollede igennem sine mails, da han pludselig spærrede øjnene op.
For i mailboksen, lå en besked fra en medjurist, hvor der stod, at han gennem sit researcharbejde til et nyt studie havde bedt chatbotten ChatbotGPT om at lave en liste af jurister, der havde sexchikaneret nogen. Og der var Jonathan Turleys navn altså dukket op.
Det skriver The Washington Post.
Chatbotten skrev, at Turley var kommet med seksuelt orienterede kommentarer, og havde forsøgt at befamle studerende under en studietur til Alaska. Kilden var, ifølge chatbotten, en artikel fra The Washington Post fra marts 2018.
Problemet var bare, at denne artikel slet ikke eksisterede. Ligeledes havde studieturen til Alaska heller aldrig fundet sted. Desuden var Turley, ifølge ham selv, aldrig nogensinde blevet anklaget for sexchikane.
Eksemplet er bare et af en lang række, hvor en chatbot har misfortolket kilder eller ligefrem fabrikeret ny ”fakta”.
Og når chatbotter begynder at blande sandfærdige fakta med usandheder, kan vi ende på et faretruende skråplan, hvis vi bruger botterne til at søge efter reel fakta, mener Kate Crawford, der er professor på University of Southern California og forsker på Microsoft Research.
Hun har selv for nylig oplevet, at en journalist kontaktede hende, efter at have brugt en chatbot, for at spørge til et studie, chatbotten skrev hun havde lavet. Et studie som dog slet ikke eksisterede.
Derfor mener Eugene Volokh, der var juraprofessoren, som kontaktede Jonathan Turley om robottens anklager, at man skal være meget skeptisk, når man bruger chatbotterne til at søge information frem- især når det handler om information om personer.
Det kan f.eks. få store konsekvenser, hvis en arbejdsgiver bruger teknologien til at undersøge eventuelle nye medarbejdere, påpeger han. Han er dog ikke i tvivl om, at botterne er kommet for at blive.
Derfor advarer han mod, at man tror på, hvad chatbotterne skriver, selvom det kan fremstå pålideligt med kilder og citater.
