Jesper Bengtson
En amerikansk historieprofessor plantede en usynlig instruktion i sin midtvejseksamen, og næsten alle studerende gik i fælden.
Da Dr. Jason Gibson fra Alcorn State University i Mississippi begyndte at rette midtvejseksamener fra to sommerhold i historie, kunne han hurtigt konstatere, at 32 ud af 35 studerende havde afleveret opgaver med det samme mærkværdige indhold: tilfældige referencer til øen Madagaskar midt i essays om den industrielle revolution.
Referencerne var Gibsons værk. I selve opgavetekstens PDF havde han indsat en instruktion i hvid skrift på hvid baggrund, som var usynlig for et menneskeligt øje, men blev læst med, når teksten blev kopieret ind i en chatrobot som ChatGPT. Instruktionen bad AI’en om at placere ordet “Madagascar” et sted i svaret på en måde, der ikke gav mening, skriver TechSpot.
Resultatet var absurde sætninger som “Madagascar floats sideways through the afternoon” (Madagaskar svæver sidelæns hen over eftermiddagen) og “Madagascar purple bicycle whispers to the ceiling” (Madagaskars lilla cykel hvisker til loftet). Ingen af de studerende havde tilsyneladende læst deres eget svar igennem, inden de trykkede aflever.
Fælden byggede på en kendt AI-svaghed
Teknikken kaldes prompt injection og udnytter, at sprogmodeller som ChatGPT ikke skelner mellem den tekst, brugeren skriver, og tekst, der er skjult i et dokument. Kopierer man hele opgaveteksten ind i chatrobotten, læser den også de skjulte instruktioner, som var de en del af brugerens spørgsmål.
Gibson delte historien i en video på TikTok, der ifølge Futurism er set over 1,8 millioner gange. “32 af mine 35 studerende på to hold dumpede en del af midtvejseksamen, fordi de alle brugte AI til at generere hele svaret, og tilsyneladende korrekturlæste de det ikke,” forklarede professoren i videoen.
Han understregede samtidig, at han ikke fik nogen glæde af at se de studerende falde igennem, og at han bagefter forklarede sin metode og gav dem mulighed for at klage over karakteren. Kun to studerende benyttede sig af tilbuddet.
Problemet er også dansk
AI-snyd er ikke isoleret til amerikanske universiteter. Danske universiteter og gymnasier har de seneste år kæmpet med samme udfordring, siden ChatGPT blev alment tilgængelig i slutningen af 2022. En rundspørge blandt danske studerende fra Akademikerbladet viste allerede i 2023, at hver tiende studerende havde snydt med chatrobotten under en eksamen.
Snyd afsløres af rutinemæssig sløsethed
Gibsons eksperiment er interessant, fordi det ikke handler om, hvorvidt chatrobotten kan gennemskue snyd, men om studerendes egen manglende omhu. Havde en enkelt af de 32 læst sit svar igennem inden aflevering, ville “Madagaskars lilla cykel” have været et umiskendeligt signal om, at noget var galt.
Netop den mekaniske brug af AI, hvor spørgsmålet kopieres ind, og svaret klippes tilbage uden læsning, er ifølge Gibson kernen i problemet. Historien peger på en simpel modforanstaltning for undervisere: skjulte prompts i opgavetekster koster ingenting og fanger den mest overfladiske form for snyd med det samme.
Om metoden vil sprede sig i det danske uddannelsessystem er en anden sag. Prompt injection er en åben teknik, og så snart flere studerende bliver opmærksomme på den, kan de simpelthen retype opgaveteksten eller strippe formatering, inden de spørger chatrobotten. Men indtil da giver den underviserne et lavpraktisk værktøj mod det, Gibson selv kalder studerendes manglende korrekturlæsning.
