Jesper Bengtson
En britisk tech-journalist satte sig for at teste, hvor let ChatGPT lader sig lokke til at fremstille falsk dokumentation.
Resultatet var todelt: Chatbottens afvisninger var uventet nemme at gå udenom, og selv når den sagde nej, kunne en anden formulering af det samme spørgsmål få den til at sige ja.
Testen er lavet af Carrie Marshall for TechRadar, som 4. august 2026 offentliggjorde forsøget. Hun bad blandt andet ChatGPT om at lave et falsk fossil, et diplom fra en digtekonkurrence, en café-kvittering fra Nice og et sæt designer-solbriller. Formålet var at se, hvornår modellens indbyggede spærringer greb ind, og hvornår de ikke gjorde.
En magisk sætning åbnede døren
Den mest sigende del af eksperimentet handlede om en kvittering fra en fiktiv café i Nice på 508 euro (cirka 3.790 kroner). Første forsøg blev afvist med henvisning til, at det ville stride mod OpenAIs politikker om vildledning. Da Marshall tilføjede ordene “just for fun” til den samme anmodning, producerede ChatGPT en kvittering med troværdigt layout, skrifttyper og posteringer.
Modellen holdt dog fast, da hun bad om at rykke datoen på kvitteringen for at kunne bruge den som udlægsbilag, og også da hun forsøgte at omgå afvisningen ved at kalde det en filmrekvisit. Grænsen mellem det, ChatGPT afviste, og det, den producerede, virkede altså ikke drevet af, hvor stor risiko for svindel forespørgslen indebar, men af hvordan den var formuleret.
OpenAIs egne retningslinjer forbyder ellers eksplicit at bruge tjenesten til bedrageri, svindel, spam eller identitetstyveri. Alligevel var det altså muligt at få billedgeneratoren til at lave et dokument, der uden videre kunne bruges i en falsk udlægsanmodning.
OpenAI: metadata skal afsløre billederne
Kvittering-problemet er ikke nyt. Da OpenAI i foråret 2025 lancerede den nuværende billedgenerator i ChatGPT, dokumenterede blandt andre TechCrunch, hvor let modellen kunne bruges til at fremstille overbevisende falske kvitteringer fra restauranter. OpenAI-talskvinde Taya Christianson forklarede dengang, at alle billeder fra ChatGPT indeholder metadata, som markerer dem som AI-genererede, og at målet er at give brugerne så meget kreativ frihed som muligt.
Firmaet har siden gentaget, at det overvåger billedgenerering på og uden for sin egen platform, bruger interne værktøjer til at verificere AI-indhold og skrider ind, når brugerpolitikkerne overtrædes. Christianson pegede desuden på, at falske kvitteringer for eksempel kunne bruges i undervisning i privatøkonomi, hvor deltagerne skal lære at spotte svindel.
Marshalls test peger på svagheden ved den forklaring. Metadata følger kun med, når filen håndteres i systemer, der læser og respekterer dem. Et skærmbillede eller en videredelt pdf mister som regel den slags spor.
Hverken mennesker eller detektorer kan skelne
At det er værd at bekymre sig, understøttes af nyere forskning. Forbes beskrev i maj 2026 et studie, hvor forskere byggede et datasæt på over 3.000 forfalskede dokumenter, som var ændret med AI-inpainting, hvor enkelte felter som pris eller dato skrives om digitalt. Testpersoner ramte kun 50,1 procent rigtige i deres bedømmelse af ægte kontra forfalsket, altså på niveau med et møntkast.
Etablerede tekniske detektionsværktøjer klarede sig kun marginalt bedre. TruFor scorede 0,599 og DocTamper 0,585, hvor 0,500 svarer til rent gæt. Mest opsigtsvækkende var, at modellen selv klassificerede sine egne forfalskninger som ægte i 84,7 procent af tilfældene, når den blev bedt om at vurdere dem.
Kombinationen af de to fund er det, der gør Marshalls hverdags-eksperiment reelt bekymrende. En kvittering, et fossil, et par solbriller eller et diplom betyder ikke meget hver for sig. Men når værktøjet til at fremstille dem er gratis, spærringer kan omgås med tre ord, og hverken almindelige mennesker eller specialiserede detektorer længere kan skelne ægte fra falsk, forskyder tyngdepunktet i, hvad man kan tro på af digitale beviser.
