Morten Lyhne Petersen
OpenAI har åbnet sin nye Lockdown Mode for alle almindelige ChatGPT-brugere.
Funktionen afskærer chatbotten fra det åbne internet og er designet til at stoppe en voksende angrebstype, hvor skjulte instruktioner i filer eller på websider kan narre ChatGPT til at lække dine data. Den er slået fra som standard og skal aktiveres manuelt.
Indstillingen har eksisteret siden februar, hvor den blev lanceret til OpenAIs erhvervskunder på Enterprise- og Edu-planerne. Tidligere i juni begyndte udrulningen til private konti, herunder Free, Go, Plus og Pro.
Hvad er prompt injection
Lockdown Mode beskytter mod prompt injection. Det er en angrebstype, hvor en udefrakommende part forsøger at manipulere en chatbot til at følge skjulte instruktioner eller udlevere fortrolige oplysninger. Instruktionerne kan ligge gemt i en webside, et dokument eller en e-mail, som brugeren beder ChatGPT om at læse.
Angrebstypen er ikke teoretisk. PCWorld dokumenterer konkrete tilfælde, hvor Perplexitys AI-browser er blevet kapret, hvor Google Gemini er blevet brugt til at styre smarthome-enheder, og hvor personlige data er blevet stjålet via komprimerede billeder og Google Calendar.
Pointen er, at jo flere opgaver en AI-agent får adgang til at udføre på dine vegne, jo større er konsekvensen, hvis den narres til at arbejde for en anden.
Hvad slukker indstillingen for
Når Lockdown Mode er slået til, deaktiveres en række funktioner, der typisk forbinder ChatGPT med omverdenen: live websøgning bliver erstattet af cachet indhold, hentning og visning af billeder fra nettet stopper, Deep Research og Agent Mode slås fra, og ChatGPT kan ikke længere downloade filer til dataanalyse.
Billedgenerering virker stadig. Det er den indgående trafik, der bremses, ikke det, ChatGPT selv producerer.
Indstillingen aktiveres under “Sikkerhed og login” i ChatGPTs indstillinger, og brugeren kan slå den midlertidigt fra i den enkelte samtale via et “Manage”-felt over chatvinduet.
OpenAI selv er klar i mælet om, at det ikke er en funktion, alle behøver. “Lockdown Mode er ikke tænkt til alle. Den er designet til folk og organisationer, der håndterer følsomme data og ønsker strengere beskyttelse mod risikoen for datatyveri via prompt injection,” lyder det fra selskabet ifølge TechCrunch.
Hvornår skal du overveje at slå den til
For den almindelige bruger, der spørger om opskrifter og hjælp til e-mails, er det overkill. Lockdown Mode rammer netop de funktioner, der gør ChatGPT smart i dagligdagen, og den er ikke designet til at være tændt hele tiden.
Til gengæld er den relevant, hvis du bruger ChatGPT med fortrolige dokumenter, kontrakter, persondata eller intern korrespondance, og særligt hvis du bruger de nyere agent-funktioner, der kan handle på dine vegne på nettet.
Funktionen er heller ikke en absolut garanti. OpenAI gør selv opmærksom på, at prompt injection stadig kan forekomme via uploadede filer eller cachet webindhold, selv når Lockdown Mode er slået til. Det, den blokerer, er den sidste vej ud af systemet, hvor stjålne data ville blive sendt videre til en angriber.
Hvis indstillingen endnu ikke er synlig i din konto, er udrulningen ikke fuldført i din region. OpenAI har oplyst, at den i løbet af kort tid bliver tilgængelig på alle personlige konti.
