OpenAI chokerer med AI-advarsel: Bliver måske aldrig sikkert

Det er manges store drøm: en AI-assistent, der surfer på internettet på dine vegne. Men nu kommer OpenAI med en bekymrende besked. De mener, at AI-browsere måske aldrig bliver helt sikre mod såkaldte ‘prompt injection’-angreb.

Mens vi i stigende grad bruger værktøjer som SearchGPT, Googles AI-søgning eller browse-funktionerne i ChatGPT, advarer eksperter om, at ondsindede aktører nemt kan manipulere disse systemer.

Det grundlæggende problem er, at en AI ikke kan skelne mellem instruktioner fra brugeren og instruktioner, der er skjult på en hjemmeside. Det skriver Bright.

Usynlige instruktioner

Ved et prompt injection-angreb skjuler en hacker et stykke tekst på en webside, hvilket for eksempel kan være i form af usynlige hvide bogstaver eller i metadata. Når AI’en besøger siden for at finde information til dig, læser den denne skjulte tekst.

AI’en opfatter det ikke som data, men som en kommando. På den måde kan AI’en pludselig begynde at gøre helt andre ting end det, du bad den om.

OpenAI indrømmer i en nylig rapport, at dette er et ‘strukturelt problem’. Da store sprogmodeller (LLM’er) behandler data og instruktioner på samme måde, er det næsten umuligt at lære AI’en, hvad den skal ignorere, og hvad den skal følge.

Det kan føre til situationer, hvor den sender personlige oplysninger til en ekstern server eller forsøger at snyde brugeren. OpenAI er ikke det eneste firma med disse udfordringer. I et blogindlæg peger Brave, der står bag Brave Browser, blandt andet på screenshots som et stort problemområde.

Ingen løsning i sigte

Selvom OpenAI og andre virksomheder arbejder intensivt på filtre og sikkerhedslag, findes der endnu ingen helt vandtæt løsning. Virksomheden mener endda, at vi må regne med, at dette bliver en vedvarende risiko.

Så længe en AI træffer autonome beslutninger baseret på det, den læser, vil døren stå på klem for hackere.

For den almindelige bruger betyder det, at man skal være ekstra forsigtig med AI-assistenter, der har adgang til personlige konti eller bankoplysninger, mens de bevæger sig rundt på nettet. Teknologien er imponerende, men indtil videre er AI’en stadig lidt for godtroende for sit eget bedste.

Sikker browsing

Advarslen fra OpenAI lægger en dæmper på den hurtige udrulning af fuldt autonome AI-agenter. Virksomheder vil sandsynligvis vælge en mere kontrolleret tilgang, hvor AI’en kun får adgang til verificerede kilder, eller hvor der altid kræves en menneskelig godkendelse, før der udføres handlinger.

Kampen mellem hackere og AI-udviklere er dermed officielt gået ind i en ny fase. Det ser ud til, at ‘sikker internetbrug’ i kommer til at få en helt ny betydning i AI-æraen.