Nicolai Busekist
I sidste måned advarede Google om, at Gmail-brugere kan blive ofre for en ny type hackerangreb, der har til formål at få adgang til deres data.
Hackere, der bruger internettet til at narre folk til at afgive deres oplysninger og adgangskoder, er ikke noget nyt. Men de nyeste tendenser viser, at ondsindede aktører bliver stadig mere kreative.
I et nyligt blogindlæg i understregede Google alvoren af disse forsøg på at stjæle brugernes data.
“Med den hurtige udbredelse af generativ AI opstår der en ny bølge af trusler på tværs af branchen med det formål at manipulere selve AI-systemerne. En af disse nye angrebsmetoder er indirekte prompt-injektioner,” stod der i indlægget.
I praksis betyder det, at hackere bruger Google Gemini – det indbyggede AI-værktøj i Gmail og Google Workspace – imod brugerne ved at narre AI’en til at hjælpe dem med at få fat i personlige oplysninger.
Hackere sender e-mails med skjulte instruktioner, som får Gemini til at generere falske phishing-advarsler, der ser ud som om de kommer fra Google. Det narrer brugerne til at oplyse deres adgangskoder eller klikke på ondsindede links.
Mozillas sikkerhedsteam 0din fandt i sidste uge bevis på netop denne type angreb.
Deres rapport viste, hvordan AI’en kunne snydes til at vise en falsk sikkerhedsadvarsel. Advarslen kunne påstå, at brugerens konto eller adgangskode var blevet kompromitteret, hvilket førte til, at brugeren tog handling – og uforvarende opgav sine oplysninger.
Tricket virker ved, at prompten (instruktionen til AI’en) gemmes i hvid tekst, som falder i ét med e-mailens baggrund. Hvis brugeren klikker på ‘Opsummer denne e-mail’, vil Gemini læse både den synlige og den skjulte tekst – og dermed reagere på det skjulte budskab.
0din-teamet opfordrer derfor Googles intet mindre end 1,8 milliarder Gmail-brugere til at ignorere enhver form for Google-advarsel, der vises via AI-sammendrag, da dette ikke er måden, Google udsender advarsler på.
Google gentog i blogindlægget, at virksomheden løbende forbedrer sine teknologier for bedre at kunne beskytte mod disse nye trusler og cyberangreb.
“Google har valgt en lagdelt sikkerhedstilgang og har indført sikkerhedsforanstaltninger, der er designet til hver fase af promptens livscyklus,” stod der i indlægget.
“Fra styrkelsen af Gemini 2.5-modellen, til specialbyggede machine learning-modeller, der opdager ondsindede instruktioner, og systembeskyttelse på højere niveau – vi øger i væsentlig grad den indsats og de ressourcer, en hacker må bruge for at lykkes.”
“Denne tilgang tvinger angribere til at benytte metoder, der enten er lettere at opdage eller kræver flere ressourcer.”
“Den lagdelte tilgang til vores sikkerhedsstrategi styrker det samlede sikkerhedsnetværk omkring Gemini – igennem hele promptens livscyklus og på tværs af forskellige typer angrebsteknikker.”
