Alvorlig advarsel til Gmail-brugere: Direkte AI-angreb på din indbakke

Det ligner en almindelig mail.

Men bag teksten kan der gemme sig skjulte instruktioner, målrettet mod den kunstige intelligens, der hjælper dig med at sortere og forstå din indbakke.

Google advarer nu om en ny bølge af angreb, hvor svindlere udnytter netop denne teknologi, og Gmail-brugere er i skudlinjen.

Sådan virker angrebet

Bag det lyder navnet “indirekte prompt-injektion”.

Teknikken går ud på at skjule skadelige kommandoer i mailens usynlige tekst, som Googles AI-værktøj Gemini læser, når brugeren aktiverer funktionen “E-mail sammenfattet”. Det skriver Merkur.

Resultatet kan være dramatisk:

• E-mails videresendes automatisk til angriberen
• Filtre oprettes, der skjuler eller sletter spor
• Personlige oplysninger, herunder adgangskoder og kontakter, udtrækkes
• Der sendes mails i dit navn med phishing eller malware
• Dit omdømme – og måske din adgang til kontoen – står på spil

Ifølge sikkerhedseksperter kan Gemini tolke disse skjulte beskeder, selvom brugeren ikke ser dem.

Hvid tekst på hvid baggrund eller specialtegn med nul bredde kan bære kommandoer, som Gemini opfatter og udfører.

Sådan beskytter du dig

Google har iværksat modforanstaltninger, men teknikken er stadig farlig.

Derfor anbefales det:

• Deaktiver funktionen “E-mail sammenfattet”
• Stol aldrig på AI-genererede advarsler – de kommer ikke fra Google selv
• Slet mistænkelige mails med det samme
• Hold dit sikkerhedssoftware opdateret

Virksomheder bør isolere potentielt farlige mails automatisk og uddanne medarbejdere i at bruge AI med omtanke.

For truslen er reel, og indbakken er ikke længere et sikkert sted.