Nicolai Busekist
Gmail-brugere bliver i øjeblikket advaret om en ny form for svindel, som på kort tid har spredt sig bredt, og som kan være særdeles nem at falde for.
Svindlen retter sig især mod de brugere, der har aktiveret den nye Gemini-funktion i Gmail, hvor kunstig intelligens laver korte resuméer af indholdet i modtagne e-mails.
Advarslen kommer fra Suomen Telemarkkinointiliitto, der er en finsk organisation, som i de seneste uger har modtaget et stigende antal henvendelser om netop denne metode. Ifølge organisationen udnytter svindlerne en meget enkel fremgangsmåde.
De sender en e-mail, som umiddelbart virker helt uskyldig, men i slutningen af mailen har de indsat et stykke tekst skrevet med hvid skrift, så den er usynlig for læserens øjne.
Denne tekst er i stedet rettet mod AI’en Gemini, som læser alt indholdet – også det skjulte. Her bliver den kunstige intelligens instrueret i at tilføje en advarsel i e-mailens resumé. Resuméet, som vises øverst for brugeren, kan derfor indeholde en besked om, at brugerens Gmail-adgangskode er blevet lækket eller kompromitteret.
I samme besked står der ofte en opfordring til at ringe til et angivet ‘kundeservicenummer’, der i virkeligheden går direkte til svindlerne selv. Nummeret er typisk et betalingsnummer, hvor ofret ender med at blive opkrævet store beløb.
Samtidig bruger svindlerne samtalen til at manipulere brugeren til at udlevere personlige oplysninger, herunder bankoplysninger, eller til at lokke dem ind på falske hjemmesider. På den måde kan en tilsyneladende lille advarsel ende med at koste dyrt – både økonomisk og sikkerhedsmæssigt.
“I teknisk forstand er dette en meget simpel svindelmetode,” forklarer foreningens formand Arto Isokoski i en pressemeddelelse ifølge Mikrobritti.
Han påpeger, at en lignende teknik længe har været brugt i søgemaskineoptimering, hvor skjult tekst manipulerer resultaterne.
“Effekten af svindlen ligger i, at den virker overbevisende for dem, der stoler på de resuméer, som tjenesten leverer,” uddyber han.
Teknikken kaldes prompt-injektion eller input-manipulation. Den bruges til at få AI til at udføre handlinger, som den ellers ikke ville, på grund af indbyggede sikkerhedsforanstaltninger. Dermed kan AI’en manipuleres til at give adgang til oplysninger, som ellers burde være beskyttet.
Advarslen understreger, at brugere bør være særligt kritiske, når de læser AI-genererede resuméer i Gmail. Selvom funktionen kan være praktisk, viser denne type svindel, at kriminelle hurtigt finder måder at udnytte nye teknologier på.
