Nicolai Busekist
På trods af at være blevet advaret om det, så nægter Google at rette op på problemet.
På trods af gentagne advarsler fodrer mange brugere stadig kunstig intelligens med deres mest personlige oplysninger. Selvom den største risiko ofte ligger i selve delingen af data, viser det sig nu, at der findes en endnu mere alvorlig trussel.
En fejl i Googles AI-værktøj Gemini gør det nemlig muligt at stjæle brugernes data – men virksomheden nægter at rette fejlen og lægger i stedet ansvaret over på brugerne. Det skriver mediet pplware.
Google er kendt for at tage sikkerhed alvorligt og for at implementere forskellige foranstaltninger til at beskytte sine produkter. Alligevel viser det sig, at virksomheden ikke er villig til at løse et alvorligt sikkerhedsproblem, der for nylig blev opdaget i Gemini.
Ifølge flere eksperter er systemet sårbart over for en særlig type angreb, hvilket betyder, at brugernes fortrolige oplysninger kan være i fare.
Sikkerhedsforskeren Viktor Markopoulos har udført en test, der afslørede, at Gemini er sårbar over for et angreb kendt som ‘ASCII-smugling’. Denne metode gør det muligt at skjule ondsindede AI-kommandoer i almindelig tekst, herunder i e-mails eller kalenderinvitationer.
En hacker kan derfor skrive en skjult kommando i en ekstremt lille skrifttype eller i samme farve som baggrunden, så brugeren ikke opdager den.
Når en bruger derefter beder Gemini om at opsummere teksten, vil AI’en læse den skjulte kommando og udføre den – uden at brugeren opdager det.
Det kan få alvorlige konsekvenser, da en skjult kommando eksempelvis kan få Gemini til at finde følsomme oplysninger i brugerens indbakke, såsom kreditkortnumre eller adgangskoder, og sende dem videre til en tredjepart.
Risikoen bliver endnu større, fordi Gemini nu er integreret i Google Workspace (Gmail, Kalender m.m.). Markopoulos rapporterede sine fund til Google og lavede endda en demonstration, hvor han skjulte en kommando, der fik Gemini til at omdirigere brugeren til et ondsindet websted.
Men Google afviste hans rapport og kaldte problemet en ‘social engineering-taktik’ snarere end en egentlig sikkerhedsfejl. Ifølge virksomheden ligger ansvaret derfor hos brugeren selv. Dermed tyder intet på, at Google planlægger at udgive en opdatering, der løser problemet i den nærmeste fremtid.
Ifølge forskningen har populære AI-værktøjer som ChatGPT, Claude og Copilot beskyttelse mod denne type angreb. Derimod er Gemini, Grok og DeepSeek stadig sårbare.
Situationen har vakt stor debat i teknologiske kredse og fornyet bekymringen over AI-systemers datasikkerhed, hvilket især er gældende, når ansvaret for beskyttelse skubbes over på brugerne.
