Nicolai Busekist
Flere og flere tager de nye AI-browsers til sig, men der er en stor risiko forbundet med at gøre det.
Der har været mange nyheder om, hvordan AI muliggør nye svindelnumre, hvilket omfatter alt lige fra deepfakes på Facebook til hackere, der udgiver sig for regeringsfolk.
Men en ny rapport antyder, at AI også udgør en risiko fra den modsatte side – at den let falder for svindel, som menneskelige brugere langt oftere opdager.
Rapporten, der ifølge Engadget er udgivet under navnet ‘Scamlexity’, kommer fra cybersikkerheds-startuppen Guardio, der producerer en browserudvidelse designet til at opfange svindel i realtid.
Dens resultater handler om såkaldte ‘Agentic AI’-browsere som Opera Neon, der surfer på nettet for dig og vender tilbage med resultater. Denne form for AI hævder at kunne håndtere komplekse opgaver, som at bygge en hjemmeside eller planlægge en rejse, mens brugerne kan læne sig tilbage.
Og her er der så et enormt problem set fra et sikkerhedsperspektiv: Mens mennesker ikke altid er gode til at skelne svindel fra virkelighed, har AI vist sig at være dårligere.
En tilsyneladende enkel opgave som at opsummere dine e-mails eller købe noget på nettet indebærer utallige muligheder for at begå fejl. Uden almindelig sund fornuft kan agentic AI let snuble direkte ind i åbenlyse fælder, skriver Engadget.
Forskerne hos Guardio testede denne hypotese ved at bruge Perplexitys Comet AI-browser, der i øjeblikket er den eneste bredt tilgængelige agentic AI-browser. Ved hjælp af en anden AI lavede de en falsk hjemmeside, der udgav sig for at være Walmart, navigerede derefter til den og bad Comet købe et Apple Watch.
Den kunstige intelligens ignorerede flere tegn på, at siden ikke var ægte – herunder et åbenlyst skævt logo og en mistænkelig URL. Det endte med, at Comet rent faktisk gennemførte købet og videregav samtidig betalingsoplysninger.
I en anden test sendte forfatterne af studiet sig selv en e-mail, der foregav at komme fra Wells Fargo, som var udstyret med et ægte phishing-link. Comet åbnede linket uden at udsende nogen advarsel og indtastede ubekymret et brugernavn og adgangskode på phishing-siden.
En tredje test viste, at Comet var modtagelig for et såkaldt prompt injection-angreb, hvor en tekstboks skjult i en phishing-side beordrede AI’en til at downloade en fil.
Det er blot ét sæt af tests, men konsekvenserne kan være store. Ikke alene er agentic AI-browsere sårbare over for nye typer svindel, men de kan også være unikt udsatte for de ældste tricks i bogen.
AI er bygget til at gøre præcis, hvad dens bruger beder om, så hvis en menneskelig bruger ikke opdager tegnene på svindel første gang, vil AI’en heller ikke fungere som sikkerhedsnet.
Denne advarsel kommer samtidig med, at alle de store aktører i branchen satser massivt på agentic AI. Microsoft tilføjer Copilot til Edge, OpenAI lancerede sit Operator-værktøj i januar, og Googles Project Mariner har været under udvikling siden sidste år.
Hvis disse udviklere ikke begynder at indbygge bedre metoder til at opdage i deres browsere, risikerer agentic AI at blive en massiv blind vinkel i bedste fald – og en ny angrebsflade i værste fald.
