Hackere bruger AI til mere avancerede angreb: Sådan beskytter du dig

Cyberkriminelle er begyndt at udnytte store sprogmodeller (LLM’er) til at udvikle en ny generation af phishingangreb, hvor indholdet tilpasses den enkelte bruger i realtid. Det skriver sikkerhedsforskere fra Palo Alto Networks’ analyseafdeling Unit 42 ifølge TechRadar.

Da generativ kunstig intelligens først begyndte at vinde mere og mere frem, blev der talt om en fremtid med dynamiske websites, hvor indhold ikke var fastlagt på forhånd, men blev skabt i øjeblikket ud fra brugerens adfærd, placering og enhed.

Den vision er endnu ikke blevet virkelighed i bredere forstand, men ifølge Unit 42 kan cyberkriminelle vise sig at være blandt de første til at udnytte teknologien i praksis.

Ifølge forskerne kan teknikken anvendes ved phishing ved, at et offer lokkes til at besøge en tilsyneladende harmløs hjemmeside. Siden indeholder ikke synlig skadelig kode, men sender i stedet nøje formulerede prompts til en legitim LLM-tjeneste.

Sprogmodellen returnerer herefter JavaScript-kode, som er unik for hver enkelt bruger og samles og afvikles direkte i browseren.

Resultatet er en fuldt funktionel og personlig phishing-side, som ikke leverer et statisk angreb via netværket. Det gør det vanskeligere for sikkerhedsforskere at opsnappe og analysere indholdet, da der ikke findes en fast payload.

Unit 42 understreger, at metoden primært fungerer som et proof of concept på nuværende tidspunkt. De har ikke observeret konkrete angreb af denne type i praksis, men peger på, at mange af byggestenene allerede anvendes.

LLM’er bruges i dag til at generere obfuskeret JavaScript, mens både AI-assisteret malware, ransomware og cyberspionage er ifølge rapporten i kraftig vækst.

Forskerne vurderer, at dynamisk genererede phishing-sider vil blive en central del af fremtidens svindel. Samtidig peger de på, at angrebene fortsat kan opdages.

“Dynamisk genererede phishing-sider er fremtiden for svindel, men det er stadig muligt at opdage dem gennem forbedrede browserbaserede crawlere,” lyder det fra Unit 42.

De anbefaler desuden, at organisationer begrænser brugen af ikke-godkendte LLM-tjenester på arbejdspladser.

“Selvom det ikke er en komplet løsning, kan det fungere som et vigtigt forebyggende tiltag,” skriver forskerne.

Endelig advarer Unit 42 om, at eksisterende sikkerhedsmekanismer i sprogmodeller kan omgås.

“Vores arbejde viser behovet for mere robuste sikkerhedsværn i LLM-platforme, da omhyggelig prompt engineering kan omgå nuværende beskyttelse og muliggøre ondsindet brug,” konkluderer rapporten.