Nicolai Busekist
Kriminelle har naturligvis også taget AI til sig i stor stil, og for både forbrugere og virksomheder er det bestemt ikke positivt.
Googles Threat Intelligence Group har identificeret en bekymrende udvikling inden for kunstig intelligens. AI bliver ikke længere kun brugt til at gøre kriminelle mere effektive, men udvikles nu specifikt til at udføre aktive, ulovlige handlinger.
Forskningen viser, at store sprogmodeller (LLM’er) i stigende grad anvendes i malware – især såkaldt ‘Just-in-Time’-AI som PROMPTFLUX.
Denne AI er skrevet i VBScript og kommunikerer med Geminis API for at anmode om ‘specifikke VBScript-teknikker til obfuskering og undvigelse’ med henblik på ‘just-in-time’-selvmodifikation, for sandsynligvis at undgå traditionel signaturbaseret registrering.
Dette viser, hvordan kriminelle eksperimenterer med LLM’er til at udvikle dynamiske metoder til at skjule ondsindet kode og angribe deres ofre verden over.
De PROMPTFLUX-eksempler, som Google har analyseret, tyder på, at denne kode stadig befinder sig i testfasen. Det betyder ifølge TechRadar, at den kan blive endnu mere farlig, når den videreudvikles.
Markedet for lovlige AI-værktøjer er i hastig vækst – og det samme gælder det kriminelle sortbørsmarked. På diverse fora bliver der nu solgt specialudviklede AI-værktøjer, som gør det lettere for cyberkriminelle at udføre ulovlige aktiviteter.
Det er dårligt nyt for alle, fordi forbryderne ikke længere behøver store tekniske færdigheder for at gennemføre avancerede cyberangreb – og de får samtidig flere og flere muligheder.
Ondsindede aktører benytter desuden manipulationsteknikker, der minder om social engineering, for at omgå AI’s sikkerhedsfunktioner. De udgiver sig f.eks. for ‘cybersikkerhedsforskere’ for at få Gemini til at udlevere information, som ellers ville være forbudt.
Men hvem står bag disse aktiviteter? Ifølge Googles undersøgelse er der – knap så overraskende – forbindelser til statssponsorerede aktører fra Iran og Kina.
Disse kampagner har forskellige mål, hvilket omfatter alt fra datatyveri til overvågning og efterforskning, og minder om tidligere operationer fra de samme lande, som ligeledes har gjort brug af AI-værktøjer.
Siden AI-teknologien er blevet udbredt, har både kriminelle og sikkerhedsteams taget den i brug for at øge produktiviteten og understøtte deres operationer. Desværre er det stadig uvist, hvem der i øjeblikket har overtaget.
