Nicolai Busekist
Elon Musk og co. har haft store problemer med Grok på det seneste – og nu er det sket igen.
En ny kampagne med ondsindede annoncer har formået at manipulere Grok – den kunstige intelligens (AI), der bruges på det sociale medie X – til at sprede phishing-links og skadelig software i stor skala, advarer ESET.
Der er tale om en ny form for angreb, som kan omgå X’s egne begrænsninger i forhold til visning af annoncer på platformen, der ellers er blevet implementeret for at forhindre svindelannoncer.
Bruddet sker gennem videoer med såkaldt clickbait-indhold, hvor oplysningerne om videokilden i stedet for at vise et medienavn indeholder et falsk link, der leder brugeren videre til phishing-sider og andre websites med svindel.
Phishingkampagner er en type cyberkriminalitet, hvor svindlere sender falske beskeder, som udgiver sig for at komme fra en pålidelig kilde. Det gør de med det klare formål at stjæle personlige og følsomme oplysninger.
I dette tilfælde udnytter hackerne Grok ved at manipulere AI-modellen til at sprede disse links. De får chatbotten til at identificere videokilden, hvorefter Grok automatisk registrerer det indlejrede link og gengiver det i sin svartekst. På den måde forstærkes spredningen af det skadelige indhold.
Ifølge ESET er der tale om et såkaldt injektionsangreb, hvor cyberkriminelle indfører skjulte kommandoer i indhold, der behandles af AI-systemer, for at få dem til at udføre handlinger, der normalt er blokeret.
Kampagnen med de ondsindede annoncer har fået navnet ‘Grokking’ – et ordspil på navnet Grok – på grund af den rolle, som AI’en spiller i spredningen af de falske oplysninger.
Selvom det i forvejen er udbredt viden, at kunstig intelligens kan udnyttes i ondsindede kampagner, udnytter hackerne i dette tilfælde Groks ry som en troværdig informationskilde. Det giver mulighed for at nå ud til millioner af brugere, før problemet bliver opdaget.
ESET understreger desuden, at konsekvenserne ikke kun rammer brugere af X, men potentielt enhver platform, der integrerer sprogmodeller eller AI-baserede assistenter.
ESET beskriver sig selv som en sikkerhedsplatform, der arbejder for at skabe et mere modstandsdygtigt digitalt miljø ved at kombinere kunstig intelligens med menneskelig ekspertise.
