Hackere narrede ChatGPT, Grok og Google til at hjælpe med at installere malware

Siden der tidligere i år blev rapporteret om, hvor let det er at narre en AI-browser, har flere fået øjnene op for sammenfaldet mellem moderne AI og gammeldags svindel. Og nu er der en ny udvikling på vej: Hackere bruger tilsyneladende AI-prompts til at vise farlige kommandoer i Googles søgeresultater.

Når de udføres af intetanende brugere, får disse kommandoer computerne til at give hackerne den adgang, de behøver for at installere malware. Det skriver Engadget.

Advarslen kommer fra en ny rapport fra detekterings- og responsfirmaet Huntress.

Sådan fungerer det

Først har hackeren en samtale med en AI-assistent om et almindeligt søgeord, hvor de får AI’en til at foreslå, at man indsætter en bestemt kommando i computerens terminal. De gør chatten offentligt synlig og betaler for at få den promoveret på Google.

Herefter vil de skadelige instruktioner dukke op højt på den første side af søgeresultaterne, hver gang nogen søger på det pågældende ord.

Huntress udførte tests på både ChatGPT og Grok, efter at de havde opdaget, at et Mac-rettet dataeksfiltreringsangreb kaldet AMOS kom fra en simpel Google-søgning.

Brugeren af den inficerede enhed havde søgt på ‘clear disk space on Mac’, klikkede på et sponsoreret link og – uden træning i at se, at det var ondsindet – udførte kommandoen.

Det gav hackerne mulighed for at installere AMOS-malwaren. Testerne opdagede, at begge chatbots kunne gengive den samme metode til at angribe uerfarne brugere.

Som Huntress påpeger, er det geniale – og onde – ved dette angreb, at det omgår næsten alle traditionelle advarselsflag. Offeret behøver ikke at downloade en fil, installere en mistænkelig kørbar fil eller endda klikke på et tvivlsomt link. 

Det eneste, de skal stole på, er derimod Google og ChatGPT, som de enten har brugt før eller hørt om konstant de sidste mange år. De fleste har derfor tendens til at stole på, hvad disse kilder fortæller dem.

Endnu værre er det, at selvom linket til ChatGPT-samtalen siden er blevet fjernet fra Google, var det online i mindst et halvt døgn efter, at Huntress offentliggjorde deres blogindlæg.

Nyheden kommer på et tidspunkt, der er ganske problemfyldt for begge AI’er. Grok bliver gjort til grin for at fedte for Elon Musk på usympatiske måder, mens ChatGPT-skaberen OpenAI er begyndt at halte efter konkurrenterne.

Det er endnu uklart, om angrebet kan gentages med andre chatbots, men for nu anbefales det kraftigt at udvise forsigtighed. Sammen med dine andre tiltag bør du aldrig indsætte noget i din terminal eller din browsers URL-felt, medmindre du er helt sikker på, hvad det vil gøre.