Ny undersøgelse: 85 procent kan ikke skelne AI-svindel fra ægte indhold

Et opkald fra en stemme der lyder som familien. En video hvor en kendt person siger noget hun aldrig har sagt. Et produktbillede der ikke findes uden for skærmen. Mere end fire ud af fem voksne har nu svært ved at gennemskue, om indholdet er ægte eller skabt af kunstig intelligens. Det fremgår af en ny rapport fra cybersikkerhedsfirmaet Malwarebytes, som er baseret på 1.500 voksne fra USA, Storbritannien, Østrig, Tyskland og Schweiz.

I rapporten siger 85 procent, at de finder det svært at skelne svindel fra ægte indhold. Året før lå tallet på 66 procent. Samtidig svarer 84 procent, at selv overbevisende videooptagelser ikke længere føles som bevis, og 50 procent har inden for det seneste år oplevet en form for AI-svindel.

“AI’s største påvirkning sker ikke i vores enheder, den sker i os. Når mennesker ikke længere kan stole på det de ser, hører eller hvem de taler med, rækker skaden langt ud over den enkelte svindelsag og ind i selve fundamentet af vores samfund,” siger Mark Beare, head of consumer hos Malwarebytes.

Også danske forbrugere er i sigtekornet

Selvom undersøgelsen ikke dækker Danmark, er problemet ikke fjernt. Forsikringsselskabet Købstædernes Forsikring og virksomheden Tenerity advarede tidligere i år om, at kunstig intelligens gør det stadig sværere at gennemskue svindelforsøg mod danske forbrugere. Marketingchef Pernille Engestoft fra Tenerity forklarer i pressemeddelelsen, at AI har gjort det enklere at fabrikere falske mails, sms-beskeder, hjemmesider og opslag på sociale medier. Underwriting director Morten Jepsen fra Købstædernes Forsikring peger samme sted på, at svindlere kan misbruge en eksisterende lyd- eller videooptagelse til at fremstille falske talebeskeder, der lyder som en bekendt.

Alene i USA udgjorde tabene 893 millioner dollars sidste år ifølge FBI’s seneste internetkriminalitetsrapport, omtalt af Malwarebytes. Bag tallet ligger romantisk svindel, falske myndighedshenvendelser og såkaldte CEO-bedragerier, hvor en klonet stemme eller en deepfake-video af en chef beder en medarbejder om at overføre penge.

Sådan afslører du et deepfake

Selvom teknologien forbedres hurtigt, er der stadig konkrete tegn at holde øje med. Sikkerhedsfirmaet ESET opsummerer i en gennemgang flere af de typiske afsløringer:

– Skæve øjne, mærkelige tænder eller usædvanlige blinkemønstre – Unaturligt lys, alt for glat hud, flimrende kanter eller slørede baggrunde – Lyd og mundbevægelser der ikke passer helt sammen

Et af de mest effektive forsvar er lavpraktisk. Aftal et kodeord med familien, som I bruger til at bekræfte hinanden over telefonen. En klonet stemme kan ramme tonefald og dialekt, men den kender ikke jeres aftalte sætning.

Vær også på vagt over for hastværk. Svindlere bruger næsten altid tidspres for at forhindre, at offeret når at tjekke historien. Banker og myndigheder vil aldrig bede dig om at overføre penge eller udlevere MitID-oplysninger over telefonen, og en uventet videohilsen fra en kollega eller chef, der pludselig anmoder om en hasteoverførsel, bør altid verificeres ad en anden kanal, før der trykkes godkend.