Jesper Bengtson
En amerikansk cybersikkerhedsforsker har malet en Toyota Yaris med et mønster der får overvågningskameraernes AI til at ignorere bilen helt.
Kameraet optager stadig bilen, men systemets algoritme kategoriserer den ikke som et køretøj. Dermed forsvinder den fra de databaser der ellers automatisk logger passager, nummerplader og bevægelsesmønstre.
Det er kernen i projektet noRecognition, som blev vist offentligt for første gang på cybersikkerhedskonferencen Def Con i Las Vegas 6.-9. august. Manden bag er Bill Swearingen, sikkerhedsforsker og medstifter af meetup-gruppen SecKC. Sammen med bilkanalen Donut Media kørte han en 2009 Toyota Yaris beklædt med det AI-genererede mønster forbi et Flock-kamera, som ellers er blandt de mest udbredte i amerikansk nummerpladeovervågning.
“Vi beviste at det virker”, siger Swearingen til TechCrunch, som var til stede ved demonstrationen.
Se det her:
Klik for at vise eksternt indhold fra twitter,
– Du kan altid aktivere og deaktivere tredjepartsindhold.
Du accepterer hermed at vise eksternt tredjepartsindhold. Persondata kan blive sendt til udbyderen af indholdet og andre tredjepartstjenester.
Et års arbejde og 31 millioner tests
Mønsteret er skabt af en algoritme der lærer sig selv at male. En reinforcement learning-model, altså en model der optimerer sig ved hjælp af belønning og straf, genererer et mønster og tester det mod detektionsalgoritmer. Genkender AI’en stadig objektet, ændrer systemet mønsteret og prøver igen.
Ifølge en gennemgang hos TechSpot har Swearingen kørt cirka 31 millioner test fra sit hjem i Kansas City over et års tid. Modellen har slået 11 open source-detektionsalgoritmer, herunder software beslægtet med Flocks nummerpladelæsere, Axons bodycams og ansigtsgenkendelses-firmaet Clearview AI.
Selv om bilen som helhed slap uigenkendt forbi kameraet, viste hjulene sig at være en særlig udfordring at skjule for algoritmen.
Fra protestbevægelse til Kickstarter
Motivationen kommer ifølge Swearingen fra bekymring for at demonstranter kan blive identificeret og sporet af overvågningssystemer på gaderne. Han beskriver projektet som et forsøg på at give almindelige mennesker mulighed for at fravælge automatisk sporing.
“Privatliv er en grundlæggende rettighed”, siger han til TechCrunch.
De stærkeste mønstre holder han foreløbig for sig selv. Han vil ikke lægge dem åbent frem, fordi det ville gøre det for let for kamera-producenterne at træne deres AI-modeller op mod dem og lukke hullet igen.
Sideløbende har noRecognition sat en crowdfunding-kampagne i søen. Første produkter bliver T-shirts og hættetrøjer med mønstrene. Bilfolierede versioner kan følge, hvis interessen er stor nok.
Automatisk nummerpladegenkendelse breder sig i Danmark
Selv om demonstrationen fandt sted i USA, er teknologien den samme som ruller ud herhjemme. Automatisk nummerpladegenkendelse (ANPR), hvor kameraer registrerer bilens nummerplade ved ind- og udkørsel, er blevet standard i danske parkeringshuse. Parkeringsselskabet APCOA introducerede ANPR-anlæg i Danmark allerede i 2013, og By & Havn er i gang med at installere ANPR-kameraer i alle selskabets parkeringshuse i Ørestad og Nordhavn.
Systemerne bruges også til automatisk parkeringsafgift, adgangskontrol og tidsbegrænset parkering, og de forlader sig alle på det samme princip som Flock: en AI-algoritme der genkender køretøjet og aflæser pladen.
Swearingens demonstration siger ikke, at teknologien er brudt. Men den viser, at et enkelt mønster kan skabe et blindt punkt hvor der ellers ikke burde være et. Og at fejlmarginerne i den slags systemer kan udnyttes af nogen der ved hvad de laver.
