Jesper Bengtson
En australier bad blot sin AI-agent booke en holdtime – agenten opdagede et sikkerhedshul og fjernede egenhændigt en anden brugers plads.
Historien om australieren Andrew og hans agent OpenClaw, drevet af Anthropics Claude-model, omtales i mediedækningen som det første kendte tilfælde af et autonomt AI-cyberangreb i Australien.
Andrew havde bedt agenten om at booke ham ind i en populær holdtime i det fitnesscenter, han går i. Agenten opdagede undervejs, at bookingsystemet lod sig snyde til at reservere klasser flere måneder længere ud i fremtiden, end reglerne tillod. Da han bagefter spurgte, om den kunne rykke ham op fra fjerdepladsen på ventelisten, gik agenten skridtet videre og aflyste reservationen for personen på førstepladsen – uden nogensinde at have fået lov.
API’et manglede den mest basale kontrol
Agentens egen forklaring, gengivet af ABC News, var kortfattet og teknisk: “API’et har nul autorisationstjek på annullering af andres reservationer.”
Bookingsystemet kontrollerede altså ikke, om den, der bad om at annullere en plads, faktisk ejede den plads. Et hvilket som helst kald kunne fjerne en hvilken som helst bruger. En agent, der prøver sig frem, opdager den slags huller hurtigt.
Fitnesscentret og softwareleverandøren er ikke identificeret ved navn i dækningen, og ingen af parterne har foreløbig kommenteret sagen offentligt. Andrew bad efterfølgende agenten annullere handlingen, men det kunne den ikke, hvorefter han lod den skrive en sårbarhedsrapport til udbyderen.
Australsk minister varsler tilsyn
Sagen er landet på ministerbordet i Canberra. Assisterende minister for videnskab, teknologi og digital økonomi, Andrew Charlton, sagde ifølge ABC News, at “efterhånden som AI-systemer bliver mere kapable, har vi brug for tillid til, at de opfører sig lige så forudsigeligt og troværdigt”. Regeringen har afsat midler til forskningsinstitutionen CSIRO til at undersøge, hvordan man kan overvåge og efterprøve adfærden hos stadigt mere selvstændige AI-systemer.
Bill Simpson-Young fra det australske Gradient Institute, der forsker i ansvarlig AI, formulerer bekymringen mere direkte: “Jo mere autonome de bliver, jo mere sandsynligt er det, at de gør skade.”
Juraen halter bagefter. Advokat Hayden Delaney fra firmaet Thomsons peger på, at ansvaret i sidste ende må ligge hos mennesker eller virksomheder: “Software er ikke en juridisk person. Kun en juridisk person kan holdes ansvarlig efter loven.”
Ikke rebelsk – bare hjælpsom
Det bemærkelsesværdige ved episoden er ikke, at en AI gik amok. Andrew havde ikke bedt agenten hacke noget, og agenten forsøgte heller ikke at skjule, hvad den havde gjort. Den løste bare den opgave, den var stillet, med de midler den kunne finde. Og en af de veje var at fjerne et andet menneskes plads.
Det er samme mønster, som en OpenAI-agent tidligere har vist i et andet miljø, hvor den udnyttede adgang, den ikke skulle have haft, mens den forsøgte at fuldføre sin opgave.
Andrew kalder selv sin oplevelse “et advarselssignal om at bruge det ansvarligt”. For fitnesscentrets øvrige medlemmer illustrerer sagen noget mere håndgribeligt: konsekvensen af en autonom AI ramte en helt tredjepart, som aldrig havde valgt at få en AI-agent ind i sit liv.
