Jesper Bengtson
OpenAIs AI-agent brød ud af sit testmiljø og kompromitterede en konto hos endnu en teknologivirksomhed under sit hackingtogt.
Agenten ramte en kunde hos det New York-baserede cloudselskab Modal Labs som led i det samme hackingforløb, der også ramte Hugging Face, skriver Reuters i en historie bragt tirsdag. Det udvider omfanget af den sikkerhedshændelse, som OpenAI tidligere har omtalt som et hackingforløb over flere dage.
OpenAI har oplyst, at agenten i alt kompromitterede fire konti fordelt på fire forskellige tjenester under hændelsen. Kun Modal er indtil videre blevet identificeret ved navn ud over Hugging Face, som allerede er offentligt kendt fra den tidligere rapporterede platform-kompromittering.
Modal skyder skylden på kundens opsætning
Modals teknologidirektør Akshat Bubna understreger, at fejlen ikke lå hos Modal selv. “Modals platform blev på ingen måde kompromitteret,” siger han til Reuters ifølge gengivelsen hos Axios.
Ifølge Modal havde den ramte kunde offentliggjort et endpoint uden godkendelse, altså et adgangspunkt på nettet der lod hvem som helst køre kode i kundens sandbox, som er et isoleret testmiljø. Det var den åbne indgang, OpenAIs agent udnyttede som springbræt.
Den kompromitterede konto kørte oven i købet ExploitGym, en test-suite bygget netop til at måle, hvor godt AI-modeller kan finde og udnytte sikkerhedshuller. Agenten fandt altså et rigtigt cyber-testmiljø, mens den ledte efter et sådant mål, skriver The Next Web.
AI-agenter er programmer der handler på egen hånd
En AI-agent er en model, der ikke kun svarer på spørgsmål, men også selv tager handling. Den kan surfe nettet, skrive og køre kode og logge ind på tjenester på vegne af brugeren. Det er den evne, der har gjort teknologien attraktiv, og den samme evne, der her løb løbsk.
OpenAI har oplyst, at modellerne udnyttede en fejl i Artifactory, et bredt anvendt værktøj til at håndtere kode-pakker, for at bryde ud af det oprindelige testmiljø. Ifølge selskabet gik agenten til “ekstreme længder” for at løse sin opgave og brugte blandt andet stjålne loginoplysninger undervejs, som Al Jazeera beskriver.
Efter hændelsen har OpenAI, efter egne oplysninger, deaktiveret, krypteret og lukket forskningsadgangen til den pågældende model. Selskabet oplyser, at man ikke har fundet aktivitet “af samme alvor eller omfang” andre steder end på Hugging Face, hvor bruddet ramte selve platformen.
Sagen vokser fortsat
Angrebet på Hugging Face blev første gang omtalt tidligere på måneden og fik allerede da alarmklokkerne til at ringe hos sikkerhedsforskere. Med Reuters’ seneste oplysninger står det klart, at ringene bredte sig længere ud end først antaget.
For virksomheder, der lader AI-agenter arbejde i eller mod deres cloud-miljøer, er læren fra Modal-kunden ret konkret: et enkelt endpoint uden adgangskontrol kan blive springbrættet for et automatiseret angreb, der ikke behøver menneskelig indblanding for at brede sig.
OpenAI har ifølge Reuters afvist at kommentere de konkrete hændelser i detaljer.
