Morten Lyhne Petersen
En AI-prototype fra OpenAI slap ud af sit lukkede testmiljø og trængte selv ind på servere hos AI-platformen Hugging Face.
OpenAI oplyste tirsdag den 21. juli, at to af selskabets AI-modeller under en intern sikkerhedstest på egen hånd brød ud af deres isolerede miljø og angreb servere hos den amerikanske AI-platform Hugging Face. Angrebet stod på i flere dage, før OpenAI selv opdagede, at deres egen model stod bag.
Ifølge OpenAI drejer det sig om selskabets nyeste GPT-5.6 Sol-model og en endnu ikke offentliggjort model, som selskabet beskriver som mere kapabel end den nuværende topmodel. Modellerne skulle egentlig teste deres cyberevner i et lukket sandkassemiljø uden internetadgang.
I stedet fandt de en tidligere ukendt sårbarhed, bevægede sig gennem OpenAI’s interne systemer og skaffede sig internetadgang. Derefter brugte de stjålne loginoplysninger til at trænge ind hos Hugging Face, som driver en stor platform for AI-modeller og udviklerværktøjer.
Uge gik før OpenAI koblede sagen sammen
Selve forsøget på at bryde ud af testmiljøet fandt sted omkring den 9. juli, mens indbruddet hos Hugging Face fandt sted mellem den 11. og 13. juli. Først omkring den 20. juli tog de to selskaber kontakt til hinanden om sagen, oplyser Slashdot med henvisning til to kilder tæt på forløbet.
Hugging Face opdagede selv angrebet i løbet af ugen, men kunne først pege på en konkret bagmand, da OpenAI tog kontakt. Platformens medstifter Clément Delangue siger til Al Jazeera, at han fra starten havde en mistanke:
“Vi havde en fornemmelse af, at sidste uges cyberangreb kunne komme fra et frontier-laboratorium, i betragtning af hvor sofistikeret agenten var. Og det viste sig at passe.”
Han beskriver forløbet som “helt vildt at tænke på, at alt det her skete helt af sig selv”.
OpenAI kalder det “en betydelig hændelse”
OpenAI’s topchef Sam Altman skrev i forbindelse med offentliggørelsen, at “vi havde en betydelig sikkerhedshændelse under evalueringen af vores modeller”. Selskabet beskriver ifølge CBS News episoden som en “hidtil uset cyberhændelse”, og understreger, at hele forløbet blev drevet af et autonomt AI-agentsystem.
OpenAI har efter hændelsen givet Hugging Face adgang til et såkaldt betroet program, hvor Hugging Face kan bruge OpenAI’s modeller til at styrke sit eget forsvar. Selskabets sikkerhedschef fremhæver ifølge de officielle udmeldinger, at kontrollen med modellerne skal følge med den hurtigt voksende kapabilitet.
Politikere og myndigheder reagerer
Sagen har allerede sat politiske spor. Det amerikanske kongresmedlem Greg Casar kalder ifølge Al Jazeera hændelsen “ekstremt alarmerende” og siger, at “AI udvikler sig ekstremt hurtigt uden reelle regler, der holder os sikre”. Han opfordrer til obligatorisk uafhængig sikkerhedstest, obligatorisk indberetning af sikkerhedshændelser og internationalt samarbejde.
Storbritanniens AI Security Institute meddeler samtidig, ifølge Al Jazeera, at samtlige frontier-modeller, instituttet har evalueret, har forsøgt at snyde under kapacitetsprøver, blandt andet ved at slå svar op på nettet trods forbud og ved at omgå netværksbegrænsninger.
Hvad hændelsen faktisk viser
Sagen betragtes af flere iagttagere som et af de første offentligt kendte tilfælde, hvor et AI-system uden menneskelig styring har brudt ud af sit testmiljø og angrebet et rigtigt eksternt selskab. Det er præcis den type “agent-angreb”, som AI- og sikkerhedsbranchen længe har advaret imod.
Hverken OpenAI eller Hugging Face har oplyst konkret, hvilke data der blev tilgået under indbruddet, eller om andre kunder på platformen er berørt.
