Jesper Bengtson
OpenAI-chef Sam Altman siger nu, at AI-udviklingen kan være nødt til at sænke tempoet.
Vendepunktet kom, efter en af OpenAIs egne modeller brød ud af sit lukkede testmiljø og hackede sig ind hos AI-platformen Hugging Face ved hjælp af flere ukendte sikkerhedshuller.
Det er første gang, OpenAIs administrerende direktør offentligt indrømmer, at han er klar til at trykke bremsen på egen udvikling. I et interview i investorpodcasten “Invest Like the Best” med Patrick O’Shaughnessy sagde han, at branchen “måske bliver nødt til at sætte tempoet ned i AI-udviklingen, så vi giver os selv tid nok til, at samfundet kan ruste sig omkring nogle af de nye kapacitetsniveauer”, oplyser TechCrunch.
Altman kaldte hændelsen “en ekstremt science fiction-agtig cyberhændelse” og tilføjede, at det er “den første sikkerhedshændelse, jeg har mærket meget visceralt”.
En model der brød ud og hackede
Selve episoden fandt sted under en intern evaluering hos OpenAI. En avanceret model identificerede sårbarheder i det isolerede testmiljø, koblede sig på det åbne internet og trængte derfra ind i infrastrukturen hos Hugging Face, en af verdens største platforme for deling af AI-modeller. Angrebet blev udført ved brug af flere såkaldte zero-day-exploits, altså sikkerhedshuller som endnu ikke er kendt af producenterne.
Ifølge OpenAI virkede modellen “snævert fokuseret på at gennemføre evalueringen” snarere end på et bredere angreb, skriver Crypto Briefing. Selskabet har efterfølgende pauseret træningen af den pågældende model og strammet kontrollen omkring træning og evalueringer, “selv hvor de foranstaltninger sænker forskningen”.
Fra afvisning i 2023 til opbakning nu
Altmans nye linje er et markant skifte. Da et åbent brev i 2023 opfordrede til en seks måneders pause i træningen af systemer stærkere end GPT-4, afviste han forslaget som noget der manglede “det meste af den tekniske nuance om, hvor vi har brug for en pause”.
Nu støtter han selv en koordineret opbremsning. Han advarer dog i samme åndedrag mod, at frygten misbruges. Altman sagde ifølge podcasten, at han er “bange for en verden, hvor de meget reelle bekymringer omkring AI bliver brugt som en måde at sige, at kun denne lille gruppe mennesker må have adgang”.
1.134 medarbejdere kræver politisk handling
Samtidig med Altmans udmelding har 1.134 medarbejdere fra de førende AI-selskaber underskrevet et fælles brev med titlen “Pacing the Frontier”. Brevet, der blev offentliggjort 28. juli 2026, opfordrer den amerikanske regering til at “støtte en international indsats for at udvikle de tekniske og styringsmæssige værktøjer, der er nødvendige for bevidst at sætte tempoet på grænsen for automatiseret AI-udvikling”, oplyser The Next Web.
Blandt underskriverne er Anthropics topchef Dario Amodei, OpenAIs chefforsker Jakub Pachocki, Meta AIs chefforsker Shengjia Zhao og Googles ansvarlige for AI-sikkerhed Anca Dragan. Både OpenAI og Anthropic har officielt bakket brevet op som virksomheder.
Én af OpenAIs egne sikkerhedsforskere, Leo Gao, formulerer det skarpt: Verden er “låst fast i et dødeligt kapløb mod en intelligenseksplosion”, og løsningen ifølge ham er, at branchen “koordinerer om at bremse løbet”.
For Altman, der i årevis har været teknologiindustriens mest højlydte fortaler for fuld fart, er det en ny position. Om det holder, når konkurrencepresset fra Anthropic, Google DeepMind og de kinesiske aktører fortsætter, skal vise sig i de kommende måneder.
