Mikkel Christensen
Et sjældent fællesråb fra forskere, erhvervsfolk og kendisser: Stop jagten på superintelligent AI – før den overhaler os.
1. En usædvanlig alliance råber vagt i gevær
En global koalition på hundreder af forskere, tech-profiler og offentlige personer opfordrer til et øjeblikkeligt stop for udviklingen af såkaldt superintelligent AI. Budskabet er enkelt: Teknologien kan overhale menneskelig kontrol – og risikoen for misbrug og systemisk skade er for stor uden stærke værn.
2. Hvad betyder “superintelligens”?
Superintelligens er AI-systemer, der ikke bare matcher mennesker i specifikke opgaver, men potentielt overgår os bredt på tværs af domæner. Ikke bare flere parametre – men evnen til at sætte egne mål, optimere på tværs og handle i verden gennem software, økonomi og indflydelse.
3. Hvorfor kravet kommer nu
Udviklingen i generativ AI, autonome agenter og datacenterskalering har accelereret. De næste systemer forventes at blive langt mere kapable – og dermed sværere at forudsige. Koalitionen mener, at incitamentet til at skynde sig først i kapløbet øger risikoen for fejl, som ikke kan rulles tilbage.
4. De største bekymringer
Forskerne peger på tre akse-risici: tab af menneskelig kontrol, undergravning af frihed og demokratiske institutioner, samt øget sårbarhed i forsyningskæder og cybersikkerhed. Kombinationen af overbevisende manipulation, automatiseret hacking og økonomisk optimering kan destabilisere samfund.
5. Hvad de faktisk beder om
Erklæringen opfordrer til et forbud eller moratorium mod at skabe eller skalere superintelligente systemer, indtil der er bredt offentligt mandat og videnskabeligt bevis for sikker styring. Det indebærer bindende regler, uafhængige audits, evals før udrulning og mulighed for at stoppe træning i tide.
6. Modargumenterne – og svaret
Kritikere advarer om, at forbud kan bremse innovation og svække Vesten i en geopolitisk konkurrence. Talsmænd for moratoriet svarer, at det handler om at styre tempoet – ikke om at stoppe nyttig AI. Reglerne skal forhindre “kapløb mod bunden”, ikke kvæle forskning.
7. Hvad betyder det for Norden nu?
For Danmark, Norge og Sverige peger debatten på behov for klare nationale rammer: licenser til træning over visse compute-grænser, gennemsigtighed for træningsdata, incident‑rapportering, samt krav om “kill switch” og ansvarsforsikring. Offentlige indkøb kan sætte standarden hurtigt.
8. Det næste skridt
Spørgsmålet er ikke kun teknisk, men politisk: Skal superintelligens overhovedet skabes? Hvis ja, under hvilke betingelser – og med hvilke garantier? Vinduet for klog regulering er åbent nu. Når først systemer kan forbedre sig selv og handle autonomt, er det for sent at sætte hegnspæle.
