Nicolai Busekist
Der er en risiko for, at det kommer til at gå helt galt med AI, hvilket en AI-boss også har indrømmet.
Én ud af fire lyder måske som ganske gode odds i visse situationer. Det er trods alt langt bedre chancer, end man har i de fleste casinospil.
Men tilsyneladende er det usandsynligt nok til, at Anthropics CEO, Dario Amodei, ikke virker bekymret, selvom han vurderer, at der er 25 % risiko for, at kunstig intelligens kan føre til en katastrofe, der truer hele samfundet.
“Jeg tror, der er 25 % chance for, at det går virkelig, virkelig galt,” sagde Amodei afslappet under Axios AI + DC Summit, da han blev spurgt ind til sin holdning til såkaldt (p)doom – sandsynligheden for undergang – i relation til AI. Men han fokuserer mere på de ’75 % chance for, at det går virkelig, virkelig godt’.
Med ‘virkelig, virkelig galt’ mener han ikke blot, at din telefon retter ‘duck’ til noget værre. Han henviser til scenarier, der truer samfundets grundlæggende strukturer, eksistentielle risici, misbrug af AI og ukontrollerede udviklinger, der kan få katastrofale følger.
I en branche, hvor retorikken ofte svinger mellem utopiske løfter og sci-fi-frygt, skiller Amodeis tilgang sig ud. Han taler åbent om både muligheden for en apokalypse og sin motivation for alligevel at fortsætte med udviklingen af teknologien.
Amodei er ikke alene om at udtrykke bekymring, men han befinder sig i en særlig position. Som CEO for virksomheden bag AI-modellen Claude er han ikke blot en tilskuer. Han er aktivt med til at forme teknologien, samtidig med at han vurderer dens risici og muligheder. Hans team bygger de systemer, som netop kan føre til både fremskridt og fare.
Hvis nogen fortalte dig, at der var én ud af fire chance for, at din bil ville eksplodere, hver gang du startede den, ville du nok vælge at gå i stedet. Amodei ville tilsyneladende i stedet gribe værktøjet og undersøge motoren, før han satte sig ind.
Det er heller ikke første gang, at Amodei advarer om AI’s potentielle konsekvenser. Han har tidligere sagt, at AI kan fjerne halvdelen af alle ufaglærte kontorjobs og advaret mod amerikansk eksport af avancerede chips til Kina.
Det er netop dét, der gør hans tilgang interessant: Den anerkender risikoen, forsøger at sætte tal på usikkerheden, men efterlader stadig plads til menneskelig handling.
På den anden side er hans vurdering af ’75 % chance for, at det går godt’ ikke blot naiv optimisme. Det bygger på troen på, at AI kan skabe enorme fordele for hele verden – lige fra bedre medicin og mere effektiv produktion til strategier, der kan løse eksistentielle kriser som klimaforandringer
Dog kræver disse fordele energi, og driften af store AI-modeller kan i sig selv påvirke klimaregnskabet. Men hvis der er 25 % risiko for en reel katastrofe, stiller det krav om, at fordelene bygges med omtanke, sikkerhed og regulering.
For hvis fremtiden er 75 % strålende og 25 % ødelæggende, er det afgørende spørgsmål: Hvad vil vi gøre for at holde vægten i den rigtige retning?
