Morten Lyhne Petersen
Pave Leo XIV udgav i dag sin første encyklika med en skarp kritik af teknologibranchen.
Pave Leo XIV præsenterede selv dokumentet i Vatikanet i dag, mandag den 25. maj, flankeret af Anthropic-medstifteren Chris Olah som en af hovedtalerne. Det er usædvanligt, at en pave personligt fremlægger sin egen encyklika, og endnu mere usædvanligt at gøre det side om side med en topchef fra AI-industrien.
Encyklikaen hedder Magnifica humanitas, “Storslået menneskelighed”, og blev underskrevet den 15. maj. Fremlæggelsen fandt sted i den nye synodehal klokken 11.30 lokal tid, skriver America Magazine.
Leo XIV er den første pave med amerikansk baggrund og oprindeligt uddannet i matematik. Han leder verdens cirka 1,4 milliarder katolikker.
Kalder på “afvæbning” af kunstig intelligens
Den centrale tese i rundskrivelsen er, at kunstig intelligens skal “afvæbnes”. Begrebet er bevidst valgt for at vække opmærksomhed.
“Kunstig intelligens kræver nu at blive afvæbnet, frigjort fra logikker, der gør den til et redskab for dominans, udelukkelse og død,” skriver paven i en af de mest citerede passager, oplyser PBS News.
Pointen er ikke at afvise teknologien som sådan. “At afvæbne betyder ikke at afvise teknologien, men at forhindre den i at dominere menneskeheden,” lyder en anden formulering i teksten.
Forbud mod dræberrobotter
Encyklikaen indeholder et eksplicit opgør med autonome våbensystemer, hvor algoritmer træffer beslutninger om liv og død uden menneskelig kontrol.
“Det er ikke tilladt at overlade dødelige eller på anden måde uigenkaldelige beslutninger til kunstige systemer,” skriver paven. Et andet sted i dokumentet hedder det: “Ingen algoritme kan gøre krig moralsk acceptabel,” fremgår det af en gennemgang i America Magazine.
Paven gør samtidig op med kirkens egen klassiske teori om “retfærdig krig” og kalder den forældet i lyset af de nye våben.
Dataarbejdere og “ny kolonialisme”
Et tredje hovedspor er udnyttelsen af de mennesker, ofte i fattige lande, der mærker billeder og tekster for at træne store AI-modeller. Magnifica humanitas sammenkæder denne praksis med klassisk udbytning.
“Kolonialisme antager nye former. Den behersker ikke længere kun kroppe, men tilegner sig data og forvandler personlige liv til udbyttelig information,” skriver paven.
Han retter også et angreb mod profitlogikken bag fyringer drevet af automatisering: “Jagten på højere overskud kan ikke retfærdiggøre valg, der systematisk ofrer arbejdspladser, for mennesket er et mål, ikke et middel.”
Opgør med transhumanismen
Paven afviser i samme bevægelse den ideologiske vision om at “forbedre” eller “overskride” det menneskelige, ofte kaldet transhumanisme.
“Hvis mennesket behandles som noget, der skal forbedres eller overgås, bliver det lettere at acceptere, at nogle liv er mindre nyttige, mindre ønskværdige eller mindre værdige,” advarer han. Et andet sted hedder det: “Menneskeheden trives ikke på trods af begrænsninger, men ofte gennem dem.”
Hvorfor en AI-direktør på podiet?
Tilstedeværelsen af Chris Olah, medstifter af det amerikanske AI-firma Anthropic, der står bag chatbotten Claude, var et bevidst signal. Olah brugte sin tale til at give paven ret i, at branchen ikke kan regulere sig selv.
De, der står uden for teknologibranchens incitamenter, “har en afgørende rolle i at insistere på sikkerhed, tilbageholdenhed og det fælles bedste”, sagde Olah ved fremlæggelsen, refererer Catholic Herald.
Også tre kardinaler og to kvindelige teologer, blandt dem Anna Rowlands fra Durham University, talte ved arrangementet, der varede omkring to timer.
Pavens budskab til lovgiverne er klart: “Det er ikke nok at påberåbe sig etik i det abstrakte. Der kræves robuste juridiske rammer, uafhængigt tilsyn, oplyste brugere og et politisk system, der ikke fralægger sig sit ansvar,” lyder en af kernepassagerne. Selve dokumentet er omkring 82 sider og 42.300 ord langt, oplyser Detroit Catholic.
