AI må ikke blive et nyt Babelstårn

Pave Leo XIV advarer i sin første rundskrivelse mod at gøre teknologien til menneskets frelser og opfordrer til at sætte menneskets gudgivne værdighed før kunstig intelligens.

Vil AI blive menneskeheden til gavn eller til skade i fremtiden? Det er et af de store spørgsmål, som hele verden lige nu er optaget af. En af dem, der sætter ord på de dybere spørgsmål bag den teknologiske udvikling, er pave Leo XIV. Hans første rundskrivelse, Magnifica Humanitas – ”Den storslåede menneskehed” – handler om menneskets værdighed i en tid, hvor kunstig intelligens udfordrer vores forståelse af, hvad det vil sige at være menneske.

For paven er spørgsmålet om AI ikke først og fremmest teknologisk, men åndeligt. Han spørger, om teknologien hjælper mennesket til at udfolde dets gudgivne kald, eller om den risikerer at gøre mennesket til alene data, effektivitet og kontrol. Udgangspunktet for hele rundskrivelsen er Bibelens lære om mennesket som skabt i Guds billede, og at enhver person har en ukrænkelig værdi, som ingen teknologi kan erstatte eller måle.

Ifølge pave Leo XIV ligger menneskets storhed ikke i dets intelligens alene, men i dets evne til at elske, tage ansvar, skabe relationer og leve i fællesskab med Gud og næsten. Kunstig intelligens kan efterligne menneskets måde at tænke på, men den har ingen medfødt samvittighed, evne til barmhjertighed eller moralsk ansvar. Det har mennesker derimod, og derfor er de meget mere end blot en avanceret udgave af en maskine.

Babelstårnet

Et af rundskrivelsens vigtigste bibelske billeder er fortællingen om Babelstårnet (1. Mos. 11,1-9). Her forsøgte menneskene at bygge et tårn, der nåede helt til himlen. De ville sikre sig storhed, magt og kontrol uden Gud. Resultatet blev splittelse og forvirring. Paven ser Babel som en advarsel til den moderne verden. Teknologien bliver farlig, når mennesket begynder at tro, at det selv kan skabe frelse, fuldkommenhed og kontrol over tilværelsen.

Kunstig intelligens kan være et nyttigt redskab, men hvis mennesket gør teknologien til sin frelser, gentager vi Babels fejl. Paven peger på, at teknologisk magt uden moral og visdom kan føre til nye former for ufrihed og umenneskelighed.

Jerusalems genopbygning

Over for Babel opstiller pave Leo XIV et andet bibelsk billede: genopbygningen af Jerusalems mure under Nehemias’ ledelse (Neh 2-6). Efter eksilet lå Jerusalem i ruiner, men folket samledes om at genopbygge byen sten for sten. Arbejdet handlede ikke om menneskelig storhed, men om at genoprette det fællesskab og den orden, som Gud havde kaldet sit folk til. For paven er genopbygning af Jerusalem den rette måde for mennesker at bruge sin skaberkraft på.

Teknologi bør ikke blive et middel til, at mennesket sætter sig på Guds plads eller til at samle magten hos nogle få. Den bør bruges til at styrke fællesskaber, beskytte de svage og fremme det fælles gode. Hvor Babel symboliserer kontrol og at ophøje sig selv, symboliserer Jerusalem tjeneste og at bygge noget op sammen. Af samme grund advarer pave Leo XIV mod udviklingen af AI-systemer, der fratager mennesker ansvar for deres handlinger.

Han nævner særligt overvågningsteknologier, manipulation af information og våbensystemer, hvor alene maskiner kan komme til at træffe beslutninger om liv og død. Når mennesket overlader moralske valg til algoritmer, så giver det også slip på sit eget ansvar som forvalter af Guds skaberværk. Samtidig understreger pave Leo XIV, at kristne ikke skal møde AI med frygt. Teknologien kan nemlig også ses som et led i de kreative evner, Gud har givet mennesket.

Hvis AI bruges til at forbedre undervisning, forskning, sundhedsvæsen og kommunikation, kan teknologi hjælpe os i stedet for at herske over os.

AI handler i sidste ende om menneskesyn

For Gry Hasselbalch, der er AI-ekspert, stifter af tænketanken DataEthics.eu og forfatter til bogen ’Human Power – Seven Traits for the Politics of the AI Machine Age’, er det afgørende, at pave Leo XIV netop blander sig i debatten nu: “Paven er en af de største globale magtaktører i den geopolitiske debat. Derfor er det enormt vigtigt, at der kommer et dokument fra en så stærk moralsk autoritet som paven. Han støtter op om den tilgang til AI, som er baseret på menneskerettigheder. Det betyder meget mere, end vi egentlig kan forestille os,” siger hun.

Handler hele debatten om AI mere om det menneskelige end det rent teknologiske?

”Ja. Hvis du kigger på hele udviklingen inden for teknologipolitik, så har det bevæget sig derhen, hvor AI udfordrer vores værdier og syn på, hvem vi er som mennesker. Paven taler direkte imod posthumanisme og transhumanisme. Når han taler om, at der er noget unikt og værdifuldt ved mennesket, som ikke kan erstattes af en maskine, er det en form for teknologipolitik for menneskeheden.”

Hvad er det helt konkret, der gør mennesket unikt i forhold til AI?

”At beskrive menneskeheden som ‘gammel software’, der har fået en opdatering, er et uhyre forenklet syn på os selv. Når det for eksempel gælder barmhjertighed, kan et menneske netop vælge at handle spontant og modsat al logik. De fleste religioner har den idé omkring tilgivelse og barmhjertighed i sig. Hvis kunstig intelligens bliver udgangspunkt og modellen for alt, hvad vi laver, så kan det netop true handlinger, der bygger på kærlighed og barmhjertighed.”

Gry Hasselbalch mener samtidig, at dele af den teknologiske tænkning i Silicon Valley bygger på en grundlæggende misforståelse af menneskets natur: “Den største misforståelse er, at de tænker, at det menneskelige potentiale – vores kreativitet, visdom, intuition, barmhjertighed – er noget, som vi kun kan opnå gennem deres teknologier. Men det er noget, vi allerede har i os som mennesker.”

Når teknologien truer menneskets rolle

Også Christiane Vejlø ser pave Leo XIVs rundskrivelse som et vigtigt bidrag til debatten. Christiane Vejlø er digital trendanalytiker, foredragsholder og en af Danmarks mest kendte eksperter i samspillet mellem mennesker og teknologi. Hun er enig med paven i, at samtalen bør begynde med mennesket frem for teknologien. Men hun oplever samtidig, at debatten ofte ender med at handle om software, algoritmer og hardware frem for de dybere spørgsmål.

“Det er mennesker, der har skabt teknologien, og det er os, der bruger den. Selvom vi har født og formet den, så udvikler den nu videre på sig selv. På den måde mister vi grebet om vores egen skabelse. Den er på vej til at blive mere end mennesket på nogle områder. Og det er nok også en af de ting, paven har det svært med, da hans udgangspunkt er, at mennesket er skabt af Gud, og at mennesket ikke må overgå Gud ved at skabe noget i eget billede. Jeg tror ofte debatten bliver reduceret til teknologi, fordi det er mere håndgribeligt end de eksistentielle konsekvenser, samspillet mellem mennesker og teknologi kan have på den lange bane, og så er det nemmere at tale om hardware og software.”

Hvad bliver særlig menneskelige i en AI-verden? Hvilke menneskelige egenskaber kunne blive vigtige?

“Jeg tror på, at mennesket potentielt set står til at få fremhævet nogle af sine vigtigste træk. En verden, hvor kunstig intelligens udregner, forudsiger, finpudser og sliber hvert et spidst hjørne, bliver det uforudsigelige overraskelsen, det originale, det kreative og det, som der ikke er uendelige mængder af, meget mere værd. Det er kun mennesker, der kan vise ægte nærvær. Det er kun mennesker, der har noget på spil. Det er kun mennesker, der har det levede liv og en historie bag sig. Intet af det kan AI-erstatte. Den kan kun lade som om.”

På spørgsmålet om, hvad vi risikerer at miste, hvis vi begynder at indrette os efter maskinernes logik, svarer Christiane Vejlø: “Vi skal passe på med at give for meget frivilligt til maskinen, for det er ikke sikkert, vi kan få det igen. Vi skal holde fast i at være menneske. Også selvom det betyder udfordringer på livets vej. Men ingen bliver hverken dygtige, spændende eller stærke, hvis de ikke skal arbejde for det.”