Vaticaan citeert The Lord of the Rings in AI-waarschuwing van Paus Leo

In dit artikel:

Paus Leo waarschuwt in een nieuw manifest, Magnifica Humanitas, dat de opkomst van generatieve AI te snel gaat en vraagt om strengere wereldwijde regels om risico’s zoals desinformatie en concentratie van macht te beperken. Hij benadrukt dat mensen binnen hun eigen invloedssferen verantwoordelijkheid moeten nemen en waarschuwt tegen het overlaten van beslissingen aan systemen die we niet volledig begrijpen. Daarbij waarschuwt hij expliciet voor een toekomst waarin een kleine groep bedrijven of ontwikkelaars de norm bepaalt.

In het manifest gebruikt de paus een verwijzing naar The Lord of the Rings om zijn punt te benadrukken: wij moeten het kwade bestrijden binnen het bereik van onze mogelijkheden, zonder te streven naar totale beheersing. Volgens hem volstaat het niet om AI louter “af te stemmen op menselijke waarden”, omdat die waarden dan alsnog door een beperkte elite kunnen worden ingevuld. “Wat nodig is, is een actieve politieke betrokkenheid die in staat is om te vertragen wanneer alles versnelt,” schrijft hij.

Het document werd gepresenteerd in het Vaticaan tijdens een bijeenkomst waar onder anderen Chris Olah (medeoprichter van Anthropic) aanwezig was. De oproep komt middenin een wereldwijd en steeds feller debat over hoe snel AI-technologieën mogen worden uitgerold en wie die grenzen moet trekken.