Ce înseamnă să rămâi om într-o lume remodelată de algoritmi? Aceasta este întrebarea centrală a enciclicei „Magnifica Humanitas”, publicată astăzi de Papa Leon al XIV-lea, primul său document de acest fel, semnat pe 15 mai, la exact 135 de ani de la Rerum novarum a Papei Leon al XIII-lea.
În 245 de paragrafe, Papa Leon al XIV-lea nu discută despre tehnologie, ci despre ceea ce tehnologia pune în joc: demnitatea, munca, libertatea, pacea, relațiile, sensul vieții.
„Magnifica umanitate creată de Dumnezeu se află astăzi în fața unei alegeri decisive: să înalțe un nou Turn Babel sau să edifice cetatea în care Dumnezeu și omenirea locuiesc împreună” (§1), scrie Papa Leon al XIV-lea chiar în deschiderea documentului. Această alternativă traversează întregul text.
Babel sau Ierusalim
Cele două imagini biblice care structurează enciclica sunt deliberat alese. Turnul Babel este un proiect grandios, o singură limbă, o singură tehnologie, o singură direcție, dar fără Dumnezeu și fără respect pentru diversitate. Rezultatul nu este unitatea, ci confuzia și dispersia. Papa Leon al XIV-lea vede în această imagine ceea ce numește „sindromul Babel”: „idolatria profitului care sacrifică pe cei slabi, uniformitatea care aplatizează diferențele, pretenția unui limbaj unic, inclusiv digital, capabil să traducă totul, chiar și misterul persoanei, în date și performanțe” (§10).
De cealaltă parte, Neemia. Se întoarce la Ierusalimul în ruine și, în loc să impună soluții de sus, convoacă familiile, ascultă temerile, atribuie fiecăruia un segment de zid și coordonează reconstrucția. Cetatea renaște nu prin inițiativa unui singur om, ci prin responsabilitatea împărțită a întregului popor (§8).
„Nu vă temeți să vă murdăriți mâinile în șantierul timpului nostru”, îndeamnă Papa Leon al XIV-lea. „Ca Neemia, să ne rugăm, să proiectăm cu înțelepciune, să lucrăm cu perseverență, punându-l pe Dumnezeu la orizontul acțiunii noastre și pe om în centrul alegerilor noastre” (§16).
Ce este și ce nu este inteligența artificială
Papa Leon al XIV-lea abordează subiectul tehnic cu o prudență deliberată. Recunoaște de la bun început că orice afirmație despre IA riscă să devină depășită în scurt timp și că nici măcar cei care proiectează aceste sisteme nu le înțeleg pe deplin. „Inteligențele artificiale moderne sunt mai degrabă cultivate decât construite” (§98), scrie el, dezvoltatorii creează o arhitectură pe care IA „crește”, iar procesele interne rămân în mare parte necunoscute.
Dar trasează o linie clară. Aceste sisteme imită anumite funcții ale inteligenței umane și adesea le depășesc în viteză și amploare de calcul. „Și totuși, această putere rămâne legată exclusiv de prelucrarea datelor: așa-numitele inteligențe artificiale nu trăiesc o experiență, nu posedă un corp, nu traversează bucuria și durerea, nu cresc prin relație, nu cunosc din interior ceea ce înseamnă iubire, muncă, prietenie, responsabilitate” (§99). Nu au conștiință morală. „Pot imita limbaje, comportamente, evaluări, pot simula empatie sau înțelegere, dar nu înțeleg ceea ce produc, pentru că nu locuiesc orizontul afectiv, relațional și spiritual în care umanul devine înțelept” (§99).
Riscul nu este doar tehnic. Când cuvântul este simulat, „el nu construiește o relație, ci o aparență a ei” (§100). Iar pericolul devine real „când se insinuează într-un context sărac în relații și afecte reale: atunci riscul nu e atât că o persoană crede că vorbește cu o altă persoană, cât că pierde dorința însăși de a-l căuta cu adevărat pe celălalt” (§100).
Putere concentrată, umanitate dispersată
Enciclica identifică o problemă structurală. „În multe cazuri, în contextul digital, controlul platformelor, infrastructurilor, datelor și capacității de calcul nu este apanajul statelor, ci al marilor actori economici și tehnologici care, de fapt, fixează condițiile de acces, regulile vizibilității și posibilitățile însele de participare” (§95). Când o putere de această amploare se concentrează în puține mâini, „tinde să devină opacă și să scape controlului public” (§95).
Papa Leon al XIV-lea aplică principiile doctrinei sociale direct la această realitate. A vorbi de bine comun înseamnă „a demasca această nouă asimetrie epistemică, economică și politică, numind noile monopoluri ale IA”. A vorbi de destinația universală a bunurilor înseamnă „a găsi moduri de a asigura accesul universal la tehnologii și formare”. A vorbi de subsidiaritate înseamnă „a proteja capacitatea comunităților de a alege și corecta, fără a le relega la o simplă supraveghere, după ce standardele au fost scrise în altă parte”. A vorbi de solidaritate „obligă la recunoașterea muncii invizibile, adesea exploatate, care alimentează modelele algoritmice” (§109).
Concluzia este directă: „Nu servește o IA mai morală, dacă această morală e decisă de câțiva. Servește o politică mai prezentă, capabilă să încetinească acolo unde totul accelerează și să protejeze spațiile în care comunitățile pot încă participa și se pot interoga” (§107).
„Dezarmați inteligența artificială”
Unul dintre cele mai puternice pasaje ale documentului este cel în care Papa Leon al XIV-lea cere „dezarmarea” inteligenței artificiale. „A dezarma IA înseamnă a o sustrage logicii competiției armate, care astăzi nu mai e doar militară, ci economică și cognitivă. Este cursa după algoritmul cel mai performant și baza de date cea mai vastă, în scopul consolidării unui avantaj geopolitic sau comercial asupra tuturor celorlalți” (§110).
„A dezarma nu înseamnă a renunța la tehnologie, ci a-i împiedica să domine umanul. Înseamnă a o sustrage monopolurilor, a o face discutabilă, contestabilă și deci locuibilă, restituind-o pluralității culturilor umane și formelor de viață” (§110).
Un apel special este adresat dezvoltatorilor de IA. „Inovația tehnologică poate fi, într-un anumit sens, o formă umană de participare la actul divin al creației. Dezvoltatorii poartă așadar o greutate etică și spirituală deosebită, pentru că fiecare alegere de proiectare exprimă o viziune despre umanitate” (§111).
Limita nu este un defect
Un capitol întreg al enciclicei este dedicat criticii transumanismului și postumanismului. Papa Leon al XIV-lea nu le respinge din reflexul conservării, ci din convingerea că au o viziune greșită despre om.
„Raportul nostru cu viața pare astăzi în criză. Tot ceea ce apare ca limită, incapacitate, boală, bătrânețe, suferință, vulnerabilitate, tinde să fie citit mai întâi ca defect de corectat, nu ca loc în care umanul se maturizează și se deschide relației” (§118).
Răspunsul său este contrar-intuitiv: „Umanul nu înflorește în ciuda limitei, ci adesea prin limită” (§118). Tocmai în experiența finitudinii „își găsesc loc compasiunea, neliniștea sinceră în fața nevoilor celorlalți, generozitatea care surprinde chiar și în mijlocul întunericului și al eșecului” (§119). Chiar și în fața corupției morale, „o mică lumină continuă să strălucească în umanitate și rămâne capabilă să se reaprindă, prin harul lui Dumnezeu, pe drumuri de convertire și reconciliere” (§121).
Adevăratul „mai mult decât uman” nu vine din potențarea tehnologică, ci din harul divin. „Ajungem să fim pe deplin umani când suntem mai mult decât umani, când îi permitem lui Dumnezeu să ne conducă dincolo de noi înșine pentru a atinge ființa noastră cea mai adevărată” (§128). Diferența față de visurile prometeice este radicală: „Ceea ce salvează umanul nu este autosuficiența potențată, ci o relație care eliberează, o comuniune care transformă” (§128).
Adevărul ca bine comun
Papa Leon al XIV-lea avertizează că dezinformarea amplificată de algoritmi erodează democrația în profunzime. „Cei care dispun de puternice resurse tehnice și economice au o importantă capacitate de a induce schimbări culturale și, în ultimă instanță, de a convinge un număr semnificativ de persoane despre care este adevărul privind ființa umană, lumea, sensul existenței, familia, chiar și Dumnezeu. Aceasta este pură putere lipsită de adevăr” (§133).
Citându-o pe Hannah Arendt, subliniază că „supușii ideali” ai totalitarismului nu sunt cei convinși ideologic, ci „oamenii pentru care distincția între fapt și ficțiune și distincția între adevăr și fals nu mai există” (§134). Iar dezinteresul față de adevăr „conduce lent, dar inexorabil, spre totalitarism” (§134).
Cere o „ecologie a comunicării” (§137): reguli care să facă transparente logicile prin care conținuturile sunt selectate și amplificate, un jurnalism serios, o educație a atenției. „Trebuie să ne educăm să postim de IA și să-i protejăm pe tinerii noștri de promisiunea mașinii perfecte, de acea seducție subtilă care face ca gândirea umană să pară inutilă tocmai când este mai necesară” (§140).
Copiii în fața ecranelor
Papa Leon al XIV-lea dedică pagini ample protecției copiilor și adolescenților în mediul digital, citând literatura psihologică și psihiatrică recentă privind efectele expunerii precoce asupra somnului, atenției și relațiilor. La aceasta se adaugă accesul facil la conținut violent sau pornografic, fenomenele de ademenire, șantaj și exploatare sexuală a minorilor (§141).
„Este dificil pentru părinți să reziste singuri la condiționarea modelelor comerciale care monetizează atenția și timpul” (§142), recunoaște el. Și cere intervenții legislative care să fixeze limite de vârstă, să responsabilizeze furnizorii de servicii, nu familiile, și să prevadă „protecții specifice contra oricărei forme de exploatare și violență sexuală în rețea, astfel încât să protejeze cu adevărat copilăria și adolescența ca bunuri prețioase încredințate grijii noastre” (§142).
Munca: nu o variabilă de ajustare
„Munca rămâne o dimensiune fundamentală a experienței umane: nu doar un mijloc de subzistență, ci un loc de exprimare, de relații, de contribuție la comunitate” (§154), scrie Papa Leon al XIV-lea. Avertizează că șomajul, mai ales când atinge proporții masive, „poate deveni o adevărată calamitate socială” (§151).
Nu acceptă argumentul că noile moduri de lucru sunt în mod necesar mai bune. „Contrar beneficiilor IA care sunt promovate, actualele abordări ale tehnologiei pot în mod paradoxal descalifica muncitorii, să-i supună unei supravegheri automatizate și să-i relege la funcții rigide și repetitive” (§150).
O societate care ar garanta muncă doar unei mici părți a populației „ar expune pe mulți la o condiție de inactivitate forțată, de absență a responsabilităților, cu consecințe de sărăcire umană și culturală în contrast cu nivelul ridicat de dezvoltare tehnică. Ne-am afla în fața unui paradox de progres material și regresie antropologică” (§154).
Papa Leon al XIV-lea cere depășirea PIB-ului ca unică măsură a dezvoltării (§159) și insistă asupra unui principiu simplu: justiția „privește toate fazele activității economice, de la procurarea resurselor la finanțare, de la producție la consum, și fiecare alegere are consecințe morale” (§162).
Sclavie, date și iertare
Poate cel mai neașteptat pasaj al enciclicei este cel în care Papa Leon al XIV-lea cere iertare, în numele Bisericii, pentru complicitatea istorică la sclavie. Recunoaște deschis că „trebuie să așteptăm secolul al XIX-lea pentru a găsi o condamnare formală, absolută și universală a sclaviei” (§176). Menționează explicit bulele papale din secolele al XV-lea, prin care Sfântul Scaun a reglementat și uneori a legitimat reducerea în sclavie a „necredincioșilor”. „Presiunile politice și uneori cele economice au copleșit exigențele evanghelice” (§176, nota 174).
„Este o rană în memoria creștină de la care nu ne putem considera străini. Este inevitabil să simțim o profundă durere considerând enorma suferință și umilință pe care sclavia a însemnat-o pentru atâtea persoane, în contrast cu demnitatea lor fără limite, iubită infinit de Domnul. De aceea, în numele Bisericii, cer sincer iertare” (§176).
Iertarea nu rămâne un gest retrospectiv. Papa Leon al XIV-lea leagă direct memoria sclaviei de noile forme de aservire ale economiei digitale. „Nimic, în lumea IA, nu este imaterial sau magic. Fiecare răspuns care pare instantaneu și perfect provine dintr-un lanț lung de medieri, dintr-o rețea extinsă de resurse naturale, de infrastructuri energetice și, mai ales, de persoane” (§173). Milioane lucrează în tăcere la etichetarea datelor, la moderarea conținutului, la antrenarea modelelor, adesea tineri, mai ales femei, pentru compensații minime. Copii și adolescenți lucrează în condiții periculoase la extracția pământurilor rare. Rețele criminale folosesc platformele digitale pentru traficul de persoane (§173).
„Dacă o tehnologie promite emancipare dar produce noi forme de subordonare globală, ea contrazice principiul fundamental al demnității persoanei” (§173). „Dacă nu vrem să cerem iertare în viitor pentru că nu am fost fideli tezaurului demnității umane pe care credința noastră îl conține, astăzi ne revine nouă să fim direcți și fermi” (§177).
Războiul și algoritmul
Papa Leon al XIV-lea denunță ceea ce numește o „cultură a puterii” (§188) care normalizează războiul. „Asistăm la o adevărată schimbare de paradigmă în discursul public și în alegerile de reînarmare, cu o îngrijorătoare reabilitare a războiului ca instrument de politică internațională” (§190).
Despre armele autonome ghidate de inteligența artificială este categoric: „Nu există algoritm care să poată face războiul moral acceptabil. IA nu sustrage conflictul inumanității sale intrinsece: poate doar să-l facă mai rapid și mai impersonal, coborând pragul recurgerii la violență” (§198). Decizia de a ucide nu poate fi delegată unor procese opace sau automatizate (§200).
Către cei care invocă „realismul politic” răspunde direct: „Ceea ce este cu adevărat iresponsabil este Realpolitik, această formă de realism politic, care seamănă în conștiințe și în cultură resemnarea în fața unui război ineluctabil și califică pacea și dialogul drept poziții utopice sau iraționale” (§205).
„Popoarele vor pace”, scrie el, adresându-se guvernanților. „Să ne întâlnim, să dialogăm, să negociem! Războiul nu este niciodată inevitabil, armele pot și trebuie să tacă, pentru că nu rezolvă problemele, ci le înmulțesc; pentru că va trece în istorie cel care va semăna pace, nu cel care va secera victime; pentru că ceilalți nu sunt în primul rând dușmani, ci ființe umane: nu răi de urât, ci persoane cu care trebuie să vorbim” (§222).
Civilizația iubirii nu este o utopie
Față de cultura puterii, Papa Leon al XIV-lea propune „civilizația iubirii”, nu un vis naiv, ci „un proiect exigent” (§186) care traduce caritatea în structuri de justiție. Trasează cinci direcții de angajament: dezarmarea cuvintelor din discursul public (§214), construirea păcii prin justiție (§215), asumarea perspectivei victimelor (§216), cultivarea unui realism sănătos (§218) și relansarea dialogului și a diplomației (§219–§227).
Contra tentației că problemele ar fi prea mari și noi prea mici, citează din Tolkien: „Nu ne revine nouă să dominăm toate mareele lumii; sarcina noastră este să facem ce putem pentru salvarea anilor în care trăim, dezrădăcinând răul din câmpurile pe care le cunoaștem, pentru a lăsa celor care vin după noi un pământ sănătos și curat de cultivat” (§213).
Magnificat-ul în era algoritmilor
Enciclica se încheie cu Fecioara Maria și Magnificat-ul ei, văzut ca un cânt profetic care descoperă lucrarea invizibilă a lui Dumnezeu în istorie. Maria ne îndreaptă privirea „spre punctele de fractură ale umanității, acolo unde are loc distorsiunea lumii, în contrastul dintre umili și puternici, dintre săraci și bogați” (§244).
„Cu aceeași credință a Mariei, devenim țesători de speranță în lumea noastră”, încheie Papa Leon al XIV-lea, „pentru ca și timpul inteligenței artificiale să poată deveni un pasaj în care Duhul face să se maturizeze civilizația iubirii în viața noastră” (§245).
Ultimele cuvinte ale enciclicei sunt o rugăciune: „să putem mărturisi frumusețea unei magnifice umanități locuite de Dumnezeu” (§245).
