¿El principal repte de la intel·ligència artificial consisteix a controlar una nova tecnologia o, més aviat, a preservar una determinada comprensió del que significa ser humà? Aquesta sembla ser la pregunta de fons que travessa el capítol III de Magnifica Humanitas. El problema no és simplement que les màquines facin cada vegada més coses, sinó que els éssers humans arribem a mirar-nos a nosaltres mateixos segons les categories amb què funcionen les màquines: eficiència, optimització, càlcul i rendiment.
Davant dels discursos que presenten la IA com el següent pas de l’evolució humana, Lleó XIV proposa una reflexió més profunda. La qüestió decisiva no és quant pot fer la intel·ligència artificial, sinó quina imatge de la persona humana guia el seu desenvolupament i la seva utilització. Des d’aquesta perspectiva, destaquen tres qüestions estretament relacionades: la diferència entre la intel·ligència humana i l’artificial, els beneficis i riscos de la IA, i la necessitat d’una governança responsable.
La intel·ligència artificial no és una intel·ligència humana
Un dels aspectes més valuosos del text és la seva insistència a no confondre la intel·ligència artificial amb la intel·ligència humana. El Papa reconeix les impressionants capacitats d’aquests sistemes, però adverteix contra una equiparació antropològicament errònia. Els sistemes d’IA poden processar informació a velocitats extraordinàries, generar textos complexos o identificar patrons invisibles per als éssers humans. Tanmateix, manquen d’allò que constitueix el nucli de l’experiència personal.
L’afirmació més significativa apareix al n. 99, quan assenyala que les intel·ligències artificials «no tenen experiències, no posseeixen un cos, no senten alegria ni dolor, ni maduren a través de les relacions». Poden imitar certes funcions humanes, però no participen de la riquesa existencial que caracteritza la persona.
Aquesta observació revesteix una especial importància en un context cultural on sovint es parla de la IA com si fos un subjecte. Des d’una perspectiva personalista, la intel·ligència humana no es pot reduir al processament d’informació. Conèixer implica també estimar, esperar, patir, comprometre’s, perdonar i cercar sentit. La raó humana és inseparable de la llibertat, l’afectivitat i la responsabilitat moral.
Per això, la qüestió no consisteix a negar el valor de la IA, sinó a evitar que una determinada concepció computacional de la intel·ligència acabi redefinint la comprensió d’allò humà. Quan el càlcul es converteix en paradigma de tota racionalitat, altres dimensions essencials de la persona queden relegades a un segon terme.
Beneficis reals i riscos igualment reals
L’encíclica evita qualsevol actitud alarmista. Reconeix obertament les aportacions positives de la intel·ligència artificial en múltiples àmbits. La possibilitat d’accedir ràpidament a informació complexa, millorar serveis o facilitar determinades tasques pot contribuir significativament al benestar humà i al desenvolupament social.
Tanmateix, el text insisteix que tot guany tecnològic requereix discerniment. Resulta especialment il·luminadora l’observació del n. 100 segons la qual la facilitat amb què obtenim resultats pot «afavorir una dependència excessiva i la recerca de respostes ja preparades, debilitant la creativitat i el judici personal». La disponibilitat permanent de respostes pot empobrir precisament aquelles capacitats humanes que més necessitem cultivar: la reflexió, el judici prudencial i la creativitat.
Encara més rellevant és l’anàlisi de l’aparent objectivitat dels algoritmes. Amb freqüència s’atribueix a les decisions automatitzades una neutralitat que en realitat no tenen. Tota tecnologia incorpora opcions prèvies, criteris de selecció i determinats pressupòsits culturals. L’objectivitat algorítmica pot ocultar biaixos difícils de detectar precisament perquè apareixen revestits de rigor tècnic.
Particularment nova és l’anàlisi de la simulació de relacions humanes. La IA pot produir missatges de suport, empatia o acompanyament emocional que resultin convincents. No obstant això, el Papa adverteix d’un perill més profund que la simple confusió entre persona i màquina: que els individus perdin progressivament el desig d’establir relacions humanes autèntiques. Una cultura cada cop més mediada per interaccions artificials podria erosionar la capacitat de trobada que constitueix una dimensió essencial de la vida humana.
La qüestió política: responsabilitat i governança
Potser l’aportació més original del capítol és situar la discussió sobre la IA en l’àmbit de la responsabilitat moral i política. Davant dels qui consideren aquestes tecnologies simples eines neutrals, el text afirma clarament que «no podem considerar la intel·ligència artificial moralment neutral» (n. 104).
Aquesta afirmació té importants conseqüències. Si els sistemes d’IA incorporen determinades visions de l’ésser humà i de la societat, aleshores la qüestió ètica no es pot limitar a l’ús que en fem. També hem d’examinar com han estat dissenyats, quines dades utilitzen, què optimitzen i què exclouen.
El text mostra una preocupació especial pels processos de presa de decisions automatitzats en àmbits sensibles com l’ocupació, el crèdit, els serveis públics o la reputació personal. Quan les decisions queden delegades a sistemes opacs, esdevé difícil identificar responsables, corregir errors o reparar injustícies. Per això, l’encíclica insisteix en la necessitat de d’exigir comptes als qui dissenyen, implanten i utilitzen aquests sistemes.
Així mateix, el Papa crida l’atenció sobre la creixent concentració del poder digital. El control de dades, plataformes i infraestructures per part d’uns pocs actors tecnològics planteja problemes relacionats amb el bé comú, la justícia social i la subsidiarietat. La governança de la IA no pot quedar exclusivament en mans dels qui disposen de més capacitat tecnològica o econòmica.
Algunes conseqüències pràctiques
La reflexió de Magnifica Humanitas suggereix diverses orientacions concretes per a les persones, les institucions i les organitzacions:
- Utilitzar la IA com a suport i no com a substitut del judici humà. Les eines digitals han de reforçar la capacitat de deliberació, no reemplaçar-la.
- Cultivar les capacitats específicament humanes. L’educació hauria d’enfortir el pensament crític, la creativitat, l’empatia i la responsabilitat moral, precisament allò que les màquines no posseeixen.
- Preservar els espais de relació personal. Cap tecnologia no pot substituir plenament l’amistat, la vida familiar, la cura mútua o el diàleg cara a cara.
- Exigir transparència i rendició de comptes. Les organitzacions que utilitzen sistemes d’IA han de poder explicar com funcionen, quins criteris empren i qui respon per les seves conseqüències.
- Promoure una governança orientada al bé comú. La regulació de la IA no es pot reduir a qüestions tècniques; ha d’incorporar criteris de justícia social, participació i protecció dels més vulnerables.
- Avaluar la tecnologia des d’una pregunta antropològica. Abans de preguntar-nos si una innovació és possible o rendible, convé preguntar-se si contribueix realment a una vida més humana.
En definitiva, Lleó XIV convida a desplaçar el centre de la discussió: el futur no depèn únicament de la potència de les nostres tecnologies, sinó de la qualitat moral de la nostra visió de l’ésser humà. La pregunta decisiva continua essent la mateixa que el mateix document planteja al final: ¿estem construint una nova Babel, dominada per la lògica del poder, o una nova Jerusalem, fonamentada en la dignitat, la responsabilitat i la cura mútua?