Amb data 28 de gener de 2025, la Santa Seu, a través dels Dicasteris per a la doctrina de la fe i per a la cultura i l’educació, ha publicat una nota titulada Antiqua et Nova (AN) sobre la relació entre la intel·ligència artificial i la intel·ligència humana, aprovada pel Papa Francesc l’anterior 14 de gener.
En les primeres paraules d’aquest document, es descobreix l’objectiu i l’enfocament de fons del document. Allí s’afirma que «estem cridats a considerar els quotidians desafiaments i oportunitats proposats pel saber científic i tecnològic, en particular els del recent desenvolupament de la intel·ligència artificial (IA).» I fer-ho amb saviesa -antiga i nova (antiqua et nova)- des de la tradició cristiana que considera el do de la intel·ligència com un aspecte essencial de la creació dels éssers humans «a imatge de Déu» (Gen 1,27), i des d’una visió integral de la persona i de la valoració de la crida a «conrear» i «custodiar» la terra (cf. Gen 2,15). A partir d’aquí, l’Església subratlla que el do de la intel·ligència «hauria de trobar la seva expressió a través d’un ús responsable de la racionalitat i de la capacitat tècnica al servei del món creat.» (AE, 1)
L’objectiu queda més perfilat en assenyalar que es proposa «contribuir positivament a un discerniment sobre la IA, en resposta a la invitació de Papa Francesc a una renovada «saviesa del cor»» (AN, 5). Ho fa en un moment en el qual «existeix un ampli consens en què la IA marca una nova i significativa fase en la relació de la humanitat amb la tecnologia, situant-se en el centre del que el Papa Francesc ha descrit com un «canvi d’època»» (AV, 4).
En síntesi, la nota ofereix una reflexió profunda sobre la relació entre la intel·ligència artificial i la intel·ligència humana, advertint sobre els riscos d’una tecnologia sense control ètic i promovent una visió en la qual la IA sigui una eina al servei de l’ésser humà i no el seu substitut.
La nota estructurada en sis parts (incloent introducció i conclusió), amb 117 punts, relativament breus i concisos, i 215 referències bibliogràfiques, la majoria relatives a documents pontificis, enllaçant amb la tradició dels ensenyaments socials de l’Església, però també referenciant diversos estudis sobre IA i tecnologia des del pensament filosòfic i ètic.
En la Introducció (I), a més d’explicar que la nota «intenta sobretot distingir el concepte de “intel·ligència” en referència a la IA i a l’ésser humà», n’explica l’estructura. «En un primer moment, es considera la perspectiva cristiana sobre la intel·ligència humana, oferint un marc general de reflexió fundat sobre la tradició filosòfica i teològica de l’Església. A continuació, es proposen algunes línies d’acció, amb l’objectiu d’assegurar que el desenvolupament i l’ús de la IA respectin la dignitat humana i promoguin el desenvolupament integral de la persona i de la societat.» (AN, 6)
A continuació (II) es descriu què és la IA i com es diferencia de la intel·ligència humana. Se subratlla que la IA no és un subjecte moral ni una entitat amb consciència, sinó un instrument creat i utilitzat per éssers humans.
Més àmplia en la III part, en la qual s’examina la intel·ligència humana des d’una perspectiva filosòfica i teològica, destacant les característiques següents:
- Racionalidat: la intel·ligència humana va més enllà del càlcul i la predicció; implica comprensió, judici i responsabilitat moral.
- Encarnació: la intel·ligència humana està lligada a la corporeïtat i l’experiència viscuda.
- Relacionalidat: el pensament humà es dona en el context de relacions interpersonals.
- Relació amb la veritat: la intel·ligència humana cerca la veritat i el bé comú.
- Custòdia del món: la humanitat té el deure de protegir i orientar el desenvolupament tecnològic amb responsabilitat ètica.
Conclou advocant per una comprensió integral de la comprensió integral de la intel-ligència humana i s’aclareixen els límits de la IA. S’emfatitza que la IA és una eina poderosa, però no reemplaça la intel·ligència humana ni les seves capacitats morals i espirituals, i s’adverteix contra una visió tecnocràtica que atorgui a la IA un paper decisiu en la presa de decisions humanes sense supervisió ètica.
La IV part aquesta dedicada al paper de l’ètica per guiar el desenvolupament i l’ús de la IA. Es recorda «l’activitat tecnicocientífica no té un caràcter neutre, sent una empresa humana que posa en qüestió les dimensions humanístiques i culturals de l’enginy humà.» (AV, 36) Crida l’atenció «sobre la importància de la responsabilitat moral basada en la dignitat i la vocació de la persona» Aquest principi ètic que s’aplica a tota la tècnica és vàlid també per a les qüestions relatives a la implementació i ús d’IA. En aquest sentit es planteja la IA com una ajuda a la libertat humana i a las decisions, i no com un substitut de l’autonomia moral. Es rebutja la idea que la IA pugui reemplaçar la intel·ligència humana o ser tractada com un agent moral.
La V part, també bastant àmplia, planteja un conjunt de qüestions específiques sobre IA i la societat. En concret, s’analitzen àrees on la IA té un impacte significatiu, incloent-hi:
- Relacions humanes: risc de deshumanització en la interacció social.
- Economia i treball: necessitat de garantir la justícia i la dignitat laboral.
- Sanidat: la IA pot ajudar en diagnòstics, però no pot reemplaçar el judici clínic i el tracte humà.
- Educació: necessitat d’equilibrar l’ús de la IA amb l’ensenyament personalitzat i humanístic.
- Desinformació, deepfake i abusos: el perill de manipulació de la veritat.
- Privacitat i control: riscos de vigilància massiva.
- Protecció de la casa comuna (medi ambient): la IA pot contribuir a cura del planeta, però també augmentar el consum de recursos.
- Guerra: el risc de l’ús de la IA en armes autònomes i conflictes armats.
- Relació de la humanitat amb Déu: la IA no pot substituir l’espiritualitat ni la relació transcendental de l’ésser humà
La nota conclou (VI) amb una reflexió final en la qual advoca per la veritable saviesa, que combini el coneixement tècnic amb el discerniment moral i la cerca del bé comú. Això significa que la IA ha d’estar subordinada a la intel·ligència humana i orientada per valors ètics sòlids.
No tot són reflexions conceptuals. La nota, inclou un conjunt de recomanacions pràctiques. entre elles les següents:
- La necessitat de desenvolupar marcs reguladors clars que garanteixin un ús responsable de la IA. Es recomana la creació d’òrgans independents que supervisin l’ús de IA en sectors sensibles.
- La rellevància que la IA no prengui decisions autònomes en àrees crítiques com la justícia, la sanitat i la guerra.
- La importància de mantenir la persona com el centre del desenvolupament tecnològic.
- La necessitat de la formació en ètica de la tecnologia per a desenvolupadors, empreses i usuaris.
- La rellevància d’integrar el pensament crític en l’educació digital per evitar la dependència excessiva de la IA.
- Posar mitjans per assegurar la transparència i responsabilitat en el disseny d’IA, de manera que els algorismes han de ser explicables i auditables.
- Garantir que la IA respecti la privacitat i els drets fonamentals de les persones, al mateix temps que s’alerta sobre els riscos de discriminació algorítmica i la necessitat de mecanismes de correcció. S’insta també a evitar que la IA reforci desigualtats o exclogui uns certs grups de la societat.
- No oblidar que la IA ha de contribuir a la justícia social i al desenvolupament sostenible.
Encara que moltes de les recomanacions presentades en aquesta nota ja han estat considerades en diversos fòrums dedicats a l’ètica en la IA, el document sembla molt oportú, no sols per recollir àmpliament recomanacions molt assenyades, sinó per donar-los fonament. És de lloar també la reflexió filosòfic-teològica sobre la intel·ligència humana, dins de la integritat de la persona, i la seva diferència amb la IA.