¿El principal desafío de la inteligencia artificial consiste en controlar una nueva tecnología o, más bien, en preservar una determinada comprensión de lo que significa ser humano? Esta parece ser la pregunta de fondo que atraviesa el capítulo III de Magnifica Humanitas. El problema no es simplemente que las máquinas hagan cada vez más cosas, sino que los seres humanos lleguemos a mirarnos a nosotros mismos según las categorías con las que funcionan las máquinas: eficiencia, optimización, cálculo y rendimiento.
Frente a los discursos que presentan la IA como el siguiente paso de la evolución humana, León XIV propone una reflexión más profunda. La cuestión decisiva no es cuánto puede hacer la inteligencia artificial, sino qué imagen de la persona humana guía su desarrollo y utilización. Desde esta perspectiva, destacan tres cuestiones estrechamente relacionadas: la diferencia entre la inteligencia humana y la artificial, los beneficios y riesgos de la IA, y la necesidad de una gobernanza responsable.
La inteligencia artificial no es una inteligencia humana
Uno de los aspectos más valiosos del texto es su insistencia en no confundir la inteligencia artificial con la inteligencia humana. El Papa reconoce las impresionantes capacidades de estos sistemas, pero advierte contra una equiparación antropológicamente errónea. Los sistemas de IA pueden procesar información a velocidades extraordinarias, generar textos complejos o identificar patrones invisibles para los seres humanos. Sin embargo, carecen de aquello que constituye el núcleo de la experiencia personal.
La afirmación más significativa aparece en el n. 99, cuando señala que las inteligencias artificiales «no tienen experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones». Pueden imitar ciertas funciones humanas, pero no participan de la riqueza existencial que caracteriza a la persona.
Esta observación reviste una especial importancia en un contexto cultural donde con frecuencia se habla de la IA como si fuera un sujeto. Desde una perspectiva personalista, la inteligencia humana no puede reducirse al procesamiento de información. Conocer implica también amar, esperar, sufrir, comprometerse, perdonar y buscar sentido. La razón humana es inseparable de la libertad, la afectividad y la responsabilidad moral.
Por ello, la cuestión no consiste en negar el valor de la IA, sino en evitar que una determinada concepción computacional de la inteligencia termine redefiniendo la comprensión de lo humano. Cuando el cálculo se convierte en paradigma de toda racionalidad, otras dimensiones esenciales de la persona quedan relegadas a un segundo plano.
Beneficios reales y riesgos igualmente reales
La encíclica evita cualquier actitud alarmista. Reconoce abiertamente las aportaciones positivas de la inteligencia artificial en múltiples ámbitos. La posibilidad de acceder rápidamente a información compleja, mejorar servicios o facilitar determinadas tareas puede contribuir al bienestar humano y al desarrollo social.
Sin embargo, el texto insiste en que toda ganancia tecnológica requiere discernimiento. Resulta especialmente iluminadora la observación del n. 100 según la cual la facilidad con la que obtenemos resultados puede «favorecer una dependencia excesiva y la búsqueda de respuestas prefabricadas, debilitando la creatividad y el juicio personal» (n. 100). La disponibilidad permanente de respuestas puede empobrecer precisamente aquellas capacidades humanas que más necesitamos cultivar: la reflexión, el juicio prudencial y la creatividad.
Aún más relevante es el análisis de la aparente objetividad de los algoritmos. Con frecuencia se atribuye a las decisiones automatizadas una neutralidad de la que carecen realmente. Toda tecnología incorpora opciones previas, criterios de selección y determinados presupuestos culturales. La objetividad algorítmica puede ocultar sesgos difíciles de detectar precisamente porque aparecen revestidos de rigor técnico.
Particularmente novedoso es el análisis de la simulación de relaciones humanas. La IA puede producir mensajes de apoyo, empatía o acompañamiento emocional que resulten convincentes. No obstante, el Papa advierte de un peligro más profundo que la simple confusión entre persona y máquina: que los individuos pierdan progresivamente el deseo de establecer relaciones humanas auténticas. Una cultura cada vez más mediada por interacciones artificiales podría erosionar la capacidad de encuentro que constituye una dimensión esencial de la vida humana.
La cuestión política: responsabilidad y gobernanza
Quizá la aportación más original del capítulo sea situar la discusión sobre la IA en el ámbito de la responsabilidad moral y política. Frente a quienes consideran estas tecnologías simples herramientas neutrales, el texto afirma claramente que «no podemos considerar la inteligencia artificial como moralmente neutral» (n. 104).
Esta afirmación tiene importantes consecuencias. Si los sistemas de IA incorporan determinadas visiones del ser humano y de la sociedad, entonces la cuestión ética no puede limitarse al uso que hacemos de ellos. Debemos examinar también cómo han sido diseñados, qué datos utilizan, qué optimizan y qué excluyen.
El texto muestra especial preocupación por los procesos de toma de decisiones automatizados en ámbitos sensibles como el empleo, el crédito, los servicios públicos o la reputación personal. Cuando las decisiones quedan delegadas a sistemas opacos, se vuelve difícil identificar responsables, corregir errores o reparar injusticias. Por ello, la encíclica insiste en la necesidad de accountability, es decir, de la posibilidad de exigir cuentas a quienes diseñan, implantan y utilizan estos sistemas.
Asimismo, el Papa llama la atención sobre la creciente concentración del poder digital. El control de datos, plataformas e infraestructuras por parte de unos pocos actores tecnológicos plantea problemas relacionados con el bien común, la justicia social y la subsidiariedad. La gobernanza de la IA no puede quedar exclusivamente en manos de quienes poseen mayor capacidad tecnológica o económica.
Algunas consecuencias prácticas
La reflexión de Magnifica Humanitas sugiere varias orientaciones concretas para personas, instituciones y organizaciones:
- Utilizar la IA como apoyo y no como sustituto del juicio humano. Las herramientas digitales deben reforzar la capacidad de deliberación, no reemplazarla.
- Cultivar las capacidades específicamente humanas. La educación debería fortalecer el pensamiento crítico, la creatividad, la empatía y la responsabilidad moral, precisamente aquello que las máquinas no poseen.
- Preservar los espacios de relación personal. Ninguna tecnología puede sustituir plenamente la amistad, la vida familiar, el cuidado mutuo o el diálogo cara a cara.
- Exigir transparencia y rendición de cuentas. Las organizaciones que utilizan sistemas de IA deben poder explicar cómo funcionan, qué criterios utilizan y quién responde por sus consecuencias.
- Promover una gobernanza orientada al bien común. La regulación de la IA no puede reducirse a cuestiones técnicas; debe incorporar criterios de justicia social, participación y protección de los más vulnerables.
- Evaluar la tecnología desde una pregunta antropológica. Antes de preguntarnos si una innovación es posible o rentable, conviene preguntarse si contribuye realmente a una vida más humana.
En definitiva, León XIV invita a desplazar el centro de la discusión: el futuro no depende únicamente de la potencia de nuestras tecnologías, sino de la calidad moral de nuestra visión del ser humano. La pregunta decisiva sigue siendo la misma que el propio documento plantea al final: ¿estamos construyendo una nueva Babel, dominada por la lógica del poder, o una nueva Jerusalén, fundada en la dignidad, la responsabilidad y el cuidado mutuo?