El documento de León XIV analiza los desafíos éticos y políticos de la IA, 135 años después de Rerum Novarum. Advierte sobre la concentración de poder tecnológico y la necesidad de mantener el juicio humano en decisiones críticas.
La encíclica Magnifica Humanitas de León XIV aborda el dilema ético y político planteado por la inteligencia artificial (IA) en el acceso al trabajo, al crédito, a la salud y en decisiones militares. El documento se publica 135 años después de que Rerum Novarum planteara la cuestión obrera en la era industrial. Sin rechazar la innovación, advierte sobre sus efectos en la dignidad humana: la IA es también una herramienta de poder para clasificar, predecir, condicionar y excluir.
La mutación tecnológica reconfigura el escenario geopolítico. La IA requiere infraestructuras altamente concentradas: semiconductores de avanzada, capacidad de cómputo, gigantescos centros de datos y enormes volúmenes de energía. Quienes dominan esos recursos obtienen beneficios comerciales y la capacidad de fijar estándares, influir en la circulación pública de información y proyectar sus propios valores sobre el resto del mundo.
Para países en desarrollo o economías emergentes, la soberanía tecnológica se juega en tres frentes: el material (acceso a infraestructura), el normativo (capacidad de regular) y el cognitivo. Este último implica garantizar que los modelos de IA entiendan las variantes lingüísticas, las instituciones y las realidades sociales locales, en lugar de importar sesgos y categorías elaborados en otros contextos. De lo contrario, se corre el riesgo de ingresar a la era digital como meros usuarios y proveedores de datos, subordinados a reglas ajenas.
Frente a este escenario de alta concentración privada, el texto señala que resulta tentador pensar en el Estado como la solución automática, pero el dilema es más complejo. Si bien se necesita un Estado con capacidad técnica para auditar y regular a las grandes plataformas, los gobiernos también pueden utilizar estas herramientas para encarar formas inéditas de vigilancia o control social. No se trata de inflar el rol estatal sin frenos, sino de consolidar un Estado democrático, fuerte en sus capacidades analíticas, pero estrictamente subordinado al Estado de derecho y a los derechos fundamentales.
Otro desafío es la posibilidad de que, a medida que la IA ofrece respuestas cada vez más rápidas y convincentes, se delegue también la capacidad de juzgar. La IA puede ampliar la capacidad para reunir información, analizar escenarios y comparar alternativas. Sin embargo, el juicio humano no consiste simplemente en elegir la opción estadísticamente más eficiente. Exige comprender el contexto, ponderar valores en tensión, actuar bajo incertidumbre y asumir las consecuencias. Aprovechar esta tecnología no implica renunciar al criterio propio, sino conservar la libertad y la capacidad efectiva de cuestionar, modificar o rechazar sus recomendaciones.
La ética del desarrollo tecnológico exige definir límites claros: hay decisiones que jamás deberían automatizarse por completo. La justicia penal, la asistencia social crítica, las decisiones médicas de alta complejidad y, de forma categórica, el uso de la fuerza o las armas autónomas deben conservar siempre una instancia de decisión humana.
Cuando un sistema falla o discrimina, apelar al pretexto de que «fue un error del algoritmo» es inaceptable. Los programas informáticos no rinden cuentas ante un tribunal ni asumen responsabilidad moral. Detrás de cada implementación existen decisiones humanas: programadores, ejecutivos y funcionarios públicos que seleccionaron los datos de entrenamiento y autorizaron su despliegue. La trazabilidad y la responsabilidad legal deben estar claramente identificadas.
Asimismo, se debe evitar que la «supervisión humana» se reduzca a una mera firma formal o burocrática por parte de un operador que no comprende el funcionamiento interno del sistema. Para que el control sea real, el derecho debe exigir transparencia, explicación clara de los parámetros utilizados y canales efectivos para que cualquier ciudadano pueda impugnar una decisión automatizada.
La cuestión interpela directamente a las empresas. La IA promete importantes ganancias de productividad, pero su incorporación no debería evaluarse únicamente por la reducción de costos o la automatización de tareas. El trabajo también es un espacio donde las personas desarrollan sus talentos, ejercen la creatividad, aprenden a decidir y construyen vínculos. La responsabilidad de quienes lideran organizaciones consiste en utilizar estas herramientas para potenciar esas capacidades, y no para reemplazar indiscriminadamente la iniciativa y el discernimiento de los trabajadores.
La educación será decisiva para lograrlo. No alcanza con enseñar a utilizar nuevas herramientas ni con adquirir competencias digitales. Se necesita fortalecer la capacidad de formular buenas preguntas, distinguir una respuesta convincente de un conocimiento bien fundamentado, pensar críticamente y actuar con responsabilidad. Esa formación debe comenzar en la escuela y la universidad, pero continuar durante toda la vida laboral. Cuanto mayor sea el poder de los sistemas de IA, más importante será formar personas capaces de gobernar su uso sin depender intelectualmente de ellos.
A nivel internacional, construir consensos de gobernanza global resulta indispensable pero complejo, en un contexto signado por la rivalidad tecnológica y militar entre grandes potencias. En este punto, la diplomacia multilateral, regional y la diplomacia pontificia pueden cumplir un rol clave como articuladoras de acuerdos básicos en materias sensibles como ciberseguridad, desinformación y sistemas de armas. Argentina, con antecedentes como las Recomendaciones para una IA Fiable (2023) o la Guía de Controles para el Sector Público (2026), tiene la oportunidad de consolidar una política de Estado que combine desarrollo científico con resguardo soberano.
León XIV sintetiza este desafío a través de una consigna: «desarmar la inteligencia artificial». La frase no es una invitación a detener el progreso científico ni a caer en posturas neoluditas. Significa romper la falsa equivalencia entre el poder tecnológico y el derecho automático a gobernar a la sociedad. Se trata de sustraer la tecnología de la lógica del monopolio y de la carrera de armamentos, asegurando que la técnica permanezca como una herramienta al servicio de la persona y del bien común. En definitiva, no se trata solamente de poner límites al poder de la IA, sino también de fortalecer el juicio, la educación y la responsabilidad de las personas llamadas a orientarlo.
Alfredo Abriani y Horacio Reyser son miembros de la Fundación Argentina Global.