La inteligencia artificial dejó de ser una promesa del futuro para convertirse en una fuerza capaz de transformar la economía, el trabajo, la política y hasta los conflictos armados. Mientras empresas tecnológicas compiten por liderar la carrera de la innovación, también crece una pregunta incómoda: ¿qué sucede cuando el desarrollo tecnológico avanza más rápido que los acuerdos éticos y sociales capaces de contenerlo?
En ese contexto, el Papa León XIV lanzó una advertencia que resonó mucho más allá del ámbito religioso. En su primera gran encíclica, Magnifica Humanitas, el pontífice pidió a gobiernos, empresas y ciudadanos actuar con mayor responsabilidad frente a la expansión de esta tecnología. Su mensaje no fue un rechazo absoluto a la innovación, sino una llamada urgente a frenar riesgos de la IA, especialmente aquellos relacionados con la guerra, la manipulación de la información y la concentración del poder tecnológico.
Frenar riesgos de la IA: el mensaje de un Papa ante una carrera sin pausa
No es casual que el Papa haya elegido a la inteligencia artificial como uno de los ejes centrales de su primer gran documento. La discusión ya no gira únicamente en torno a productividad o automatización, sino sobre el impacto humano de sistemas que cada vez toman más decisiones, procesan más datos y tienen mayor influencia sobre la vida cotidiana.
De acuerdo con Reuters, León XIV fue enfático al señalar que el problema no radica solamente en la tecnología, sino en la velocidad con la que se está desplegando. En un entorno donde las compañías tecnológicas enfrentan enormes presiones comerciales, el Papa pidió “ralentizar” el desarrollo y construir marcos regulatorios sólidos. En otras palabras, insistió en la necesidad de frenar riesgos de la IA antes de que los daños se vuelvan irreversibles.
El mensaje resulta particularmente relevante porque no proviene únicamente de una institución moral, sino de una voz que históricamente ha influido en debates sociales globales. El paralelismo con la Revolución Industrial —cuando la Iglesia comenzó a pronunciarse sobre los derechos laborales— no parece accidental.
La guerra automatizada y el temor a perder el control humano
Uno de los puntos más contundentes del documento es la preocupación sobre el uso militar de la inteligencia artificial. León XIV advirtió que algunos sistemas de armas autónomas han evolucionado “prácticamente más allá del alcance humano para controlarlos”, una frase que pone sobre la mesa un debate que parecía reservado para la ciencia ficción.
El riesgo no es menor. Delegar decisiones letales a sistemas automatizados abre interrogantes éticos profundas sobre responsabilidad, rendición de cuentas y humanidad. ¿Quién responde cuando un algoritmo decide atacar? ¿Cómo se garantiza que una máquina distinga entre objetivos militares y civiles?
Para el pontífice, cualquier aplicación militar de la IA debe someterse a restricciones éticas rigurosas. Más aún, calificó como “inaceptable” confiar a sistemas automatizados decisiones relacionadas con la vida y la muerte, reforzando una postura que interpela tanto a gobiernos como a la industria tecnológica.
Desinformación, polarización y una cultura del conflicto
Otra preocupación central del Papa gira en torno al ecosistema digital. León XIV alertó sobre cómo ciertos sistemas de IA pueden amplificar desinformación, incentivar conflictos y privilegiar contenidos polarizantes, especialmente cuando las plataformas priorizan el engagement sobre el bienestar colectivo.
La advertencia llega en un momento especialmente sensible, donde la proliferación de contenido manipulado, deepfakes y narrativas falsas ya afecta procesos democráticos, reputaciones y dinámicas sociales. En ese contexto, la conversación sobre tecnología deja de ser únicamente técnica y se convierte en un asunto de gobernanza.
La pregunta de fondo es incómoda, pero necesaria: ¿estamos diseñando herramientas para informar mejor o para captar más atención a cualquier costo? Desde la óptica del Papa, el problema no es solo tecnológico, sino profundamente humano y político.
Frenar riesgos de la IA también implica proteger a trabajadores y comunidades
La conversación sobre inteligencia artificial suele enfocarse en modelos avanzados y productividad, pero rara vez mira hacia quienes sostienen la cadena tecnológica. León XIV dedicó parte importante de su encíclica a denunciar nuevas formas de explotación vinculadas a la economía digital.
Desde trabajadores que moderan contenidos o entrenan sistemas bajo condiciones precarias, hasta personas involucradas en la extracción de minerales esenciales para dispositivos tecnológicos, el Papa recordó que la innovación también tiene costos humanos invisibles. Particularmente fuerte fue su señalamiento sobre niños y adolescentes trabajando en contextos peligrosos relacionados con la minería de tierras raras.
Aquí emerge una dimensión clave para las agendas ESG y de responsabilidad social: frenar riesgos de la IA no solo implica regular algoritmos, sino también garantizar cadenas de suministro éticas, derechos laborales y condiciones dignas para quienes sostienen la infraestructura tecnológica global.
Una crítica al poder concentrado de los datos
León XIV también lanzó un mensaje directo sobre la propiedad de los datos. El Papa cuestionó que el control de la información quede exclusivamente en manos privadas, planteando la necesidad de una supervisión independiente y de políticas públicas más activas.
Este punto abre un debate especialmente sensible para gobiernos y empresas: quién controla los datos controla también el acceso al conocimiento, los patrones de comportamiento y, potencialmente, decisiones económicas o políticas. En un entorno dominado por grandes tecnológicas, el llamado del Vaticano pone el foco en la gobernanza digital.
Incluso figuras de la industria parecen reconocer esta tensión. Durante el evento de presentación del documento, Chris Olah, cofundador de Anthropic, admitió que los laboratorios de IA enfrentan incentivos comerciales que, en ocasiones, pueden entrar en conflicto con “hacer lo correcto”.
De la Torre de Babel al dilema contemporáneo
Para ilustrar su postura, León XIV recurrió a una referencia bíblica: la Torre de Babel. Más allá del simbolismo religioso, el ejemplo funciona como metáfora de un mundo que podría estar construyendo capacidades tecnológicas sin preguntarse suficientemente hacia dónde se dirige.
La comparación no sugiere rechazar el progreso, sino cuestionar la arrogancia de asumir que toda innovación es necesariamente positiva por el simple hecho de ser posible. La gran interrogante ya no es si la inteligencia artificial seguirá creciendo —porque claramente lo hará—, sino bajo qué principios.
En un escenario marcado por competencia acelerada, conflictos geopolíticos y tensiones económicas, la ética parece estar intentando alcanzar a una tecnología que corre varios pasos adelante.
El llamado del Papa León XIV no es únicamente un posicionamiento religioso; es también una invitación a replantear el modelo de innovación que está moldeando el futuro. Su insistencia en frenar riesgos de la IA apunta a una idea esencial: el desarrollo tecnológico no puede evaluarse solo por su capacidad de generar eficiencia o ganancias, sino también por sus consecuencias sociales, laborales y humanas.
La verdadera discusión quizá no sea si la inteligencia artificial debe avanzar, sino cómo hacerlo sin perder de vista aquello que precisamente intenta servir: las personas. Porque si el progreso tecnológico promete construir un mejor futuro, también debe demostrar que es capaz de hacerlo sin dejar atrás la ética, la dignidad y el bien común.
