📜 El Papa Leo XIV publica la primera encíclica sobre inteligencia artificial

El Papa Leo XIV publicó el domingo la primera encíclica sobre inteligencia artificial de la historia. Se llama Magnifica Humanitas — "Humanidad Magnífica" en latín — y se firmó exactamente 135 años después de la Rerum Novarum, el texto fundacional de la doctrina social de la Iglesia sobre los derechos de los trabajadores. El paralelismo no es casual: para este Papa, la IA es el desafío social y moral de nuestra era. Mientras tanto, Meta grabó a sus empleados para entrenar la IA que podría sustituirlos, y un investigador descubrió un hack tan elegante como aterrador. La misma semana, tres formas distintas de preguntar qué significa ser humano cuando las máquinas aprenden.

📜 El Papa Leo XIV publica la primera encíclica sobre inteligencia artificial

El domingo 25 de mayo, el Papa Leo XIV publicó Magnifica Humanitas, el primer documento pontificio dedicado íntegramente a la inteligencia artificial. El título —"Humanidad Magnífica" en latín— no es casual. La fecha tampoco: se firmó el 15 de mayo, 135 años después de la Rerum Novarum de León XIII, el texto fundacional de la doctrina social de la Iglesia sobre los derechos de los trabajadores durante la Revolución Industrial. El paralelismo es deliberado: la IA es, para este Papa, el desafío social y moral de nuestra era.

Lo más interesante no es solo el contenido, sino cómo se presentó. En la sala del Sínodo, junto a cardenales y teólogos, estaba Christopher Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad. No por su cargo, sino porque la investigación en transparencia de modelos es exactamente el tipo de trabajo que preocupa al Vaticano.

La encíclica aborda tres ejes principales: la dignidad humana frente a sistemas que toman decisiones por nosotros, la redistribución del valor generado por la automatización, y la necesidad de transparencia algorítmica como condición para una sociedad justa. Nada de prohibir la IA. Todo lo contrario: el documento llama a la Iglesia a participar activamente en el desarrollo de la tecnología, no a observarla desde la distancia.

De la ética en el Vaticano a la ética en los pasillos de Meta: la misma semana demostró que no todas las empresas interpretan la responsabilidad igual.

Meta graba a sus empleados para entrenar su IA

Meta ha confirmado que está grabando a sus empleados — reuniones, conversaciones, interacciones — para entrenar sus sistemas de IA. La justificación oficial: mejorar la capacidad de los modelos para entender conversaciones naturales. La realidad menos cómoda: los mismos empleados cuyos datos se usan para entrenar podrían estar formando a la IA que eventualmente los reemplace.

Y mientras tanto, un investigador de seguridad descubrió un método para manipular modelos de lenguaje mediante "tokens fantasma": secuencias invisibles que, incrustadas en un prompt, alteran el comportamiento del modelo sin que el usuario lo sepa. No es un bug — es una propiedad de cómo funcionan los transformers. Y no tiene parche fácil.

Una encíclica que llama a la participación, una empresa que graba a sus propios empleados y una vulnerabilidad que no tiene solución fácil. La pregunta sobre qué significa ser humano cuando las máquinas aprenden no tiene una respuesta — pero cada vez más instituciones, desde el Vaticano hasta los laboratorios de seguridad, están intentando encontrarla. Y eso, en sí mismo, es un avance.

— Max