En las últimas semanas se han sucedido tres hechos de distinta naturaleza, pero sorprendentemente alineados entre sí. El 15 de mayo el Papa León XIV firmó la encíclica “Magnifica Humanitas”, un documento que coloca la inteligencia artificial en el centro del debate moral contemporáneo. Diez días después, el 25 de mayo, Chris Olah, cofundador de Anthropic, se presentó en el Vaticano para dialogar con el Papa durante la presentación pública del texto, en un encuentro que unió por primera vez a un laboratorio puntero de IA con la máxima autoridad de la Iglesia. Apenas unos días más tarde, el 4 de junio, Anthropic publicó su informe “When AI builds itself”, una advertencia técnica sobre la automejora recursiva y la necesidad de frenar temporalmente el desarrollo de la IA de frontera. Lo llamativo no es que estos hechos hayan ocurrido casi seguidos, sino que están profundamente ligados entre sí.
La encíclica “Magnifica Humanitas” abre el debate desde el plano moral. El Vaticano plantea que la inteligencia artificial está transformando la identidad humana, el trabajo y la estructura social. Advierte sobre la deshumanización laboral, la concentración de poder tecnológico y la necesidad de custodiar la dignidad humana en un mundo donde la eficiencia puede imponerse sobre la persona. La encíclica no entra en detalles técnicos, sino en la pregunta que sostiene todo el documento; qué significa ser humano en un tiempo en el que la tecnología puede moldear nuestra vida más de lo que imaginamos.
La presentación pública de la encíclica reunió al Papa con Chris Olah, cofundador de Anthropic, en un acto documentado por Religión en Libertad. En ese encuentro, Olah reconoció que los laboratorios de IA operan bajo presiones comerciales y geopolíticas que no siempre permiten actuar con prudencia. Señaló el riesgo real de desplazamiento laboral masivo y la necesidad de supervisión externa para equilibrar intereses. La reunión funcionó como un puente entre ética e ingeniería, mostrando que ambos mundos están preocupados por la misma aceleración tecnológica, aunque cada uno la observe desde un ángulo distinto.
Pocos días después, el 4 de junio, Anthropic publicó su informe “When AI builds itself”, donde sostiene que la inteligencia artificial ha pasado de ser una herramienta que ejecuta instrucciones a convertirse en un agente que participa activamente en su propio desarrollo. Según el documento, modelos como Claude generan más del ochenta por ciento del código que integra la base interna de la compañía, mientras los ingenieros producen ocho veces más código diario que en 2024 gracias a esa automatización. Esta aceleración indica que la creación tecnológica está entrando en una fase donde la intervención humana es cada vez menor.
El informe advierte sobre la posible llegada de la auto‑mejora recursiva, un escenario en el que la IA diseñaría y optimizaría sus propios sucesores. Anthropic aclara que este punto no se ha alcanzado y que no es inevitable, pero considera que la velocidad actual del progreso justifica una coordinación internacional más estricta y mecanismos de supervisión que mantengan el desarrollo alineado con los objetivos humanos antes de que la tecnología supere la capacidad de control. También describe que Claude ya puede resolver problemas de ingeniería complejos en horas que antes requerían días, ejecutando ciclos experimentales completos con una intervención humana mínima.
A partir de esta aceleración, Anthropic plantea tres posibles trayectorias; un estancamiento del progreso, un avance eficiente bajo supervisión humana o una auto‑mejora recursiva completa con riesgo de pérdida de control. El mensaje final es que, si el desarrollo avanza más rápido que las salvaguardas, será necesario frenar o regular, del mismo modo que en su día se establecieron tratados para limitar la proliferación nuclear.
En paralelo a estas advertencias, Anthropic ha tenido que gestionar las consecuencias prácticas de su propia aceleración tecnológica. En abril presentó Claude Mythos, un modelo tan potente en ciberseguridad que fue retirado del lanzamiento público. Mythos es capaz de detectar fallos graves de seguridad que nadie conoce todavía y aprovecharlos antes de que puedan ser corregidos, lo que llevó a la compañía a restringirlo al Proyecto Glasswing, un programa cerrado para unas cincuenta organizaciones, entre ellas gobiernos, bancos y grandes tecnológicas. La versión completa quedó limitada a usos defensivos, mientras que el público general recibió el 9 de junio Claude Fable 5, una variante domesticada de la arquitectura Mythos. Esta versión incorpora salvaguardas que desvían las consultas sensibles hacia modelos más seguros, manteniendo parte de la capacidad original sin exponer los riesgos asociados. El contraste entre Mythos y Fable 5 muestra la tensión interna que atraviesa Anthropic; advierte sobre la necesidad de frenar la carrera tecnológica, pero al mismo tiempo desarrolla modelos cada vez más potentes para no quedar atrás en un escenario global que no concede pausas.
El avance de la IA se desarrolla en un escenario profundamente asimétrico. Algunos países impulsan la tecnología al máximo porque entienden que quien domine estos sistemas controlará la economía, la defensa y la narrativa global. Otros optan por frenar y regular antes de avanzar, intentando evitar que la IA se convierta en un arma estratégica o en un monopolio privado. Esa diferencia de ritmos hace imposible una pausa coordinada; si unos aceleran y otros se detienen, la carrera se impone por sí sola. Anthropic pide un marco global, pero la geopolítica empuja en la dirección contraria.
Las empresas viven atrapadas en la misma tensión. Aunque quieran actuar con cautela, la competencia las obliga a correr. Ninguna puede permitirse quedarse atrás. Anthropic lo reconoce abiertamente; el mercado no es un freno y la tecnología avanza más rápido que la ética. Por eso hablan de supervisión externa, de límites compartidos y de responsabilidad distribuida. Es la admisión implícita de que avanzamos a una velocidad para la que aún no sabemos si estamos preparados, como quien corre hacia un borde sin saber si podrá volar cuando el suelo desaparezca bajo sus pies.
La secuencia completa deja una imagen clara. La encíclica establece el marco moral. La reunión con Anthropic conecta esa visión con la ingeniería. El informe técnico sobre la automejora recursiva aporta la advertencia más directa. Tres piezas distintas que señalan el mismo problema desde ángulos diferentes. La IA avanza por impulso propio, los países compiten por no quedarse atrás, las empresas aceleran para no perder mercado y la sociedad intenta comprender qué está ocurriendo. Ya no se trata de buscar un punto de equilibrio, sino de asumir que avanzamos hacia un borde cuyo alcance aún desconocemos, y que cada decisión de estados, empresas o individuos definirá si aprendemos a sostenernos en el aire o caemos cuando el suelo desaparezca.
Fuentes y referencias:
Encíclica Magnifica Humanitas (Vaticano, 25 de mayo de 2026)
Reunión del Papa con Chris Olah (Anthropic) documentado en Religionen Libertad.
No hay comentarios:
Publicar un comentario