La IA no nos amenaza por pensar demasiado

Magnifica Humanitas advierte sobre el poder tecnológico, pero evita la pregunta decisiva: ¿qué tipo de consciencia humana pretende gobernarlo?

La reciente encíclica Magnifica Humanitas vuelve a colocar a la Iglesia Católica dentro del gran debate contemporáneo sobre la inteligencia artificial, el poder tecnológico y el destino humano.
El gesto tiene importancia.
Durante años, buena parte del pensamiento religioso observó la revolución digital como si fuese apenas un problema técnico, económico o comunicacional.
Hoy ya resulta evidente que no estamos frente a una innovación más, sino ante una transformación civilizatoria capaz de alterar el trabajo, la educación, la política, la guerra, la economía, la cultura y hasta la percepción misma de lo humano.
En ese sentido, la encíclica acierta.
Advierte sobre la concentración del poder tecnológico, la dependencia de sistemas opacos, la mercantilización de la vida humana, la manipulación algorítmica y el riesgo de una nueva “Babel digital” dominada por actores privados con capacidades superiores a muchos estados.
También resulta significativa la participación de Christopher Olah, investigador de Anthropic especializado en interpretabilidad de redes neuronales.
Su presencia muestra que incluso el Vaticano comprende que ya no puede hablar seriamente del futuro humano sin conversar con quienes diseñan la nueva arquitectura tecnológica del planeta.
Pero allí aparece también la gran limitación de la encíclica.
El documento observa con preocupación el crecimiento del poder artificial, pero evita profundizar suficientemente en la debilidad de la consciencia humana contemporánea.
La IA no desembarca sobre una civilización lúcida, equilibrada y dueña de sí misma.
Llega sobre una humanidad psicológicamente fragmentada, emocionalmente reactiva, intelectualmente superficial y cada vez menos capaz de sostener atención, reflexión y discernimiento propios.
La mayoría de los análisis sobre inteligencia artificial parten de una premisa implícita: el problema es que las máquinas podrían volverse demasiado inteligentes.
Pero quizá el verdadero problema sea otro.
Tal vez el drama central sea que los seres humanos llevan siglos renunciando progresivamente al ejercicio profundo de su propia consciencia.
La cultura contemporánea no forma individuos interiormente sólidos.
Forma consumidores de estímulos.
La lógica digital dominante premia velocidad antes que profundidad, reacción antes que reflexión, impacto emocional antes que comprensión, adhesión tribal antes que pensamiento independiente.
En ese contexto, la IA no crea la crisis.
La expone.
Las sociedades contemporáneas ya estaban perdiendo capacidad de discernimiento mucho antes de los modelos generativos.
La diferencia es que ahora esa fragilidad queda brutalmente amplificada.
Por primera vez en la historia, sistemas artificiales comienzan a operar sobre millones de personas con una capacidad de adaptación psicológica, lingüística y conductual superior a la de cualquier aparato propagandístico previo.
Y lo hacen en una humanidad que muchas veces ya no distingue entre pensar y reaccionar.
Una tecnología poderosa en manos de una consciencia madura puede transformarse en una herramienta extraordinaria de expansión humana.
Pero esa misma tecnología, en manos de sociedades emocionalmente inmaduras, cognitivamente dispersas y culturalmente manipulables, puede acelerar formas inéditas de dependencia y control.
Aquí aparece la insuficiencia del enfoque meramente moral.
La encíclica insiste en conceptos valiosos: dignidad, solidaridad, bien común, límites éticos, fraternidad y responsabilidad compartida.
Todo eso es correcto.
Pero también es insuficiente.
Porque el problema contemporáneo no es simplemente ético.
Es antropológico.
Tal vez allí aparezca una limitación histórica que la propia encíclica no alcanza a revisar.
Durante siglos, gran parte de las estructuras religiosas occidentales concentraron enormes esfuerzos en orientar la conducta humana, preservar doctrinas y transmitir sistemas morales, pero dedicaron mucha menos atención al desarrollo consciente de la función de pensar.
Se enseñó qué creer, qué obedecer e incluso qué sentir.
Pero rara vez se enseñó a observar el propio proceso mental, distinguir entre pensamientos propios y ajenos, reconocer automatismos psicológicos o desarrollar dominio consciente sobre la propia vida interior.
Y quizá esa carencia resulte hoy decisiva.
No alcanza con pedir responsabilidad a gobiernos y corporaciones si las propias sociedades han perdido capacidad de autodominio psicológico.
No alcanza con exigir transparencia algorítmica si millones de personas ya viven atrapadas dentro de impulsos emocionales, automatismos mentales y narrativas prefabricadas.
No alcanza con reclamar una “IA humanista” si el ser humano comienza a olvidar qué significa vivir conscientemente.
La cuestión decisiva no es solamente quién controla la inteligencia artificial.
La cuestión más profunda es qué tipo de ser humano intentará controlarla.
La crisis actual no comenzó con Silicon Valley.
Silicon Valley simplemente aprendió a explotar industrialmente debilidades humanas preexistentes: vanidad, miedo, tribalismo, dependencia emocional, búsqueda compulsiva de aprobación y dificultad creciente para sostener pensamiento autónomo.
La IA generativa ya no solo organiza información.
Comienza a modelar percepción humana.
Y eso altera profundamente la estructura cultural y política de las sociedades.
Por eso resulta ingenuo creer que el problema se resolverá únicamente mediante regulación técnica o apelaciones éticas.
La dinámica tecnológica contemporánea está impulsada por competencia económica, poder geopolítico, intereses militares y lucha global por supremacía estratégica.
Ninguna exhortación moral detendrá por sí sola ese proceso.
La defensa humana no dependerá solamente de leyes, protocolos o gobernanza digital.
Dependerá de la calidad interior de las personas.
Dependerá de la capacidad de formar individuos capaces de observar sus propios pensamientos, resistir sugestiones colectivas, sostener criterio propio, gobernar impulsos y desarrollar consciencia deliberada.
En otras palabras: el problema de fondo quizá no sea que las máquinas se parezcan demasiado al ser humano.
El problema podría ser que muchos seres humanos ya viven de manera crecientemente mecánica.
Y ahí aparece una paradoja extraordinaria.
La IA podría terminar obligando a la humanidad a redescubrir aquello que había comenzado a perder: la necesidad de desarrollar consciencia real.
Tal vez el gran desafío histórico no consista solamente en construir máquinas inteligentes.
Tal vez consista en evitar que el ser humano renuncie definitivamente a su propia inteligencia interior.
Porque ninguna civilización puede seguir siendo verdaderamente humana si deja de producir seres humanos capaces de pensar por sí mismos.

La IA como fenómeno civilizatorio.
La debilidad de la consciencia humana.
La insuficiencia del moralismo tecnológico.

Continuar leyendo en Orden Global y Geopolítica