La IA ante el juicio de la persona humana

La primera encíclica de León XIV sobre inteligencia artificial advierte sobre el poder opaco de las plataformas, la concentración tecnológica y la necesidad de desarmar la lógica de dominio sobre lo humano.

La «Magnifica Humanitas», subtitulada «Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial», es el primer documento de esa clase emitido por el actual Papa.
Un título más que sugestivo, que desde ya, advierte la necesidad de custodiar al ser humano ante la difusión arrolladora de la IA.
Las encíclicas normalmente vienen dirigidas: «A los venerables hermanos patriarcas, primados, arzobispos, obispos y demás ordinarios locales que tienen paz y comunión con la Sede Apostólica, y a todos los fieles del mundo católico».
Pero en este caso se ha omitido, lo que indica que la carta está dirigida a todas las personas, es decir literalmente «urbi et orbi».
Al capítulo III, «Técnica y dominio.
La grandeza de la persona humana ante las promesas de la IA», es a lo que vamos a dedicar esta nota.
Y lo haremos con las palabras textuales del documento, cuya claridad, nos parece, exime de mayores comentarios.
Es por todos sabida la vigencia de un «paradigma tecnocrático en el mundo globalizado: la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas».
Esta tendencia se ha «extendido rápidamente en los últimos años, también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología».
Estas tecnologías «necesitan un nuevo marco espiritual, ético y político».
Porque «el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue.»
Debe tenerse muy en cuenta que «el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación.
Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco».
Y en esa opacidad se difumina «la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social.
Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos».
Debe tenerse especialmente en cuenta que «cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas.
En segundo lugar, todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo».
La IA procesa con más rapidez que el cerebro humano, «sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad.
Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias».
Además, generan «la falsa impresión de estar en una relación con un auténtico sujeto personal».
Como si estas objeciones fueran pocas, «Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva.
Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía.
Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común».
Advertir estas cosas, «no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana».
Es por eso que «se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea.
De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible».
Así, «quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas.
No serviría de nada una IA más moral, si esta moral es decidida por unos pocos».
Esos «pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos».
Quisiera, por último, usar una palabra muy importante para mí: “desarmar”
Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar, sino económica y cognitiva.
Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás.
Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano.
Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida.
Si en un «ecosistema, la armonía se rompe cuando una sola especie prolifera en detrimento de las demás; en lo humano, ocurre lo mismo cuando una facultad pretende ser la medida de todo.
Así, la inteligencia, si se absolutiza, termina por velar otras dimensiones esenciales de la vida: el afecto, la voluntad, la entrega y la relación.
El poder técnico, si no se equilibra, no nos hace más capaces; nos aísla, y nos expone aún más a lógicas de dominio y de exclusión. No se trata ciertamente de oponerse a la inteligencia, sino de recordar que, cuando se repliega en sí misma, olvida que ha sido hecha para servir a la vida y a la persona humana».

IA y dignidad humana.
Poder tecnológico y opacidad.
Desarme moral de la inteligencia artificial.

Continuar leyendo en Orden Global y Geopolítica