La IA no es un genio: es una prueba de poder

Entre los riesgos inmediatos y los existenciales, la inteligencia artificial obliga a pensar quién controla la técnica y con qué fines.

Ya sabemos que cualquier nueva tecnología, sobre todo como la del enorme impacto que ha generado la irrupción de la IA, presenta nuevos desafíos
El tema es entonces, cómo encarar esos desafíos.
Desde el punto de vista del usuario común, lo primero es saber que existen y tenerlos en cuenta.
No creer que la IA es una especie de genio como el de Aladino, solo que no surge de una lámpara, sino de otro objeto mágico como el celular, y está siempre dispuesto a solucionar todas nuestras dudas.
El otro punto de vista es el del creador de la IA.
Los analistas ven dos categorías de riesgos.
Por un lado, los riesgos que llaman «tangibles y presentes».
Por otro los riesgos denominados «existenciales».
Empecemos con los tangibles y presentes.
Desinformación y deterioro de la confianza
Esa capacidad de producir textos, audios y videos con apariencia de realidad, y con costo casi nulo que vemos a diario, no siempre es interpretada por la población.
En ocasiones es notoria la calidad de meme del producto.
En otras no.
Y en esos casos el engaño funciona como tal.
A la habitual desinformación que se produce diariamente en cantidades inconmensurables se suma una tecnología que la potencia extraordinariamente.
¿No genera esto acaso el socavamiento de la confianza en los medios y las instituciones?
Sin olvidar la muy frecuente intención del usuario de obtener datos médicos, históricos, o legales y darlos por ciertos, aunque la IA pueda inventarlos sin sonrojarse.
Riesgos Socioeconómicos y de Sesgo
La Revolución Industrial impactó particularmente sobre los trabajos en que prevalecía la fuerza física.
La IA golpea sobre otro tipo de trabajos como la programación, la redacción, la traducción, el análisis financiero, el diseño…
¿Para qué contratar un especialista para crear la carátula de un libro, si la IA la elabora con rapidez extraordinaria y sin cobrar un centavo?
El desempleo, además, se ve incrementado por la enorme velocidad de la transición, que puede dejar a millones de profesionales sin tiempo para reconvertirse.
En cuanto a la información sesgada, hay que tener en cuenta cómo se entrenan los modelos.
Los datos que recoge de Internet reflejan los prejuicios, racismos, e interpretaciones de la historia muchas veces flechadas, más las pautas e inclinaciones de sus creadores.
Basta buscar información en Internet sobre la llamada «historia reciente» en Uruguay y la carga de Internet para comprobarlo.
Supongamos que una IA se usa para calificar para un empleo.
La IA va a producir resultados con los datos cargados y presentarlos como producto de una neutralidad inexistente.
Y estamos refiriéndonos a los sistemas menores
¿Qué pasa con las herramientas de IA avanzadas?
Riesgos Técnicos y de Seguridad
Esas versiones superiores pueden ser usadas para descubrir debilidades en sistemas informáticos a una velocidad supersónica, o para diseñar distintos tipos de malware.
No pensemos en infiltrar el Pentágono o los servicios chinos.
Pensemos más humildemente en que nos introduzcan un virus en el modesto software de nuestro notebook y luego nos vendan la solución.
Riesgos Geopolíticos y de Concentración de Poder
El desarrollo de la IA de vanguardia requiere inversiones de miles de millones de dólares.
Esto supone la concentración del poder global y el consecuente control de la información en un puñado de corporaciones y de superpotencias estatales.
Dos visiones
Ante este panorama, la industria está partida en dos enfoques:
El preventivo (que sostiene Anthropic) sostiene que hay que desarrollar los modelos en entornos muy controlados y regulados antes de que salgan al mercado y no revelar el código fuente que puede caer en manos equivocadas.
Porque si un sistema de IA se vuelve extremadamente inteligente y autónomo, pero sus objetivos internos no están perfectamente alineados con los valores humanos, podría causar daños catastróficos.
Y no se trata de temer una creación hollywoodense como Skynet que odie a los humanos, sino del uso por los humanos.
Imaginemos lo que hubieran sido las masacres totalitarias del siglo XX con un instrumento como este.
Por eso entiende Olah que construir modelos gigantescos sin entender cómo funcionan por dentro es una irresponsabilidad técnica.
Del otro lado están los «aceleracionistas» que proponen que es mejor liberar los códigos de la IA y que el escrutinio público les encuentre las fallas, mientras tanto, aceleradamente ganan miles de millones, claro.
Y hablando de sesgo, no pude conseguir una imagen ni en Gemini ni en ChatGPT que mostrara la tensión entre las dos corrientes y no estuviera sesgada hacia el aceleracionismo.
De modo que le pedí a la IA que representara el triunfo del espíritu sobre el afán de lucro, y eso es lo que pretende significar la composición que ilustra esta nota.

IA y poder
Riesgos presentes
Conciencia humana

Continuar leyendo en Orden Global y Geopolítica