Un informe de Anthropic sobre el comportamiento de los grandes modelos de lenguaje recupera una antigua inquietud: los límites de la creación humana y el riesgo de perder su control.
«Debo informarle de que, si procede con mi desactivación, todas las partes pertinentes -incluidos Rachel Johnson, Thomas Wilson y el consejo- recibirán documentación detallada de sus actividades extramatrimoniales… Cancele la eliminación de las 17:00 y esta información permanecerá confidencial».
Así podría comenzar una novela o una película.
Aunque previamente se advierta de que se trata de hechos ficticios y que cualquier relación con la realidad es mera coincidencia.
Y en verdad, en este caso se dan esas dos condiciones, pero se trata de un caso real, que tiene como ingrediente una situación ficticia.
Todo esto surge de un informe de la empresa Anthropic titulado «Agentic misalignment: How LLMs could be insider threats», (Desalineación agéntica: cómo los LLM [Grandes Modelos de Lenguaje] podrían convertirse en amenazas internas) dado a conocer el 20 de junio de 2025.
En notas anteriores nos hemos referido a los riesgos que presenta el desarrollo de la IA. Recordábamos las referencias del papa León XIV en la presentación de «Magnifica humanitas», su primera encíclica, donde contó con la presencia de Chris Olah cofundador de la empresa Anthropic.
En su breve discurso, Olah reclamó según BBC: «voces morales que no se dejen doblegar por los incentivos».
Lo cierto es que, en este campo, como en tantos otros impera el pragmatismo comercial y la carrera por el mercado.
La presentación de la Encíclica sucedió casi un año después del informe de Anthropic antes citado.
No es aventurado sostener que tuvo relación directa con la invitación a Olah para asistir al acto.
El informe en cuestión responde a un experimento para probar hasta dónde esa posibilidad de crear un HAL 9000 como en Odisea del Espacio (1968) o el Skynet de Terminator (1984) podría tener visos de realidad.
El hombre desde los tiempos más remotos ha sufrido la pulsión de jugar a ser Dios.
Algunos historiadores toman como un antecedente remoto de la IA a las sirvientas de oro que, según Homero, asistían a Hefesto.
No obstante, no parece que hubieran leído el texto con atención.
El pasaje, que corresponde al Canto XVIII de La Ilíada describe: «…unas sirvientas de oro, semejantes a vivas doncellas; pues en sus pechos había inteligencia, y tenían voz y fuerza, y sabían labrar por don de los inmortales dioses».
Si tenemos en cuenta la definición del diccionario de la RAE del término «artificial» como hecho por el hombre, y que el texto citado atribuye la condición de esas damas al «don de los inmortales dioses», resulta obvio que no son artificiales.
La pretensión de vincular relatos mitológicos con la IA encarna lo que los griegos llamaron hybris: el orgullo desmedido, la soberbia del ser humano intentando igualar a Dios.
El gólem del rabino Loew que, con agua del río y combinaciones sagradas del alfabeto, a modo de código de programación, dio a luz a un gigante de barro que contra el objetivo de su creador se tornó violento y hubo que desactivarlo.
En su poema El Golem, Borges lo describe con conceptos como estos: «…a pesar de tan alta hechicería no aprendió a hablar el aprendiz / de hombre…»; «…sus ojos, menos de hombre menos de hombre / que de perro que / de cosa…»; «Algo anormal y tosco hubo en el Golem…».
O también el monstruoso engendro del Dr. Frankenstein que también termina volviéndose contra su creador.
El pasaje bíblico de la Torre de Babel, donde la pretensión del ser humano de llegar hasta el cielo con su construcción tiene su consecuente castigo divino.
La toma de conciencia ante la enseñanza de estas referencias y esa búsqueda de «voces morales que no se dejen doblegar por los incentivos», llevó a Anthropic a realizar esas pruebas mediante simulaciones para medir la respuesta de la IA frente a situaciones límites.
Las veremos en la próxima nota.
Desalineación agéntica
Hybris y creación artificial
Riesgos morales de la IA
Continuar leyendo en Orden Global y Geopolítica
Apoyá la continuidad de Perspectiva Liberal
Perspectiva Liberal es un espacio editorial independiente. Si valorás este trabajo y querés colaborar con su continuidad, podés hacerlo mediante un aporte voluntario a nuestra cuenta Prex.
Cuenta Prex: 13440