Frankenstein, IA e o dever de responder pelo que criamos

De Mary Shelley à inteligência artificial, um alerta sobre a ambição técnica quando se separa da responsabilidade moral.

Em abril de 1815, a erupção de um vulcão na atual Indonésia espalhou uma nuvem de cinzas que cobriu o sol e atingiu particularmente a Europa e a América do Norte, embora todo o planeta tenha sido afetado.
1816 ficou conhecido como “o ano sem verão”, mas não foi apenas o turismo que sofreu prejuízos.
À perda das colheitas seguiram-se a fome, os distúrbios, os saques…
Foi naquele verão gelado que nasceu Frankenstein.
Em uma casa de campo próxima a Genebra, presos pelo clima, estavam Lord Byron, Percy Shelley, Mary Wollstonecraft e o Dr. Polidori, médico de Byron.
Eles se desafiaram a ver quem escreveria o melhor conto de terror.
Dali saíram Frankenstein ou o Prometeu moderno, de Mary Wollstonecraft, e o personagem do vampiro, de Polidori.
Obras que deram origem, com maior ou menor fortuna, a numerosos descendentes desenvolvidos pela literatura e pelo cinema.
A história é conhecida: o Dr. Frankenstein constrói, com restos humanos, um ser artificial.
Como ele ficou bastante feio, o rejeita.
O ser se sente ferido em sua sensibilidade e responde com violência.
Essa é a consequência de não assumir a responsabilidade pelo que se cria.
O triunfo científico, neste caso, foi seguido pelo fracasso moral.
A famosa tensão entre liberdade e responsabilidade.
Quem é verdadeiramente o monstro?
Aquele ser desventurado que nem sequer tinha outro nome além de “a criatura” ou “o demônio”?
Ou o criador irresponsável que não se fez cargo de sua criatura?
É fácil compreender como esse raciocínio pode ser aplicado a diferentes situações.
Afinal, o espírito desse drama não está longe da atitude de rejeição do poeta Neruda em relação à sua filha hidrocefálica.
É possível fazer um paralelo com outras invenções humanas, como, por exemplo, a Inteligência Artificial.
Porque o Dr. Frankenstein é mais do que uma invenção literária; é uma advertência.
A autora nos alerta sobre as consequências da ambição desmedida.
O objetivo do cientista deveria ser o avanço da ciência.
É esse o motivo de Frankenstein?
É o seu ego.
Ele quer ser como um deus.
Não pensa senão no sucesso.
Mas o homem não é Deus e não é bom brincar de sê-lo.
A IA é uma grande invenção, sem dúvida.
Mas para que serve?
Por exemplo, poderia revolucionar, e certamente já está nesse caminho, a tecnologia militar.
Isso supõe melhorar notavelmente as armas de destruição em massa.
Levantaram-se vozes clamando por uma regulação da IA.
A Santa Sé é uma delas.
Assim, em muitos círculos se aguardava com interesse a apresentação da nova Encíclica papal.
Em 26 de maio de 2026, Leão XIV não frustrou essa expectativa e apresentou sua Magnifica Humanitas.
Não era habitual que o ato fosse protagonizado pelo próprio papa.
Ele começou sua breve alocução agradecendo a todos os que haviam colaborado com essa iniciativa, e “em particular, desejo agradecer ao Sr. Olah por aceitar nosso convite”, disse o Pontífice.
Quem é esse senhor Olah, merecedor dessa distinção especial?
Por que a Santa Sé tinha tanto interesse em que ele estivesse presente?
Christopher Olah é um jovem pesquisador canadense, cofundador de uma empresa de inteligência artificial denominada Anthropic BPC, Public Benefit Corporation.
E por que foi convidado?
A razão seria dada pelo próprio Olah quando, depois da leitura do documento e de diversas intervenções, disse:
“Quero começar com algo que pode soar um pouco estranho vindo do cofundador de uma empresa de IA, alguém que escolheu esse trabalho pelo desejo de contribuir para o bem-estar da humanidade.”
Mas isso não é, por acaso, o que todos dizem?
É habitual no discurso empresarial a pretensão de apresentar-se como benfeitor.
Mas imediatamente depois dessa frase, Olah acrescentou:
“Precisamos de vozes morais que os incentivos não possam dobrar.”
E por “incentivos” ele se referia àquele poderoso cavalheiro chamado Dinheiro.
Toda uma declaração de princípios, sem dúvida.
A história de Olah inclui ter prestado serviços em empresas de IA das quais se demitiu precisamente por questões éticas.
Por isso, disse Olah, “se queremos que esta tecnologia siga um bom caminho, é enormemente importante que haja pessoas fora desses incentivos… É por meio do diálogo e do esforço mútuo […] que a humanidade alcançará grandes coisas.”
E depois de agradecer ao papa e à Igreja “por assumir este trabalho de discernimento”, acrescentou: “Muitas vezes nos detemos no que nos divide, mas a humanidade, cheia de dignidade e consciência, tem muitíssimo terreno comum.”
E o mais grave é que: “estamos construindo sistemas que imitam o intelecto humano, mas cujos processos internos nos são completamente opacos.”
Agora já sabemos o porquê do convite.
Na próxima nota veremos as diferentes filosofias empresariais sobre este tema tão significativo.

Frankenstein como advertência moral.
IA, opacidade e responsabilidade humana.
A necessidade de vozes além do dinheiro.

Continuar lendo em Ordem Global e Geopolítica