A IA não nos ameaça por pensar demais

Magnifica Humanitas alerta corretamente sobre o poder tecnológico, mas evita a pergunta decisiva: que tipo de consciência humana pretende governá-lo?

A recente encíclica Magnifica Humanitas recoloca a Igreja Católica dentro do grande debate contemporâneo sobre a inteligência artificial, o poder tecnológico e o destino humano.
O gesto tem importância.
Durante anos, boa parte do pensamento religioso observou a revolução digital como se fosse apenas um problema técnico, econômico ou comunicacional.
Hoje já é evidente que não estamos diante de mais uma inovação, mas de uma transformação civilizacional capaz de alterar o trabalho, a educação, a política, a guerra, a economia, a cultura e até a própria percepção do humano.
Nesse sentido, a encíclica acerta.
Ela alerta sobre a concentração do poder tecnológico, a dependência de sistemas opacos, a mercantilização da vida humana, a manipulação algorítmica e o risco de uma nova “Babel digital” dominada por atores privados com capacidades superiores às de muitos Estados.
Também é significativa a participação de Christopher Olah, pesquisador da Anthropic especializado em interpretabilidade de redes neurais.
Sua presença mostra que até o Vaticano compreende que já não pode falar seriamente sobre o futuro humano sem dialogar com aqueles que estão desenhando a nova arquitetura tecnológica do planeta.
Mas é precisamente aí que também aparece a grande limitação da encíclica.
O documento observa com preocupação o crescimento do poder artificial, mas evita aprofundar suficientemente a fraqueza da consciência humana contemporânea.
A IA não desembarca em uma civilização lúcida, equilibrada e dona de si mesma.
Ela chega a uma humanidade psicologicamente fragmentada, emocionalmente reativa, intelectualmente superficial e cada vez menos capaz de sustentar atenção, reflexão e discernimento próprios.
A maioria das análises sobre inteligência artificial parte de uma premissa implícita: o problema é que as máquinas poderiam se tornar inteligentes demais.
Mas talvez o verdadeiro problema seja outro.
Talvez o drama central seja que os seres humanos passaram séculos renunciando progressivamente ao exercício profundo de sua própria consciência.
A cultura contemporânea não forma indivíduos interiormente sólidos.
Forma consumidores de estímulos.
A lógica digital dominante premia a velocidade em vez da profundidade, a reação em vez da reflexão, o impacto emocional em vez da compreensão, a adesão tribal em vez do pensamento independente.
Nesse contexto, a IA não cria a crise.
Ela a expõe.
As sociedades contemporâneas já estavam perdendo capacidade de discernimento muito antes dos modelos generativos.
A diferença é que agora essa fragilidade fica brutalmente amplificada.
Pela primeira vez na história, sistemas artificiais começam a operar sobre milhões de pessoas com uma capacidade de adaptação psicológica, linguística e comportamental superior à de qualquer aparato propagandístico anterior.
E fazem isso em uma humanidade que muitas vezes já não distingue entre pensar e reagir.
Uma tecnologia poderosa nas mãos de uma consciência madura pode se transformar em uma ferramenta extraordinária de expansão humana.
Mas essa mesma tecnologia, nas mãos de sociedades emocionalmente imaturas, cognitivamente dispersas e culturalmente manipuláveis, pode acelerar formas inéditas de dependência e controle.
Aqui aparece a insuficiência de uma abordagem meramente moral.
A encíclica insiste em conceitos valiosos: dignidade, solidariedade, bem comum, limites éticos, fraternidade e responsabilidade compartilhada.
Tudo isso está correto.
Mas também é insuficiente.
Porque o problema contemporâneo não é simplesmente ético.
É antropológico.
Talvez aí apareça uma limitação histórica que a própria encíclica não consegue revisar.
Durante séculos, grande parte das estruturas religiosas ocidentais concentrou enormes esforços em orientar a conduta humana, preservar doutrinas e transmitir sistemas morais, mas dedicou muito menos atenção ao desenvolvimento consciente da função de pensar.
Ensinou-se o que crer, o que obedecer e até o que sentir.
Mas raramente se ensinou a observar o próprio processo mental, distinguir entre pensamentos próprios e alheios, reconhecer automatismos psicológicos ou desenvolver domínio consciente sobre a própria vida interior.
E talvez essa carência seja hoje decisiva.
Não basta pedir responsabilidade a governos e corporações se as próprias sociedades perderam capacidade de autodominío psicológico.
Não basta exigir transparência algorítmica se milhões de pessoas já vivem presas a impulsos emocionais, automatismos mentais e narrativas pré-fabricadas.
Não basta reivindicar uma “IA humanista” se o próprio ser humano começa a esquecer o que significa viver conscientemente.
A questão decisiva não é somente quem controla a inteligência artificial.
A questão mais profunda é que tipo de ser humano tentará controlá-la.
A crise atual não começou com o Vale do Silício.
O Vale do Silício simplesmente aprendeu a explorar industrialmente fraquezas humanas preexistentes: vaidade, medo, tribalismo, dependência emocional, busca compulsiva de aprovação e dificuldade crescente para sustentar pensamento autônomo.
A IA generativa já não apenas organiza informação.
Ela começa a moldar a percepção humana.
E isso altera profundamente a estrutura cultural e política das sociedades.
Por isso é ingênuo acreditar que o problema será resolvido apenas por meio de regulação técnica ou apelos éticos.
A dinâmica tecnológica contemporânea é impulsionada por competição econômica, poder geopolítico, interesses militares e luta global por supremacia estratégica.
Nenhuma exortação moral deterá esse processo por si só.
A defesa humana não dependerá somente de leis, protocolos ou governança digital.
Dependerá da qualidade interior das pessoas.
Dependerá da capacidade de formar indivíduos capazes de observar os próprios pensamentos, resistir a sugestões coletivas, sustentar critério próprio, governar impulsos e desenvolver consciência deliberada.
Em outras palavras: o problema de fundo talvez não seja que as máquinas se pareçam demais com o ser humano.
O problema poderia ser que muitos seres humanos já vivem de maneira cada vez mais mecânica.
E aí aparece um paradoxo extraordinário.
A IA pode acabar obrigando a humanidade a redescobrir aquilo que havia começado a perder: a necessidade de desenvolver consciência real.
Talvez o grande desafio histórico não consista apenas em construir máquinas inteligentes.
Talvez consista em evitar que o ser humano renuncie definitivamente à sua própria inteligência interior.
Porque nenhuma civilização pode continuar verdadeiramente humana se deixar de produzir seres humanos capazes de pensar por si mesmos.

A IA como fenômeno civilizacional.
A fragilidade da consciência humana.
Os limites do moralismo tecnológico.

Continuar lendo em Ordem Global e Geopolítica