A IA diante da pessoa humana

A primeira encíclica de Leão XIV sobre inteligência artificial alerta para o poder digital opaco, a concentração tecnológica e a necessidade de desarmar a lógica de domínio sobre o humano.

A IA diante do juízo da pessoa humana

A primeira encíclica de Leão XIV sobre inteligência artificial adverte sobre o poder opaco das plataformas, a concentração tecnológica e a necessidade de desarmar a lógica de domínio sobre o humano.
A “Magnifica Humanitas”, subtitulada “Sobre a custódia da pessoa humana no tempo da Inteligência Artificial”, é o primeiro documento dessa classe emitido pelo atual Papa.
Um título mais do que sugestivo, que desde já adverte sobre a necessidade de custodiar o ser humano diante da difusão avassaladora da IA.
As encíclicas normalmente são dirigidas: “Aos veneráveis irmãos patriarcas, primazes, arcebispos, bispos e demais ordinários locais que têm paz e comunhão com a Sé Apostólica, e a todos os fiéis do mundo católico”.
Mas neste caso essa fórmula foi omitida, o que indica que a carta é dirigida a todas as pessoas, isto é, literalmente “urbi et orbi”.
Ao capítulo III, “Técnica e domínio. A grandeza da pessoa humana diante das promessas da IA”, é que vamos dedicar esta nota.
E o faremos com as palavras textuais do documento, cuja clareza, parece-nos, dispensa maiores comentários.
É por todos conhecida a vigência de um “paradigma tecnocrático no mundo globalizado: a tendência a deixar que a lógica da eficiência, do controle e do lucro governe por si só as decisões pessoais, sociais e econômicas”.
Essa tendência se “estendeu rapidamente nos últimos anos, também como efeito da difusão da IA, das ciências cognitivas, da nanotecnologia, da robótica e da biotecnologia”.
Essas tecnologias “necessitam de um novo marco espiritual, ético e político”.
Porque “o progresso técnico, valioso em si mesmo, requer um discernimento sobre a visão antropológica que o guia e os fins que persegue”.
Deve-se ter muito em conta que “o controle das plataformas, das infraestruturas, dos dados e da capacidade de cálculo não é prerrogativa dos Estados, mas de grandes atores econômicos e tecnológicos que, de fato, determinam as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação. Quando um poder de tal magnitude se concentra em poucas mãos, tende a tornar-se opaco”.
E nessa opacidade se dilui “a dignidade inalienável da pessoa, o bem comum, o destino universal dos bens, a subsidiariedade, a solidariedade e a justiça social. Esses princípios exigem verificar se o poder das infraestruturas digitais e dos algoritmos favorece realmente a participação e a responsabilidade, protege os mais vulneráveis, assegura um acesso equitativo às oportunidades e se ordena ao bem de todos”.
Deve-se ter especialmente em conta que “qualquer afirmação sobre a IA corre o risco de ficar obsoleta em pouco tempo, dada a impressionante velocidade de desenvolvimento desses sistemas. Em segundo lugar, todos nós, inclusive aqueles que os projetam, sabemos muito pouco sobre seu funcionamento efetivo”.
A IA processa com mais rapidez que o cérebro humano; “no entanto, essa potência continua ligada exclusivamente ao tratamento de dados: as denominadas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações nem conhecem por dentro o que significam o amor, o trabalho, a amizade e a responsabilidade. Tampouco têm uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações nem assumem o peso das consequências”.
Além disso, geram “a falsa impressão de estar em uma relação com um autêntico sujeito pessoal”.
Como se essas objeções fossem poucas, “Os atuais sistemas de IA requerem grandes quantidades de energia e água, incidem de maneira significativa nas emissões de dióxido de carbono e consomem recursos de maneira intensiva. Com o aumento da complexidade, sobretudo nos grandes modelos linguísticos, crescem também as necessidades de potência de cálculo e capacidade de armazenamento, que se apoiam em um conjunto de máquinas, cabos, centros de dados e infraestruturas consumidoras de energia. Por isso é essencial desenvolver soluções tecnológicas mais sustentáveis para reduzir o impacto sobre o meio ambiente e cuidar da nossa Casa comum”.
Advertir essas coisas “não significa estar contra o progresso, mas exercer um cuidado responsável em relação à família humana”.
É por isso que “são necessários marcos jurídicos adequados, vigilância independente, educação dos usuários, uma política que não renuncie à sua tarefa. Caso contrário, a mudança será governada apenas por lógicas tecnocráticas e apresentada como necessária e imprescindível”.
Assim, “quem controla a IA imporá sua própria visão moral, que se converterá na infraestrutura invisível dos sistemas. De nada serviria uma IA mais moral se essa moral fosse decidida por poucos”.
Esses “pequenos grupos muito influentes podem orientar informações e consumos, condicionar processos democráticos e incidir nas dinâmicas econômicas em benefício próprio, contradizendo a justiça social e a solidariedade entre os povos”.
“Gostaria, por fim, de usar uma palavra muito importante para mim: ‘desarmar’.”
Desarmar a IA significa subtraí-la à lógica da competição armamentista, que hoje já não é apenas militar, mas econômica e cognitiva. É a corrida pelo algoritmo mais eficaz e pelo banco de dados mais amplo, para consolidar uma vantagem geopolítica ou comercial sobre todos os demais. Desarmar não significa renunciar à tecnologia, mas impedir seu domínio sobre o humano. Significa subtraí-la aos monopólios, torná-la discutível, refutável e, portanto, habitável, restabelecendo nela a pluralidade das culturas humanas e das formas de vida.
Se em um “ecossistema, a harmonia se rompe quando uma única espécie prolifera em detrimento das demais; no humano, ocorre o mesmo quando uma faculdade pretende ser a medida de tudo. Assim, a inteligência, se absolutizada, termina por velar outras dimensões essenciais da vida: o afeto, a vontade, a entrega e a relação. O poder técnico, se não se equilibra, não nos torna mais capazes; isola-nos e nos expõe ainda mais a lógicas de domínio e de exclusão. Certamente não se trata de opor-se à inteligência, mas de recordar que, quando ela se recolhe em si mesma, esquece que foi feita para servir à vida e à pessoa humana”.

IA e dignidade humana.
Poder tecnológico e opacidade.
Desarmar a lógica de domínio.

Continuar lendo em Ordem Global e Geopolítica.