A IA não é um gênio: é uma prova de poder

Entre riscos imediatos e ameaças existenciais, a inteligência artificial obriga a perguntar quem controla a técnica e com que fins.

Já sabemos que qualquer nova tecnologia, sobretudo uma com o enorme impacto gerado pela irrupção da IA, apresenta novos desafios.
A questão, então, é como enfrentar esses desafios.
Do ponto de vista do usuário comum, a primeira coisa é saber que eles existem e levá-los em conta.
Não acreditar que a IA é uma espécie de gênio como o de Aladim, só que não surge de uma lâmpada, mas de outro objeto mágico como o celular, sempre disposto a resolver todas as nossas dúvidas.
O outro ponto de vista é o do criador da IA.
Os analistas veem duas categorias de riscos.
Por um lado, os riscos que chamam de “tangíveis e presentes”.
Por outro, os riscos denominados “existenciais”.
Comecemos pelos tangíveis e presentes.
Desinformação e deterioração da confiança
Essa capacidade de produzir textos, áudios e vídeos com aparência de realidade, e com custo quase nulo, que vemos diariamente, nem sempre é interpretada pela população.
Em algumas ocasiões, a qualidade de meme do produto é evidente. Em outras, não.
E nesses casos o engano funciona como tal.
À desinformação habitual, produzida diariamente em quantidades incomensuráveis, soma-se agora uma tecnologia que a potencializa extraordinariamente.
Isso não provoca, por acaso, o solapamento da confiança nos meios de comunicação e nas instituições?
Sem esquecer a intenção muito frequente do usuário de obter dados médicos, históricos ou legais e tomá-los como certos, embora a IA possa inventá-los sem corar.
Riscos Socioeconômicos e de Viés
A Revolução Industrial impactou particularmente os trabalhos nos quais predominava a força física.
A IA atinge outro tipo de trabalho, como programação, redação, tradução, análise financeira, design…
Para que contratar um especialista para criar a capa de um livro, se a IA a elabora com rapidez extraordinária e sem cobrar um centavo?
O desemprego, além disso, é ampliado pela enorme velocidade da transição, que pode deixar milhões de profissionais sem tempo para se reconverter.
Quanto à informação enviesada, é preciso levar em conta como os modelos são treinados.
Os dados que recolhem da Internet refletem preconceitos, racismos e interpretações da história muitas vezes tendenciosas, além das pautas e inclinações de seus criadores.
Basta buscar informações na Internet sobre a chamada “história recente” no Uruguai e observar a carga da Internet para comprová-lo.
Suponhamos que uma IA seja usada para qualificar alguém para um emprego.
A IA produzirá resultados com os dados carregados e os apresentará como produto de uma neutralidade inexistente.
E estamos nos referindo aos sistemas menores.
O que acontece com as ferramentas avançadas de IA?
Riscos Técnicos e de Segurança
Essas versões superiores podem ser usadas para descobrir fragilidades em sistemas informáticos a uma velocidade supersônica, ou para desenhar diferentes tipos de malware.
Não pensemos em infiltrar o Pentágono ou os serviços chineses. Pensemos mais humildemente em alguém introduzir um vírus no modesto software do nosso notebook e depois nos vender a solução.
Riscos Geopolíticos e de Concentração de Poder
O desenvolvimento da IA de vanguarda requer investimentos de bilhões de dólares.
Isso supõe a concentração do poder global e o consequente controle da informação nas mãos de um punhado de corporações e superpotências estatais.
Duas visões
Diante desse panorama, a indústria está dividida em dois enfoques:
O preventivo, sustentado pela Anthropic, afirma que é preciso desenvolver os modelos em ambientes muito controlados e regulados antes de chegarem ao mercado, e não revelar o código-fonte que pode cair em mãos equivocadas.
Porque, se um sistema de IA se torna extremamente inteligente e autônomo, mas seus objetivos internos não estão perfeitamente alinhados com os valores humanos, poderia causar danos catastróficos.
E não se trata de temer uma criação hollywoodiana como Skynet que odeia os humanos, mas sim o uso feito pelos humanos.
Imaginemos o que teriam sido os massacres totalitários do século XX com um instrumento como este.
Por isso Olah entende que construir modelos gigantescos sem compreender como funcionam por dentro é uma irresponsabilidade técnica.
Do outro lado estão os “aceleracionistas”, que propõem que é melhor liberar os códigos da IA e deixar que o escrutínio público encontre suas falhas, enquanto, nesse meio-tempo, ganham aceleradamente bilhões, claro.
E falando de viés, não consegui obter nem no Gemini nem no ChatGPT uma imagem que mostrasse a tensão entre as duas correntes e não estivesse enviesada a favor do aceleracionismo. Então pedi à IA que representasse o triunfo do espírito sobre o afã de lucro, e é isso que a composição que ilustra esta nota pretende significar.

IA e poder
Riscos presentes
Consciência humana

Continuar lendo em Ordem Global e Geopolítica