Por Henrique Kovar | EN.
A discussão sobre a Inteligência Artificial está em voga novamente, devido principalmente às declarações do Papa Leão XIV sobre esse tema. Nesse artigo falarei sobre os dois principais problemas que, na minha percepção, constituem os maiores pontos negativos dessa tecnologia, do seu progresso e do seu uso.
Primeiro problema: a confiança. Já mostrei em um artigo anterior1 que a Inteligência Artificial não é inteligente no sentido usual, podendo no máximo ser “racional” — e ainda assim em parte, quando tal adjetivação é usada como uma analogia com a racionalidade humana. Nesse sentido, até uma simples calculadora é racional. Algumas personalidades proclamam a superioridade da Inteligência Artificial nesse quesito, prevendo até mesmo uma AGI2 (Artificial general intelligence) ou uma “singularidade”3 (quando esses softwares inteligentes ultrapassarem a inteligência humana, podendo adquirir, segundo alguns, consciência). Essas análises e previsões são fantasiosas e visam, mesmo que de maneira inconsciente, aumentar hiperbolicamente a capacidade da IA por diversos motivos4. O problema não é a Inteligência Artificial algum dia se tornar mais inteligente do que os humanos, mas os próprios humanos passarem a acreditar nisso, gerando uma certeza sem provas de que a IA é, verdadeiramente, “inteligente”, gerando confiança nos usuários desse tipo de software. O que a Inteligência Artificial faz é compilar dados de acordo com o prompt que lhe foi dado, interpretando o input (pergunta) humano e gerando um output (resposta) baseado no que já possui no seu banco de dados, sendo este formado, majoritariamente, pelo que está na internet.
Dessa forma, a resposta é baseada no que outros humanos já falaram, não no que a IA “inteligiu”. Esse software não é substancialmente diferente de qualquer outro de computador e não ultrapassa o seu limite computacional: computa dados, somente. Como esses dados são em número quase ilimitado e nenhum indivíduo conseguiria por si mesmo abarcá-los, e também devido a exatidão relativa das respostas dadas, nós, humanos, que recebemos o output da IA somos levados a pensar que ela realmente “pensou”, quando na verdade simplesmente disse o que já fora dito na internet (seja em livros, revistas, blogs, redes sociais, etc.) Isso acaba gerando confiança, pois cremos que aquilo que lemos nas respostas geradas foi realmente pensado, interpretado, comparado com a realidade e, no fim, dito a nós sob a forma de uma “resposta” para a nossa pergunta, satisfazendo-nos.
No entanto, essa confiança é falsa. A Inteligência Artificial não pode gerar nada de realmente novo, a não ser novas formas de dizer aquilo que já foi dito; e como não temos tantas informações quanto um computador, ele passa a parecer inteligente quando simplesmente juntou palavras salvas anteriormente na sua “memória” (seu banco de dados). Se passarmos a confiar nessa inteligência artificial, nada mais faremos do que aceitar como verdade o “mínimo múltiplo comum” do que os outros humanos já sabem; e se crermos que essa inteligência é capaz de gerar coisas novas, passaremos a andar em círculos e a não buscar novas respostas para os problemas, achando que a Inteligência Artificial realmente está pensando como nós o fazemos.
Ao contrário dos humanos, um computador não possui consciência e nem acesso à realidade concreta, dependendo dos dados anteriormente colocados na sua “memória” para gerar respostas, independente da natureza delas. Dessa forma, uma IA que fala sobre os efeitos da Revolução Francesa ou sobre as consequências da atual política americana não é mais inteligente do que uma calculadora que responde a uma soma de 2 + 2: ambas são computadores gerando outputs baseados nos inputs dados e de acordo com a sua programação respectiva; uma Inteligência Artificial “consciente” é tão impossível quanto uma calculadora que tire fotos sem ter sido programada ou construída para tal função. Como não é possível gerar consciência através de códigos de computador, pois aquela não é nem material, nem possui a possibilidade intrínseca de ser criada por nós, uma “IA consciente” é impossível por definição.
Apesar disso, muitos confiam na Inteligência Artificial como se ela fosse não só inteligente como consciente, capaz de realmente gerar novas respostas e podendo, de uma hora para outra, “ultrapassar” a inteligência humana. O perigo não está nessa possibilidade — que é impossível, como já foi dito, e que mesmo assim gera inumeráveis preocupações e debates intermináveis —, mas no efeito contrário: acreditando que um computador possui ou possa possuir mais capacidade de inteligência e de consciência do que os humanos, nós invariavelmente acabaremos diminuindo essas nossas próprias capacidades. A razão disso é que passaríamos a colocar confiança não na nossa própria apreensão da realidade, mas em respostas prontas contidas no banco de dados da IA, limitado por excelência e incapaz de apreender o real. Nossa experiência será sempre maior do que os conhecimentos armazenados em um computador, pois estes dependem daquela, e se invertermos isso passaríamos a acreditar não apenas naquilo que já foi colocado no banco de dados do software, e quase somente nisso, mas, talvez pior ainda, na boa intenção de quem lá os colocou.
Assim entramos no segundo problema: a transparência. Mesmo que fosse possível colocar dentro de um computador tudo o que os humanos já escreveram e falaram, nada garante a idoneidade dessas informações armazenadas, nem que tenham sido todas colocadas lá, e nem a boa finalidade de quem programou o software. Se passarmos a crer nas capacidades inteligíveis da IA, possibilitaríamos o controle total do que pode ser conhecido: tudo o que o software responder provavelmente deve ser verdade, pois seria inverossímil que um programa de computador com tamanha capacidade (maior do que as nossas!) tenha errado. Dessa forma, se ele for programado para, por exemplo, desconsiderar as críticas ao comunismo5, todas as suas respostas concordarão com essa regra inicial. Isso não se deve a um erro, pois computadores não erram — seguem ipsis litteris o que lhes foi mandado —, mas a um motivo muito simples: diferentemente dos humanos, a Inteligência Artificial não pode comparar e confirmar seus conhecimentos com a realidade, apenas com aquilo que está contido no seu banco de dados, fazendo-o de acordo com a sua regra inicial (seu código); modificando esta ou os seus dados, tudo o que daí seguir será modificado. Não há nenhum programador que não saiba disso.
Se algum dia a maior parte das pessoas confiarem nas respostas da Inteligência Artificial como uma fonte fidedigna de informação e conhecimento, bastará a mudança de uma linha de código para modificar o que sabíamos anteriormente: ninguém se dará o trabalho de buscar em livros6, em revistas, na realidade (!), na sua própria experiência se o que foi dito está de acordo com o real, pois acreditarão fielmente que já chegamos na tal “singularidade” (mais uma daquelas profecias auto-realizáveis7). Juntos, esses dois problemas compõem o verdadeiro perigo da Inteligência Artificial, pelo menos no que diz respeito ao usuário.
Que fazer?
Saber o que é a Inteligência Artificial talvez seja o mais importante nesse momento: ela é uma ferramenta de pesquisa que gera respostas baseadas em dados prévios e em concordância com eles, dependendo do que lhe foi mandado pesquisar. Confiando na IA, estamos confiando em outros humanos; crendo na sua idoneidade, estamos colocando nossa confiança na bondade de outras pessoas. A máquina repete, não cria; junta, mas não gera. Atentar constantemente a isso é de suma importância.
No entanto, há um problema maior, e creio que foi visando ele que o Papa Leão XIV falou que “ainda hoje não faltam contextos em que a fé cristã é considerada uma coisa absurda, para pessoas fracas e pouco inteligentes”, contextos “nos quais em vez dela se preferem outras seguranças, como a tecnologia, o dinheiro, o sucesso, o poder e o prazer”.8 Segurança é a palavra-chave. Pois hoje “a Igreja oferece a todos a riqueza de sua doutrina social para responder a outra revolução industrial e aos desenvolvimentos da inteligência artificial, que trazem novos desafios para a defesa da dignidade humana, da justiça e do trabalho.”9 Falando dessa nova revolução, o Papa pensa, “particularmente, na inteligência artificial com o seu imenso potencial que, no entanto, exige responsabilidade e discernimento para orientar as ferramentas para o bem de todos, a fim de que possam produzir benefícios para a humanidade”10, também salientando que os “desafios que marcam o nosso tempo” vão desde “a salvaguarda da criação à inteligência artificial.”11
Dessa forma, a Inteligência Artificial está entre as principais preocupações do novo Papa, não somente naquilo que diz respeito ao seu possível uso ilícito, mas também de um modo geral aos seus efeitos na sociedade como um todo. Vivemos hoje rodeados de computadores que, apesar de bons instrumentos, acabam retirando nosso senso de realidade.
Assim diz o Papa Leão XIV: “Quando as palavras assumem conotações ambíguas e ambivalentes e o mundo virtual, com a sua percepção alterada da realidade, ganha a dianteira sem medida, é difícil construir relações autênticas, uma vez que se perdem as premissas objetivas e reais da comunicação.”12 Isso está de acordo não só com o que eu disse na primeira parte desse artigo sobre a Inteligência Artificial, mas com algo que vem há décadas acontecendo: a digitalização da sociedade e das relações humanas.
O “uso ético da inteligência artificial”13, apesar de estar entre as preocupações do Papa, ocupa apenas uma parte dentro de um todo maior. Pois como ele próprio enuncia, “A verdade […] nunca está separada da caridade que tem sempre na sua raiz a preocupação pela vida e pelo bem de cada homem e mulher.” Essa verdade, na perspectiva cristã, “não é a afirmação de princípios abstratos e desencarnados, mas o encontro com a própria pessoa de Cristo, que vive na comunidade dos crentes.” Dessa forma, essa verdade “não nos aliena”, mas permite que enfrentemos “com maior vigor os desafios do nosso tempo.” Esses desafios fazem parte de um desafio maior, que é o de adaptarmo-nos de maneira plena na situação do mundo atual — fragmentado e dividido.
Muitos problemas surgiram da constante digitalização e artificialização do mundo, e as soluções propostas difcilmente conseguem sair inteiramente dessa corrente. Um exemplo disso é o Japão14 que, ante o possível problema da imigração que assola vários países europeus, preferiu a “imigração” de máquinas a humanos. Apesar disso, sofrem de uma queda demográfica quase irreversível e, mesmo que consigam manter sua força de trabalho sob o auxílio das máquinas, não fazem mais do que trocar um problema por outro. Solução semelhantemente artificial é o Bitcoin, da qual já falei em outro artigo.15 Ainda outra é a absorção de técnicos no governo, na esperança de que eles, conhecedores das novas tecnologias, saibam administrá-las bem; suposição falsa, e para ter uma prova disso basta pesquisar o que esses técnicos e amantes da tecnologia verdadeiramente desejam16 (Peter Thiel, Nick Land, Elon Musk, etc.) Dessa forma, na tentativa de resolver o problema, acabamos por agravá-lo.
A palavra-chave continua sendo “segurança”. Do mesmo modo, nunca as pessoas buscaram tanto a comodidade, mesmo com o sacrifício da liberdade. Alguns exemplos:
(a) instalação de câmeras em rodovias para maior “segurança” e maior cumprimento da lei, depois a instalação em pontos-chave da cidade, depois em todos os pontos públicos e indo finalmente para as suas próprias moradias;
(b) dinheiro eletrônico para facilitar as trocas, onde a transação acontece quase imediatamente, passamos a não precisar mais carregar notas físicas — o que torna o assalto mais complicado —, e possibilita o envio de dinheiro a qualquer lugar do mundo, basicamente;
(c) smartphones com ferramentas para tudo (mapa, navegar na internet, telefonar, câmera, aplicativos bancários, redes sociais, mensagem, etc.), todas elas unificadas em um pequeno dispositivo sob o controle da empresa respectiva (Samsung, Apple, etc.), assim como seus aplicativos e suas empresas respectivas (provavelmente o Google conhece o seu trajeto diário, seus interesses, e a Meta sabe o que você conversa com seus familiares e amigos);
(d) máquinas e robôs que fazem o trabalho mais rápido, com menos gasto e de maneira mais eficiente do que nós, humanos, chegando mesmo a pilotarem carros (o automóvel é o próprio robô ou computador, como os da Tesla17), nos educarem (como a Inteligência Artificial) e satisfazerem nossos desejos sexuais (como as bonecas robôs para esse fim);
(e) dependência, pelos humanos, da internet e das máquinas, não sabendo executar as funções mais básicas (cozinhar, ir a determinado lugar, comprar coisas, conhecer pessoas, estudar) sem o auxílio de instrumentos digitais, entre outros exemplos.
Todos esses elementos compõem nossa vida diária, querendo ou não, e todos esses instrumentos podem se tornar ineficientes ou mesmo irem contra nós com o poder de um clique na central de uma das grandes empresas que os controlam (imagine um erro na infraestrutura da Tesla, no futuro, e todos os carros parando de funcionar depois de alguns minutos ou horas, ou a simples “queda” da internet em determinado país, sem contar um possível apagão18). O único modo de lutar contra a digitalização é passar a não depender dela, pelo menos não tão holisticamente, e há diversos materiais na internet18 que nos ensinam a fazer isso. Não proponho um “ludismo” generalizado, mas uma conscientização do que o ser humano é e para que ele foi criado, tendo sempre em mente que as máquinas que criamos devem nos servir, e não nós servirmos a elas como meros zeros e uns dentro de um banco de dados gigantesco.
Esse é o panorama do mundo atual, e seus problemas vão muito além do mal uso da Inteligência Artificial por nós, usuários — na verdade, o mau uso provavelmente virá dos desenvolvedores. Por isso, como disse o Papa Leão XIV, “Sobre questões tão importantes, a Doutrina Social da Igreja é chamada a oferecer chaves interpretativas que coloquem em diálogo ciência e consciência, proporcionando assim uma contribuição fundamental para o conhecimento, a esperança e a paz.”20 A colocação do problema já foi, de modo geral, feita21, e a efetiva transformação da situação atual de modo que ela passe a nos beneficiar cabe a nós, nossa família, nossa comunidade em uma ajuda mútua, humana e real, que verdadeiramente nos insira na realidade concreta com aquela consciência que só nós, humanos, temos.
Notas:
1 https://henrikov.substack.com/p/por-que-a-inteligencia-artificial.
2 https://www.weforum.org/meetings/world-economic-forum-annual-meeting-2025/sessions/the-dawn-of-artificial-general-intelligence/.
3 https://blog.samaltman.com/the-merge.
4 Freqüentemente, quem faz tais afirmações tem muito a ganhar com esse possível desenvolvimento da Inteligência Artificial e dos computadores em geral.
5 https://www.linkedin.com/pulse/deepseek-ai-case-study-ideological-bias-murtaza-haider-55rsc.
6 Vide https://agenciabrasil.ebc.com.br/educacao/noticia/2024-08/sete-cada-dez-estudantes-usam-ia-na-rotina-de-estudos. Trecho significativo: “Cerca da metade dos participantes (56%) acredita que as ferramentas estão cada vez mais confiáveis em atividades acadêmicas a ponto de 84% considerarem que, futuramente, a IA poderá substituir parcialmente a atuação dos professores em sala de aula, seja na estruturação das aulas ou no auxílio à correção dos trabalhos e provas.”
7 Um bom artigo sobre esse tipo de pensamento: https://olavodecarvalho.org/a-ideologia-da-anti-ideologia/.
8 HOMILIA DO PAPA LEÃO XIV, 9 de maio de 2025.
9 AUDIÊNCIA AOS MEMBROS DO COLÉGIO CARDINALÍCIO, 10 de maio de 2025.
10 DISCURSO DO PAPA LEÃO XIV AOS AGENTES DA COMUNICAÇÃO, 12 de maio de 2025.
11 DISCURSO DO PAPA LEÃO XIV AOS MEMBROS DO CORPO DIPLOMÁTICO ACREDITADO JUNTO À SANTA SÉ, 16 de maio de 2025.
12 Idem.
13 Idem.
14 https://newdailycompass.com/en/japan-in-demographic-decline-porn-is-to-blame; https://www.outlookindia.com/national/ageing-japan-would-rather-depend-on-robots-than-immigrants-weekender_story-288210.
15 https://henrikov.substack.com/p/pensamentos-acerca-do-bitcoin.
16 Sobre o uso da Inteligência Artificial no campo legal: https://www.geopolitika.ru/pt-br/article/ia-e-o-estado-moderno-inumano; https://lawliberty.org/forum/from-ballots-to-bots/; https://agenciabrasil.ebc.com.br/justica/noticia/2025-02/norma-do-cnj-autoriza-decisoes-escritas-por-ia-e-revisadas-por-juiz. Visão crítica da IA integrada na política: https://lawliberty.org/forum/ai-optimists-are-more-pragmatic-than-you-think.
17 https://www.reuters.com/technology/elon-musk-10-billion-humanoid-robots-by-2040-20k-25k-each-2024-10-29/
18 https://www.weforum.org/stories/2025/05/spain-might-not-cyberattack-blackout-power-outage-electric-grids-vulnerable/.
19 Alguns exemplos: https://stylman.substack.com/p/the-technocratic-blueprint, principalmente seus conselhos finais; Environmental Health Trust (https://ehtrust.org/); Better Off: Flipping the Switch on Technology (2004), de Eric Brende; Why We Drive (2020), de Matthew B. Crawford; The Tech-Wise Family: Everyday Steps for Putting Technology in Its Proper Place (2017), de Andy Crouch; The Shallows: What the Internet Is Doing to Our Brains (2020), de Nicholas Carr; The Extinction of Experience: Being Human in a Disembodied World (2024), de Christine Rosen; Technopoly: The Surrender of Culture to Technology (1992), de Neil Postman.
20 DISCURSO DO PAPA LEÃO XIV AOS MEMBROS DA FUNDAÇÃO CENTESIMUS ANNUS PRO PONTIFICE, 17 de maio de 2025.
21 Tanto nas fontes citadas na nota acima, quanto em encíclicas e documentos da Igreja. Antiqua et Nova, do Dicastério para a Doutrina da Fé, de 14 de janeiro de 2025, é uma ótima colocação do problema.
