A Inteligência Artificial e o Eclipse da Razão

por Cláudio A. Amorim

Eclipse da Razão (2015) é um livro escrito por Max Horkheimer e originalmente publicado em 1947, com o objetivo de “investigar o conceito de racionalidade subjacente à nossa cultura industrial contemporânea, a fim de descobrir se esse conceito não contém defeitos que o viciam na sua essência” (p.7). O presente ensaio transpõe sinteticamente, para os dias atuais, a investigação do eminente filósofo, ante a disseminação das inteligências artificiais, especialmente aquelas que se materializam sob a forma de grandes modelos de linguagem (LLMs).

Horkheimer inquieta-se por constatar que, “enquanto o conhecimento técnico expande o horizonte do pensamento e da atividade do homem, sua autonomia como indivíduo, sua capacidade de resistir ao crescente aparato de manipulação de massa, seu poder de imaginação, seu juízo independente são aparentemente reduzidos” (p.8). Apesar de enunciada há quase 80 anos, tal inquietação é bastante atual. Na expressão de Vladimir Safatle (A Terra é Redonda, 2024), vivemos sob um “sistema de crises conexas”, nos planos ecológico, político, social, epistemológico e econômico; crises que a nossa racionalidade não tem dado conta de resolver, e nem sequer de equacionar satisfatoriamente. 

Nesse ínterim, as ditas inteligências artificiais (IAs) e, em particular, os grandes modelos de linguagem (LLMs), têm sido alardeados como dispositivos capazes de elevar a razão humana a um novo patamar, talvez até mesmo superando-a ou substituindo-a em alguns âmbitos. Destarte, seriam viabilizadas as soluções para problemas até então insolúveis, em áreas tão diversas como segurança pública, meio-ambiente, mobilidade, saúde e educação. Contudo, não fica claro como isso ocorreria. 

Os LLMs, de certa forma, representam o ápice da racionalidade, ao habilitar máquinas a manipular signos linguísticos à semelhança dos seres humanos. Além disso, os programas baseados em LLMs intervém sobre nossos raciocínios e sobre nossa comunicação de modo qualitativamente distinto de qualquer outra tecnologia anterior. Eles se tornam interlocutores, diferentemente de qualquer outro tipo de software, até então. Essa ocorrência notável coloca-nos diante da oportunidade, ou ainda, diante do dever urgente de refletirmos sobre o lugar, os usos e a interferência desses dispositivos sobre nossos modos de pensar. 

Aqui, cabe considerar que, apesar do seu ineditismo, os LLMs, assim como tantas outras tecnologias, trazem consigo a promessa de nos tornar capazes de produzir mais em menos tempo. Contudo, como quase sempre acontece, falta questionar o mais importante: produzir mais o que, por que, para que e a serviço de que interesses? E ainda: qual o significado e o sentido do que se está a produzir? 

Ao encontro dessas indagações, Horkheimer (2015) coloca em questão a “razão tornada mero instrumento”, rendida a “conteúdos heterônomos” e restrita a uma mentalidade operacional, voltada ao domínio das pessoas e da natureza: “É como se o próprio pensamento tivesse sido reduzido ao nível dos processos industriais, sujeito a uma programação estrita – em suma, transformado em parte e parcela da produção”, afirma o filósofo (p.29). Ora, esse pensamento “transformado em parte e parcela da produção” descreve muito bem o modo de funcionamento e as interações dos LLMs com os seres humanos, em aplicações correntes no mundo do trabalho, incluindo a produção de conhecimento. Fundamentalmente, os LLMs são, ao mesmo tempo, produto e mecanismo reprodutor daquilo que Horkheimer chamou de razão subjetiva.

Para Horkheimer, razão subjetiva é aquela “essencialmente preocupada com meios e fins, com a adequação de procedimentos para propósitos tomados como mais ou menos evidentes e autoexplicativos” (p.11-12). A razão subjetiva, portanto, ocupa-se dos fins somente na medida em que se constituem alvos circunscritos, em relação aos quais se pode avaliar a eficácia dos meios. Em outras palavras, importa à razão subjetiva atingir os fins que estão postos, em geral tidos como óbvios, mas não refletir sobre eles. Por exemplo, nada mais óbvio para uma indústria automobilística do que lucrar mais, vendendo carros, e superar a concorrência: para esse fim deverão convergir os esforços dos trabalhadores, doravante assistidos pelas inteligências artificiais. No caso, não cabe pensar sobre por que e para que precisaríamos de mais automóveis nas grandes cidades, já tão congestionadas.

Em contraposição à razão subjetiva, Horkheimer designa razão objetiva como aquela que, “por um lado, denota uma estrutura inerente à realidade” e, por outro lado, “pode também designar o próprio esforço e habilidade de refletir tal ordem objetiva” (p.19-20). Portanto, pode-se dizer que a razão objetiva se ocupa com o problema da verdade, tanto em questões de fato como em questões de valor. Não há, no caso, prescrição de referências absolutas e imutáveis; não se proclama uma verdade; não se estabelece um sistema metafísico ao qual os critérios de verdade se devam conformar. Ao contrário, demanda-se que a natureza e o exercício da razão objetiva sejam colocados em pauta como problemas filosóficos, nunca como dogma. A razão objetiva, portanto, é guia na busca e construção de sentido, mas, ao mesmo tempo, esforço elucidativo em permanente reconstrução. 

Horkheimer não propõe, por certo, eliminar a razão subjetiva a benefício da razão objetiva, visto que ambas são aspectos dialeticamente complementares da inteligência humana. A razão subjetiva, no que visa às questões práticas, tem o seu lugar legítimo, inclusive como instrumento de sobrevivência, pois é por seu intermédio que resolvemos os problemas práticos que nos desafiam. Porém, “uma vez que a razão subjetiva isolada, nos nossos dias, triunfa por toda parte, com resultados fatais, a crítica deve necessariamente ser levada a cabo com ênfase na razão objetiva” [...]” (p.191). O que está em pauta, portanto, é uma crítica à razão subjetiva tornada hegemônica, visto que, assim como há oitenta anos, “o pensamento hoje é demasiadas vezes compelido a justificar-se pela sua utilidade para algum grupo estabelecido, e não pela sua verdade” (p.99).

Ora, uma das principais críticas aos grandes modelos de linguagem passa justamente por seu total descolamento da verdade, mesmo no sentido mais estreito de verdade factual (questões de fato), qual seja, a concordância entre fatos e proposições. Um programa baseado em LLM pode afirmar verdades, meias-verdades ou falsidades com a mesma desenvoltura, porque não tem qualquer âncora no mundo dos acontecimentos e dos significados.  Sob um olhar retrospectivo, a afirmação de que “em última instância, a razão subjetiva prova ser a habilidade de calcular probabilidades. (Horkheimer, 2015, p.13)” bem poderia ser uma descrição de diversas modalidades de IA, inclusive dos LLMs, como simulacros de uma parcela hipertrofiada da racionalidade humana. 

Os programas, dispositivos e sistemas baseados em inteligência artificial não aparecem do nada, mas resultam de prolongados e vultosos investimentos privados e estatais, visando lucro e poder. Uma vez postos em marcha, espera-se que as pessoas os utilizem produtivamente: o analista financeiro para fazer análises mais precisas em maior quantidade; a médica radiologista para fazer mais e melhores diagnósticos; a engenheira e o arquiteto para entregar mais projetos, a custo reduzido; o pesquisador, para produzir mais resultados e escrever mais artigos; o militar, para maximizar o dano ao inimigo. Ocorre que, em cada um desses casos, aumenta a pressão sobre as pessoas, que continuam a depender do seu próprio juízo, mas, ao mesmo tempo, passam também a se preocupar com os outputs às vezes erráticos das máquinas. Seria paradoxal, se não fosse esse um velho padrão: a automação entra na vida dos trabalhadores e trabalhadoras para intensificar o trabalho, não para amenizá-lo. 

A atual disseminação das IAs se dá em um mundo obcecado pela produtividade (seja lá o que isso signifique), onde se intensificam as demandas por entregas (outputs) mensuráveis, em ritmo cada vez mais acelerado (cf. Han, 2012; Rosa, 2022). Esse é um cenário gerador de exaustão, hostil ao ócio criativo, promotor da rotina. Logo, propício ao fortalecimento da razão subjetiva, sobrevalorizada, em detrimento da razão objetiva, negligenciada. Na medida em que a introdução das inteligências artificias radicaliza a ideia de eficiência e produtividade como “deuses do homem moderno” (Horkheimer, 2015, p.167), corre-se o risco de que as mentes se fechem para os sonhos de um outro mundo possível (cf. Horkheimer, 2015, p.166). 

Sob um regime de cansaço e pressão permanentes, as pessoas tendem a confiar cada vez mais nas respostas das máquinas. Na prática, já é comum encontrarmos trabalhadoras e trabalhadores simplesmente sem tempo ou energia para elaborar suas próprias ideias. Então, se alguém precisa dar conta de quinhentos e-mails no dia, nada mais conveniente do que delegar respostas a um assistente artificial. A se agravar esse quadro, como tudo indica, as inteligências artificiais poderiam, em breve, tornar-se referência (benchmark) do trabalho bem-feito. O estreitamento intelectual e estético, daí decorrentes, passariam despercebidos, em meio à indiferença geral. Nesse ponto, estaríamos a caminho daquilo que Ferrarotti (2024) chamou de “proletarização da mente no mundo moderno”.

Precisamos ficar atentos: é justamente quando a razão aparenta o seu maior brilho, por meio da imitação artificial de si mesma, que a sombra do eclipse ameaça se instalar na sua máxima extensão. 

 

Referências 

A Terra é Redonda. (2024). A Terra é Redonda entrevista: Vladimir Safatle [Vídeo]. YouTube. https://youtu.be/40p09Qgovr4?si=_aGZZxy_DKuQC0gK

Ferrarotti, F. (2024). The eclipse of reason – a present time risk. Academicus International Scientific Journal, 30, (pp. 11–19).

Han, B.-C. (2012). La sociedad del cansancio. Herder Editorial.

Horkheimer, M. (2015). Eclipse da razão. Editora Unesp.

Rosa, H. (2022). Alienação e aceleração: Por uma crítica da temporalidade tardo-moderna. Vozes.