Discurso realizado na seção “Riscos no caminho do ser humano do futuro” no Congresso “Filosofia do Futuro”, organizado pela Universidade Estatal de Moscou “Lomonosov”, nos dias 26-27 de junho.
Eu não tenho certeza sobre se há lugar para o homem no futuro, pelo menos se uma série de tendências atuais – ligadas primariamente à tecnologia – continuarem sua marcha desimpedida.
O principal motivo para meu pessimismo está na maneira pela qual o progresso tecnológico desenfreado em todas as esferas humanas colocou o próprio lugar e sentido do homem, no mundo, em cheque. Temos definido, historicamente, o homem, em distinção aos animais, por sua relação com uma série de esferas que emergem a partir da sua presença no mundo; esferas que o homem abre através de seu cuidado com o mundo e que estão fechadas para todos os outros entes: o Sagrado, a Arte e a Política são exemplos de esferas através das quais, em diferentes períodos e escolas, se pensou definir o homem. Mas é difícil ter certeza absoluta, hoje, com o avanço da tecnologia, por cima daquilo que é propriamente “humano” e, portanto, por cima daquilo o que poderia – ou pelo menos deveria – ser imune, pela própria natureza de sua vinculação com o “humano”, às tentativas de substituição do homem.
Outra esfera de definição histórica do homem, por exemplo, foi o Trabalho ou a Produção. A narrativa marxiana ingênua visualizou, porém, um mundo em que todo Trabalho socialmente útil seria desempenhado por forças produtivas suficientemente desenvolvidas ao ponto de não mais demandar a divisão social do trabalho, com a potencialidade humana sendo “liberta” da tortura do mundo do trabalho para, assim, poder se dedicar à arte, à filosofia e ao ócio. Nessa perspectiva, há ecos óbvios da nostalgia do Paraíso Perdido, mas com o retorno de Adão ao Éden dando-se não por sua redenção espiritual, mas por meio de uma tecnologia apta a transformar este mundo no Paraíso, ou em sua paródia. O que nos recorda um romance de ficção científica de Roger Zelazny, chamado “For a Breath I Tarry”, escrito em 1966, no qual uma IA se torna o “novo Adão”.
Mas nós, que somos testemunhas daquilo que Marx tão somente pôde imaginar, acompanhamos uma marcha tecnológica voraz que não se limita a substituir os homens nas fábricas, mas também desloca-os das atividades artísticas e intelectuais, e talvez até espirituais causando danos incomensuráveis nas artes visuais, na literatura, na música e no cinema. De uma perspectiva puramente formal, pelo menos, a IA já compõe música, pinta e desenha, faz poesia e escreve roteiros de cinema para Hollywood. Se a tecnologia foi marcada, ao longo do século XX, pela rápida sucessão alucinante da emergência de novos aparatos aptos a deixar aparatos velhos para trás, como obsoletos, a tecnologia hoje tornou desenhistas e pintores, escritores, compositores de música e roteiristas de cinema praticamente obsoletos.
Uma resposta usualmente levantada é que os melhores, os gênios, não serão afetados pelo avanço da tecnologia, numa espécie de esperança de que a IA poderá, talvez, tornar-se um apêndice auxiliar de uma lógica social darwinista. Mas, em primeiro lugar, o gosto da massa foi entorpecido por décadas de indústria cultural numa era já marcada pela reprodutibilidade técnica, como apontou Theodor Adorno e Max Horkheimer, a qual transformou os objetos culturais em mercadorias que se proliferam sob uma lógica industrial. E o mundo de objetos culturais criados sob essa lógica constitui precisamente o cenário de retroalimentação do entorpecimento das massas através de versões e variações sempre novas da sociedade do espetáculo, nos termos de Guy Debord, numa falsa diversidade de objetos que, sob sua máscara, não passam de variações da mesmidade do fetichismo de mercadoria. Assim, como garantir que os gênios não sejam soterrados por um tsunami de produtos culturais inferiores, agora produzidos em série numa escala nunca antes vista, em todas as suas variações possíveis, por IA? Oswald Spengler previu que um dia chegaria o tempo em que os olhos e ouvidos aptos a realmente entender um quadro de Rembrandt e uma peça de Mozart deixariam de existir. Teríamos chegado ao tempo em que os meios tornaram impossível o surgimento de um novo Rembrandt e um novo Mozart?
Em segundo lugar, não se pode confundir aptidão e genialidade. Nem todos os que têm aptidão para as disciplinas artísticas são gênios. Um mundo em que, em tese, apenas os gênios teriam chance seria um mundo em que teríamos centenas de milhares de pessoas com vocação artística autêntica sufocadas pela produção avassaladora de objetos culturais criados por algoritmo para atender ao menor denominador comum do gosto das massas ou a nichos de gosto artificialmente construídos pelos próprios algoritmos. Mas se o caminho da sua vocação está fechado, o que fazer? E mais do que isso, como definir a própria identidade num mundo em que a Arte foi tomada de assalto por golens algorítmicos?
O que vale para a arte vale para inúmeros outros campos das atividades humanas, mas o caso da Arte é emblemático e merece ser objeto de reflexão porque especificamente a propensão estética é reduto do Homem, como “animal simbólico”, nos termos pensados por Ernst Cassirer. Arnold Gehlen, por sua vez, em sua antropologia filosófica definiu o homem como animal deficiente ou incompleto, como aquele que carece de instintos fixos que definam sua diferença, de modo que ele precisa construir, para si, o próprio mundo através símbolos, instituições e rituais – a Arte sendo parte desse esforço de construção do mundo e definição do homem.
E a Arte é um bom ponto de partida para pensar o futuro do Homem na sociedade tecnológica – para usar um termo de Jacques Ellul – também porque, especificamente, e Arte é mencionada, como já dissemos, entre aqueles campos humanos que estariam liberados e democratizados pelo desenvolvimento das forças produtivas segundo as futurologias progressistas.
No lugar de um “animal simbólico” estamos lidando já, ou em breve, com um “animal algorítmico”, um que cada vez mais é moldado por algoritmos e dependente de algoritmos para realizar todas as suas atividades, inclusive aquelas que eram consideradas própria e exclusivamente humanas. Novamente invocando Jacques Ellul, aquilo que distingue fundamentalmente a Modernidade tecnológica é que a tecnologia molda a percepção de uma maneira que impossibilita que ela permaneça um mero instrumento neutro. A partir do momento em que essa tecnologia entra em cena, já não é mais possível uma práxis propriamente livre.
Mesmo em atividades mais prosaicas como, por exemplo, a administração de Justiça ocorre o mesmo. Em alguns países, como o Brasil, já se autorizou que os juízes utilizem IA para julgar todos os casos. Os principais escritórios de advocacia e a promotoria também já fazem uso de IA para construir suas petições. A narrativa oficial – como sempre no que concerne a tecnologia – é de que a IA é apenas uma ferramenta, mas que a decisão ainda é do homem. Agora, estamos falando, de um modo geral, em casos que, no Brasil, não raro alcançam centenas de páginas. Mesmo antes da IA já era fato notório que os juízes raramente liam os processos e que eles usavam modelos pré-prontos para produzir decisões. É óbvio perceber que a introdução de um aparato capaz de, por si só, produzir decisões automaticamente promoverá um relaxamento ainda maior do papel humano na Justiça. E se estamos falando de um cenário no qual juiz, acusação e defesa usam IA para produzir os seus atos processuais, então na prática, temos uma relação jurídica entre máquinas, em que elas acusam, defendem e julgam. E onde fica o Homem nesse cenário, que papel lhe cabe desempenhar enquanto máquinas interagem entre si para decidir se ele será ou não será condenado por um crime? É como se ele fosse apenas um voyeur, um intruso em seu próprio mundo, o epônimo “stranger in a Strange Land” do escritor de ficção científica Robert Heinlein ou mesmo um neanderthal olhando espantado para o homo sapiens e suas inovações espantosas. Estamos diante de uma realidade, portanto, mil vezes mais sufocante e distópica que a descrita por Franz Kafka em “O Processo” porque o destino do homem está cada vez mais na mão da tecnologia aperfeiçoada, perfeitamente indiferente e alienígena para os anseios humanos e sua necessidades básicas, como a empatia.
Mas é muito óbvio, porém, que para termos chegado aqui, a maquinação é uma realidade que primeiro precisou se instaurar dentro do Homem antes de assumir o controle do Mundo. Tomando ainda o exemplo da Justiça – onde se justifica a IA sob o argumento de maior eficiência e precisão – primeiro tivemos que decair de uma visão orgânica do Estado para uma visão mecânica, em que o Estado é pensado nos termos do “Reino da Quantidade” (ou seja, eficiência, precisão, cálculo, produtividade), tal como aconteceu com todo o resto. O pensamento técnico se impõe antes de se poder naturalizar o avanço tecnológico descontrolado em todas as suas possibilidades, inclusive naquelas que são objetivamente anti-humanas ou pós-humanas. E se juízes são preguiçosos e pouco imparciais, então sob essa lógica ade um Estado já visto de antemão como máquina, é simplesmente questão de trocar uma máquina biológica pouco eficiente por máquinas mais eficientes.
Agora, retornando à Arte, é ao mesmo tempo óbvio, necessário e ingênuo dizer que, simplesmente, precisamos nos adaptar ou tomar o “positivo” da IA. O que me parece claro é que esse momento de expurgo tecnológico do homem em relação a todas as esferas mais elevadas, as esferas criativas e aquelas que conectam o homem com o sagrado – o que foi descrito pelo Papa Leão XIV em sua nova encíclica Magnifica Humanitas como uma tentativa de reconstruir a Torre de Babel – impõe uma hora de decisão.
É perfeitamente possível ver a tecnologia e seu suposto “progresso” ilimitado como naturais, como algo que praticamente acontece por si só, e que não pode ser posto em questão ou ser objeto de reflexão profunda. Essa é, de fato, a postura assumida pela maioria. Quaisquer consequências negativas ou perdas significativas são vistas como males necessários ou inevitáveis num desenvolvimento “inevitável” da tecnologia. Essa atitude irrefletida, sonâmbula, é ela propriamente também reflexo do mesmo sonambulismo com o qual percebemos a condição humana, como se o nosso lugar no mundo fosse dado e não estivesse sempre sob risco, sempre se equilibrando numa corda estendida entre dois penhascos. Se essa for a nossa escolha, então a última tarefa do Homem, ou a tarefa do Último Homem, será aceitar seu destino e aceitar uma nova definição do homem, nem mesmo pensada por ele, e que não mais abarcará o Sagrado, a Arte e a Política.
Se deixarmos de lado as apostas ingênuas do anarco-primitivismo de Ted Kaczynski, que nos forçariam a, até mesmo, quebrar nossos óculos como sendo já aparatos tecnológicos inaceitáveis, seria possível pensar na possibilidade de “cavalgar o tigre” da tecnologia mais moderna, inclusive da IA? O que isso significaria e o que implicaria? É possível usar “a arma do inimigo contra o inimigo” sem que isso propriamente torne impossível derrotar esse inimigo?
O que me parece evidente é que há pelo menos duas tarefas fundamentais aqui: uma aponta para a necessidade de repensar nossa relação com a tecnologia, reconstituindo outras possibilidades de coexistência com a Técnica em suas potencialidades poiéticas, o que remete ao esforço de Martin Heidegger. Esse esforço demandaria, penso, a própria desconstrução da Técnica enquanto tal para que a partir dos seus escombros seja possível emergir uma outra relação do homem com os objetos à disposição e com as ferramentas. Simultaneamente, porém, e na medida em que essa tarefa é hercúlea e incerta, uma última trincheira precisa ser em torno à totalidade das possibilidades de existência e modos de ser mais caros ao homem, ou seja, um esforço de banir a IA de certos setores e tarefas, reivindicados numa lógica de “direitos do Homem” – construídos pelo diálogo multipolar – que longe da ideologia iluminista dos “direitos humanos” passa a ser significativa na medida em que, diante do Homem, há finalmente um Outro, um inimigo à altura em relação ao qual é fundamental se definir e derrotar.
