Da frieza burocrática denunciada por Simone Weil à ameaça concreta dos algoritmos legisladores: como a inteligência artificial está se tornando componente integral dos sistemas de governo, transformando o Estado numa verdadeira máquina. O texto analisa os riscos da automação das funções legislativas e como esse processo apenas intensifica o controle oligárquico, contrastando-o com formas tradicionais de governo onde a misericórdia humana temperava a rigidez da lei. Walt Garlington examina este fenômeno e suas implicações para a liberdade humana num mundo cada vez mais tecnológico.
A escritora mística francesa Simone Weil (falecida em 1943) alertou no século XX sobre a natureza fria, sem alma e mecânica do governo que havia surgido:
O Estado é uma preocupação fria que não pode inspirar amor, mas que mata, suprime tudo o que poderia ser amado; assim, somos forçados a amá-lo, porque não há mais nada. Esse é o tormento moral ao qual todos nós estamos expostos hoje.
Talvez aqui esteja a verdadeira causa do fenômeno do líder que surgiu em todos os lugares hoje em dia e surpreende tantas pessoas. Neste momento, há em todos os países, em todos os movimentos, um homem que é o ímã pessoal para todas as lealdades. O fato de serem obrigadas a abraçar a superfície fria e metálica do Estado fez com que as pessoas, ao contrário, tivessem fome de algo para amar que fosse feito de carne e osso. Esse fenômeno não mostra sinais de desaparecer e, por mais desastrosas que tenham sido as consequências até agora, ele ainda pode nos reservar algumas surpresas muito desagradáveis; pois a arte, tão conhecida em Hollywood, de fabricar estrelas a partir de qualquer tipo de material humano, dá a qualquer tipo de pessoa a oportunidade de se apresentar para a adoração das massas”
The Need for Roots – A necessidade de Raízes, treadução de Arthur Wills, Routledge Classics, Nova Iorque, 2003, p. 114.
Ela viu mais profundamente do que percebeu. Pois não é mais apenas o caso de revolucionários ideologicamente motivados, burocratas sem coração, oligarcas gananciosos etc., desprovidos do calor do amor e da bondade cristãos, que assumiram os cargos do governo e exercem seu poder. Agora estamos testemunhando a transformação do Estado em uma verdadeira máquina, pois a IA está se tornando um componente integral do sistema de governo:
A inteligência artificial (IA) está escrevendo leis hoje. Isso não exigiu nenhuma mudança no procedimento legislativo ou nas regras dos órgãos legislativos – basta um legislador ou assistente legislativo usar a IA generativa no processo de elaboração de um projeto de lei.
De fato, o uso da IA pelos legisladores só tende a se tornar mais predominante. Atualmente, há projetos na Câmara dos EUA, no Senado dos EUA e em legislaturas de todo o mundo para testar o uso de IA de várias maneiras: pesquisa em bancos de dados, redação de textos, resumo de reuniões, pesquisa e análise de políticas e muito mais. Um município brasileiro aprovou a primeira lei conhecida escrita com IA em 2023” (Nathan Sanders, Bruce Schneier, lawfaremedia.org; muito obrigado ao Dr. Joseph Farrell por mencionar este artigo em seu site).
Os autores explicam por que os legisladores provavelmente adotarão a IA em sua tarefa de redigir leis:
O Congresso pode ou não estar à altura do desafio de transformar mais detalhes de políticas em leis, mas as forças externas descritas acima – lobistas, o judiciário e um governo cada vez mais dividido e polarizado – estão pressionando-os a fazer isso. Quando o Congresso assumir a tarefa de redigir uma legislação complexa, é bem provável que recorra à IA para obter ajuda.
Dois recursos específicos de IA permitem que o Congresso escreva leis diferentes das leis que os humanos tendem a escrever. Primeiro, os modelos de IA têm um enorme escopo de especialização, enquanto as pessoas têm apenas algumas especializações. Grandes modelos de linguagem (LLMs), como o que alimenta o ChatGPT, podem gerar textos legislativos sobre o financiamento da mecanização da colheita de culturas especializadas, bem como material sobre padrões de eficiência energética para iluminação pública. Isso permite que um legislador aborde mais tópicos simultaneamente. Segundo, os modelos de IA têm a sofisticação necessária para trabalhar com um grau de complexidade maior do que o das pessoas. Os sistemas modernos de LLM podem executar instantaneamente várias tarefas simultâneas de raciocínio em várias etapas usando informações de milhares de páginas de documentos. Isso permite que um legislador preencha mais detalhes barrocos em um determinado tópico.
[…] A IA pode ser usada em cada etapa da elaboração de leis, o que trará vários benefícios aos formuladores de políticas. Ela pode permitir que eles trabalhem em mais políticas – mais projetos de lei – ao mesmo tempo, acrescentem mais detalhes e especificidade a cada projeto de lei ou interpretem e incorporem mais feedback de eleitores e grupos externos. O acréscimo de uma única ferramenta de IA a um escritório legislativo pode ter um impacto semelhante ao acréscimo de várias pessoas à sua equipe, mas com um custo muito menor.
[…] A IA pode fazer muito mais no processo legislativo. A IA pode resumir projetos de lei e responder a perguntas sobre suas disposições. Ela pode destacar aspectos de um projeto de lei que se alinham ou são contrários a diferentes pontos de vista políticos. Podemos até imaginar um futuro em que a IA possa ser usada para simular uma nova lei e determinar se ela seria eficaz ou não, ou quais seriam os efeitos colaterais. Isso significa que, além de redigi-las, a IA poderia ajudar os legisladores a entender as leis. O Congresso é famoso por produzir projetos de lei com centenas de páginas, e muitos outros países, às vezes, têm projetos de lei abrangentes semelhantes que tratam de muitas questões ao mesmo tempo. É impossível para qualquer pessoa entender como cada uma das disposições desses projetos de lei funcionaria. Muitas legislaturas empregam análises humanas em escritórios orçamentários ou fiscais que analisam esses projetos de lei e oferecem relatórios. A IA poderia fazer esse tipo de trabalho em maior velocidade e escala, de modo que os legisladores poderiam facilmente consultar uma ferramenta de IA sobre como um determinado projeto de lei afetaria seu distrito ou áreas de interesse.
Chegamos então a uma parte importante do ensaio dos autores – por que esse novo desenvolvimento na governança é necessário:
Devemos entender a ideia de legislar com IA contextualizada na história mais longa das tecnologias legislativas. Para atender à sociedade em escalas modernas, tivemos que percorrer um longo caminho desde os ideais atenienses de democracia direta e de classificação. A democracia não envolve mais apenas uma pessoa e um voto para decidir uma política. Ela envolve centenas de milhares de eleitores que elegem um representante, que é aumentado por uma equipe e subsidiado por lobistas, e que implementa a política por meio de um vasto estado administrativo coordenado por tecnologias digitais. O uso da IA para ajudar esses representantes a especificar e refinar suas ideias de políticas faz parte de uma longa história de transformação.
Em outras palavras, como a sociedade e o governo se tornaram tão complexos, os legisladores são obrigados a usar a IA simplesmente para cumprir seus deveres no novo e complicado cenário tecnológico.
Mas isso levanta a questão: Toda essa complexidade é necessária? Ela é benéfica?
Parece que não. Basta dar uma olhada no impacto que os fóruns de mensagens da Internet, as mídias sociais e coisas semelhantes tiveram sobre as pessoas, especialmente sobre os jovens – como eles incentivam a mutilação da linguagem juntamente com insultos, bullying, falta de educação, vícios, assassinatos, suicídios e uma série de outros males – para comprovar que pelo menos parte do que a trindade profana da modernidade, ciência-tecnologia-indústria (para usar as palavras do agrário sulista Wendell Berry), criou deve ser rejeitada.
A descrição da vida na fábrica feita pela Srta. Weil também merece ser considerada nesse contexto:
A criança na escola, fosse ela boa ou má aluna, era um ser cuja existência era reconhecida, cujo desenvolvimento era motivo de preocupação, cujos melhores motivos eram invocados. De um dia para o outro [na fábrica], ela se vê como uma engrenagem a mais em uma máquina, muito menos do que uma coisa, e ninguém se importa mais se ela obedece pelos motivos mais baixos ou não, desde que obedeça. A maioria dos trabalhadores, pelo menos nesse estágio de suas vidas, já experimentou a sensação de não existir mais, acompanhada de uma espécie de vertigem interior, como os intelectuais e burgueses, mesmo em seus maiores sofrimentos, raramente tiveram a oportunidade de conhecer. Esse primeiro choque, recebido em uma idade tão precoce, geralmente deixa uma marca indelével. Ele pode excluir todo o amor pelo trabalho de uma vez por todas”.
(Need for Roots, p. 54).
Portanto, não é de se admirar que observemos o que a Srta. Weil mencionou no início deste ensaio: a fome crescente das massas de pessoas que vivem nas condições descritas para receber um leve reconhecimento de sua humanidade por um homem de posição elevada, em troca do qual se tornam seus mais leais apoiadores e seguidores. Infelizmente, também é verdade o que ela disse depois, que muitos deles são bozos superficiais do show-business, como Trump, Newsom, Zelensky, Clinton, etc.
E, no entanto, há esperança nessa reação, pois pode ser o primeiro passo para a restauração da monarquia cristã, aquela forma primordial de governo que reflete o governo do cosmos por Deus, a Santíssima Trindade. As vantagens disso para o Ocidente pós-Grande Cisma (sejam suas populações católicas romanas, protestantes ou iluministas seculares), dominado como está por noções do governo de uma lei impessoal, são explicadas pelo Dr. Matthew Raphael Johnson:
A noção de lei aqui também é significativa. A democracia liberal significa que o “estado de direito” é dominante. Essa é outra maneira de dizer que quem quer que a oligarquia seja capaz de financiar a vitória eleitoral fará as leis a seu favor. […]
A ideia de que a lei é “de madeira” é o objeto de crítica dos eslavófilos […], ou seja, que a lei, sem o poder da misericórdia por trás dela, torna-se uma força estranha, uma imposição. […] [A lei no Ocidente] é o produto de interesses financeiros que realmente escrevem a lei, e de funcionários sem rosto e funcionários judiciais que escrevem o texto real. Para as sociedades tradicionais e cristãs, a lei se manifesta na instituição histórica do monarca, que pode derrubar a lei temporariamente em casos difíceis e em nome da misericórdia. […] Por exemplo, era comum na Bizâncio Ortodoxa e na Rússia, a cada poucos anos, cancelar a cobrança de impostos atrasados e até mesmo ordenar o cancelamento de dívidas privadas. Isso era feito em feriados religiosos específicos, na ascensão de um novo monarca, na vitória em uma batalha ou simplesmente porque o Estado não tinha mais condições de arcar com o processo de cobrança. Isso, é claro, é contrário ao estado de direito. Nas sociedades oligárquicas modernas, o cancelamento de dívidas públicas ou privadas, por qualquer motivo, é impensável.
[…] Os czares russos ouviam centenas de petições desse tipo [apelando das decisões do judiciário] semanalmente, e a decisão era baseada no bem comum da etno-nação, derivada de uma autoridade real que não estava em dívida com nenhum interesse monetário, em vez de um judiciário moderno que é, em grande parte, produto de espólios políticos” (The Third Rome, 3ª edição, The Barnes Review, Washington, D. C., 2010, págs. 166-7).
De forma reveladora, admite-se que esses mesmos interesses especiais oligárquicos são os que estão construindo os sistemas de IA que escreverão as leis no futuro:
Há riscos reais na legislação escrita por IA, mas esses riscos não são muito diferentes dos que enfrentamos hoje. As leis escritas por IA que tentam otimizar determinados resultados de políticas podem estar erradas (assim como muitas leis escritas por humanos são mal orientadas). As leis escritas por IA podem ser manipuladas para beneficiar um grupo constituinte em detrimento de outros, pelas empresas de tecnologia que desenvolvem a IA ou pelos legisladores que a aplicam, da mesma forma que os lobistas humanos orientam as políticas para beneficiar seus clientes (Sanders e Schneier).
É bom que, além dos reis, existam mais autoridades a quem os povos cristãos do mundo recorreram, e ainda podem recorrer, para mediação no campo da política. Muitas vezes, eles procuraram os santos ortodoxos, seja no Ocidente ou no Oriente, para a resolução de disputas:
Assim como em Uzalis, em Minorca, [Santo] Estêvão, ao resolver as tensões entre estruturas de poder entrelaçadas e potencialmente conflitantes, emergiu como o patronus communis, “o patrono de todos”.
É dessa forma que as pequenas comunidades, para as quais a estrutura do Império Romano pouco significava ou havia deixado de existir, enfrentavam os fatos do poder local em um mundo em transformação. A praesentia dos santos havia sido disponibilizada a elas em gestos que condensavam o pungente anseio por concórdia e solidariedade entre as elites das províncias ocidentais em seu último século; no entanto, uma vez disponível, a dialética imaginativa que cercava a pessoa do santo assegurava que o santuário seria mais do que uma lembrança da unidade ideal de uma época anterior: o santuário se tornou um ponto fixo onde o jogo solene e necessário do “poder limpo” – da potentia exercida como deveria ser – poderia ser representado em atos de cura, exorcismo e justiça bruta” (Peter Brown, The Cult of the Saints: Its Rise and Function in Latin Christianity, University of Chicago Press, Chicago, Ill., 1982, p. 105).
Nem todos os sistemas democráticos são ruins em si mesmos. No entanto, o parlamentarismo liberal ocidental está se aproximando do que parece ter sido seu telos o tempo todo: uma ferramenta dos oligarcas para controlar o governo e o ethnos por meio da ilusão de eleições e da soberania do povo. O surgimento da IA que desempenhará a função essencial dos membros do parlamento, ou seja, redigir leis, com mais tarefas governamentais previstas para ela, como a magistratura – essas coisas apenas desumanizarão ainda mais o aparato estatal que a erradicação oligárquica da cultura autêntica, em prol de maior controle, mais dinheiro e outros atos de exploração, inaugurou séculos atrás.
A tecnologia avançada, em vez de libertar as pessoas, está colocando sobre elas um jugo de escravidão mais pesado do que qualquer coisa que seus ancestrais pré-modernos já conheceram.
Fonte: Geopolitika.ru.
