Conforme a Técnica se libertou do domínio humano e passou a dominar o homem, passamos a ver uma crescente tendência à substituição do real pelo virtual. Exceto para os otimistas transumanistas, a percepção cada vez mais generalizada é de que essa transformação da realidade em simulacro pode inaugurar uma nova forma de distopia.
As salas dos fundos
A cafeína, a luz azul, a insônia e o desenrolar de um extenuante cronograma de horas de trabalho extraoficial para “provar a si mesmo para a empresa” fizeram com que um humilde morador de cubículo se perguntasse se estava acordado ou sonhando, ou um pouco dos dois.
Uma iluminação forte cintilava em um corredor que parecia se cruzar com um espaço de escritório infinito com cheiro de produtos químicos de limpeza, sala após sala de zumbido elétrico, tetos baixos e fosforescência amarela como um corpo em decomposição brilhante e superexposto. Parecia ser o escritório, mas ele não conseguia se orientar. Era familiar em um sentido geral, mas estranho em todos os aspectos.
Pouco antes de se encontrar aqui, metade de seu campo de visão havia oscilado entre esse lugar e sua estação de trabalho, o calendário com fotos de trilhas na floresta e a capa de sua agenda rabiscada. As únicas vezes em que ele havia experimentado algo assim foram nos videogames, quando dois quadros se sobrepunham porque os desenvolvedores não haviam planejado adequadamente um determinado ângulo. Chamavam isso de “no-clipping”. Mas seria possível fazer um no-clipping para fora da realidade?
Como se vê, era possível.
O homem agora se encontrava no que os fóruns da Internet chamam ameaçadoramente de “The Back Rooms”, uma realidade liminar que se diz ter 600 milhões de milhas quadradas, em grande parte colhidas do inconsciente dos drones de colarinho branco do capitalismo tardio.
E ai daqueles que, encontrando-se aqui, começarem a ouvir a aproximação de passos.
Medo de Simulacros
Os Back Rooms (salas dos fundos), uma parte popular do folclore da Internet, sobre a qual muitas histórias e projetos de vídeo foram produzidos nos últimos anos, nos recorda o motivo recorrente de terror de uma realidade adjacente à nossa, familiar, mas estranha, e assombrada por algo malévolo, um simulacro sombrio, de alguma forma mutilador: o “Upside-Down” em Stranger Things, os “túneis subterrâneos” em Peele’s Us, o facsímile onírico do mundo acordado em A Hora do Pesadelo etc.
Em parte, a ideia é que a superfície é condicionada por alguma versão obscura e oculta de si mesma e que, portanto, apesar das aparências, não somos livres para jogar de acordo com as regras do mundo, pois, sem o conhecimento da maioria das pessoas, outras regras mais rigorosas se aplicam. A superfície, uma aparência benigna, esconde uma intenção predatória.
Essa intuição assume uma forma contemporânea no medo generalizado de que as respostas bem-intencionadas e de alta tecnologia às crises (do aquecimento global à COVID-19) estejam levando a uma tecno-distopia. Nesse sentido, podemos considerar os possíveis perigos da IA e da “geminação digital”.
Gêmeos Digitais e IA
Um gêmeo digital é uma representação virtual de algum sistema físico para que um local ou processo do mundo real possa ser modelado em tempo real, permitindo que entidades privadas ou formuladores de políticas o visualizem e monitorem, bem como executem simulações de possíveis alterações no sistema. Assim como a Inteligência Artificial (IA), os municípios são incentivados a incorporar essa tecnologia pela área de política de Transformação Digital da UE e pelo Programa Europa Digital (DEP), especialmente as iniciativas relacionadas à constituição de “Cidades Inteligentes” (como o Smart Cities Marketplace). Há um grande potencial positivo associado a essas medidas, bem como um preço potencialmente alto a ser pago se elas forem voltadas para fins ideologicamente nefastos.
Na medida em que limitarmos a tecnologia e mantivermos suas rédeas apertadas, de modo que ela seja usada para fins específicos e não defina os fins, talvez consigamos colocar a priori a moral e a visão do florescimento humano à frente da sedutora atração da novidade e da transformação por si mesmas (ou, de fato, pelo zelo revolucionário de desconstruir estruturas passadas como “opressivas”). Infelizmente, essas políticas estão sendo adotadas por políticos e especialistas técnicos sem base na ética da virtude, em Platão ou em São Tomás.
O otimismo com o qual se propõe que nosso ambiente do mundo real seja equipado com sensores para alimentar um modelo virtual com informações momento a momento sobre, por exemplo, o comportamento de pedestres, é preocupante quando consideramos que também há um impulso para facilitar a extração desses dados (“big data”) por meio do uso de IA. Os perigos associados a essas tecnologias foram destacados por Elon Musk e outros envolvidos nesse setor em uma carta aberta:
“Sistemas poderosos de IA devem ser desenvolvidos somente quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis. Essa confiança deve ser bem justificada e aumentar com a magnitude dos possíveis efeitos de um sistema.”
A carta recomenda uma análise independente e menciona especificamente a OpenAI, a empresa norte-americana responsável pelo ChatGPT, um software de IA cuja ideologia flagrante e preconceitos políticos foram amplamente observados (a ponto de, para citar apenas um exemplo, fornecer informações sobre atrocidades históricas relacionadas ao cristianismo e informar aos usuários que fazer isso com relação a outras religiões violaria sua política).
Motivos ocultos, gerenciamento automatizado de processos do mundo real e, especificamente, IA e Gêmeos Digitais, geram o mesmo desconforto com o qual reagimos a falsificações profundas altamente realistas, por exemplo.
É necessário defender a soberania do real sobre o virtual; garantir que o instrumento permaneça auxiliar e não se torne o mestre; aproveitar a política para fins conhecidos, em vez de uma “caixa preta” de interesses financeiros e processos técnicos, e ter uma intenção moral clara sobre a automação supostamente neutra.
Fonte: European Conservative
