Eleições 2026 no Brasil
No começo do mês, as declarações de Jacob Coxon, ex-funcionário da Anthropic, empresa desenvolvedora do Claude, criaram uma onda de comoção acerca dos riscos quanto ao futuro dos modelos de inteligência artificial. Em suas palavras, as grandes empresas desenvolvedoras de IA estariam “apostando com nossas vidas” em uma corrida pela “super-inteligência auto-aprimorável” que levaria, enfim, à potencial extinção da humanidade através de uma rebelião das máquinas.
Pronto. Foi o suficiente para um verdadeiro alvoroço atravessar diversos campos do discurso público, desencadeando distintas elaborações que passaram por visões apocalípticas, fantasias distópicas, ficções especulativas e, enfim, uma pergunta: estamos próximos de máquinas pensantes, com interioridade e vontade própria, agência e volição? A força de tal imaginação tem uma razão de ser importante: ela articula elementos da ficção científica, da escatologia religiosa, da tecnologia cotidiana recém popularizada, e do sentimento contemporâneo de uma aproximação iminente, angustiante, da meia noite — i.e., de um colapso absoluto, do limite final ao modo de produção e reprodução social vigente, que se expressa também, e fundamentalmente, pela crise climática.
É preciso discernir alguns elementos fundamentais sobre o assunto: a imagem mental que geralmente se constrói sobre uma Inteligência Artificial Geral [em inglês, no acrônimo, AGI] ou uma “super-inteligência” de IA é alimentada pela ideia de “singularidade”, ou seja, a imaginação de uma máquina-sujeito, ser pensante, no mesmo sentido que nos entendemos como seres pensantes – porém hiperdimensionado em suas super-capacidades. Enfim, é o super-homem, porém super-máquina: a consciência artificial última, quase mesmo uma deidade. “Deus criou o homem, à sua imagem e semelhança” e, agora, o homem criaria uma espécie de Deus em silício, feito da manipulação de minérios que levariam ao apogeu de um novo ser. Essa ideia é ilusória, apesar de merecer uma análise cuidadosa em algum outro momento, a partir da seguinte pergunta: o que essa fantasia, essa ficção, revela sobre a realidade?
Mas enfim, não é esse o objetivo agora. Basta constatarmos que a emergência de uma singularidade não viria dos recursos de hardware e software cibernéticos, organizados por dinâmica binária e modulação estatística disponíveis, simplesmente porque tratam-se de coisas que existem em regimes diferentes do próprio ser. Essa confusão remonta ao tipo de metáfora utilizada para a modelização de IAs conexionistas, baseadas em modelos matemáticos dos neurônios, o que levou ao desenvolvimento das chamadas “redes neurais artificiais” – que não são, é importante dizer, neurônios, mas modelos matemáticos interpretativos de uma leitura específica e limitada sobre como operam redes neurais. Ao mesmo tempo, IAs “pensam” na medida em que simulam a maneira como seus desenvolvedores teorizaram como funciona o próprio pensamento: por aproximações lógicas formais, ou por tentativa e erro amparadas por análise estatística, etc. Para usar uma famosa frase: perguntar se IAs “pensam” como nós pensamos, seria o mesmo que perguntar se um submarino nada – a pergunta, em si, não faz sentido, porque um submarino não nada. Isso não quer dizer que um submarino não se desloque na água obedecendo princípios hidrodinâmicos – e, com certeza, não quer dizer que submarinos sejam inofensivos, que não apresentem risco, que não desempenhem funções militares.
Aqui, chegamos em um ponto importante. As IAs fazem parte de uma corrida militar hoje central, mas que remonta às origens do campo: desde a cibernética e os desenvolvimentos, por exemplo, do Perceptron de Rosenblatt (a primeira IA conexionista a ser tirada do papel), os cientistas desenvolvedores de IAs são financiados por agências militares com diferentes interesses. Isso ocorreu em outra era geológica. Hoje, a configuração entre o capital industrial das Big Techs e o Estado norteamericano, fundamentalmente, tem outra disposição. E os agentes capitalistas dos grandes monopólios tecnológicos ocupam posições de poder inéditas.
Essa consideração nos leva para duas dimensões da questão: primeiro, criticar as fantasias distópicas e apocalípticas sobre IAs que ganham consciência não deve nos levar a um desmerecimento sobre os riscos que os avanços no campo apresentam. Cada vez mais a área tensiona limites cruciais em áreas sensíveis relativas a setores estratégicos, desenvolvimentos científicos, segurança nacional, organização informacional e controle sobre a arquitetura financeira global. IAs avançadas podem auxiliar na invasão de sistemas, quebra de defesas, desenvolvimentos de armas – inclusive químicas ou biológicas –, vigilância civil e seleção de alvos militares. O debate sobre desenvolvimento de sistemas de armas autônomos letais passa por uma questão ética fundamental que é, basicamente, a automação por IA dos processos para executar alvos, desde sua seleção até o disparo final. E, em um mundo cada vez mais digitalmente integrado, a permeabilidade entre sistemas torna-se um elemento crucial – a comodidade da automação revela impasses centrais e inseguranças que somente essa própria integração pode gerar. Nesse contexto, sistemas de IA com auto-aprimoramento integrado, que já estão sendo desenvolvidos, apresentam riscos reais, não pela possibilidade de “ganharem consciência”, mas pela possibilidade de excederem as expectativas – e o controle – ao executarem as funções para as quais foram justamente desenvolvidas. Teríamos, nesse sentido, uma atualização do que Adorno chamou de produtos que desempenham o papel de “sujeitos sem subjetividade”, em seu clássico Minima Moralia.
O segundo ponto está na maneira como o investimento especulativo no desenvolvimento das tecnologias se desdobrou nos EUA. A quantidade trilionária de investimentos, entre os já realizados e os projetados, pode ser um fator que contribua para o discurso “regulatório” e “desaceleracionista” vindo de figuras como Elon Musk, Sam Altman e Dario Amodei. Se a crise possível, oriunda do estouro de uma bolha da IA, se realizar, os riscos são gigantes tanto para os donos das principais corporações estadunidenses, quanto para a própria posição global dos EUA em um cenário de disputa e mudança da hegemonia econômica global cada vez mais acentuado. Nesse cenário, acelera-se ainda mais um processo já em curso, onde a China, com seu modelo de desenvolvimento planejado e integrado, ganharia ainda mais vantagem, por não estar submetida à lógica solipsista e descoordenada do capitalismo desvairado que dita a disritmia frenética das Big Techs. Assim, caso seja esse o cenário, teríamos uma situação irônica notada por Letícia Cesarino, onde o alerta de Jacob Coxon sobre a possibilidade do desenvolvimento irresponsável “nos matar” passaria a se referir, na verdade, aos CEOs, à indústria Tech e à própria economia americana.
De qualquer modo, é curioso notarmos como tecnologias tão fascinantes são organizadas em um enquadramento fantasmático de apocalipse e escatologia, em uma narrativa que prega certa inevitabilidade teleológica ao seu próprio processo. É curioso como as fantasias de dominação projetadas na máquina perpetuam uma concepção da realidade que não foge da lógica dicotômica entre exterminadores e exterminados – algo que constantemente remete aos fantasmas coloniais mais do que vivos na história do ocidente. Nesse contexto de imaginação apocalíptica, deveríamos nos questionar quem são os verdadeiros exterminadores do futuro: IAs na forma de robôs fisiculturistas que concorrem ao governo da califórnia, ou CEOs deploráveis, impregnados pelo imperialismo estetizado nos moldes das ficções pulp distópicas que, ao invés de viajarem do futuro para liquidar algo no presente, pretendem, eles mesmo, exterminar o próprio futuro a partir de agora, às nossas custas.
(*) Cian Barbosa é sociólogo (UFF), doutor em filosofia (UNIFESP) e doutorando em psicologia (UFRJ), onde integra o Laboratório de Estudos sobre a Subjetividade e Emergências Humanitárias. Pesquisa teoria do sujeito, crítica da cultura, violência, tecnologia, ideologia e digitalização; também é integrante da revista Zero à Esquerda, tradutor e ensaísta, além de professor e coordenador do Centro de Formação — onde encontram-se abertas as inscrições para o curso ‘Marxismo e Psicanálise’. Para mais informações, clique aqui.
