Os impactos — reais e potenciais — da inteligência artificial (IA) na sociedade estão gerando crescente preocupação e alarme.
Vários estudos apontam que, por exemplo, devido ao design atual dos sistemas de IA, seu funcionamento deteriora instituições cívicas fundamentais (como universidades, direito, jornalismo, democracia), ao corroer a experiência, curto-circuitar a tomada de decisões e isolar algumas pessoas de outras. Ele até corre o risco de causar sua destruição.
Outros estudos mostram como a narrativa cultural dominante na IA atenta contra a diversidade e a alteridade, em uma espécie de “hackeamento cognitivo” de identidades, valores e crenças culturais e sociais. Também foi demonstrado que a dificuldade de distinguir entre conteúdos verdadeiros ou falsos leva a uma desconfiança geral nas instituições e na democracia.
As respostas para mitigar os impactos tendem a se concentrar na necessidade de estabelecer códigos de ética e normas legislativas para regulamentar seu desenvolvimento. Medidas sem dúvida necessárias, mas evidentemente insuficientes para mudar o curso atual. É claro que esses impactos não se devem simplesmente a descuidos ou acidentes resultantes do desenvolvimento acelerado da tecnologia, que com medidas adequadas poderiam ser corrigidos, mas são parte do próprio modelo de negócios.
Historicamente, cada avanço da ciência e da tecnologia gera múltiplas possibilidades, mas seu desenvolvimento, distribuição e usos são determinados predominantemente pelos padrões impostos pelos centros de poder. Hoje, pelo menos no Ocidente, esse desenvolvimento está concentrado nas mãos das megacorporações digitais americanas (as big techs), que há cerca de três décadas vêm consolidando — com o apoio do capital financeiro — não apenas seu modelo de negócios, mas também, graças à estreita colaboração do Estado, o quadro geopolítico e a estrutura institucional correspondente que o sustenta. É o que Shoshana Zuboff denomina “capitalismo de vigilância”. Esse quadro abrange políticas públicas que lhes são favoráveis, governança em relação ao livre fluxo de dados, tratados comerciais, acordos de instituições internacionais e infraestrutura militar de vigilância, entre outros.
A atenção cativa
A condição fundamental para que as grandes empresas de tecnologia possam lucrar e consolidar seu poder é a extração constante de dados. Se inicialmente era para melhorar seus serviços, logo permitiu gerar perfis e previsões de comportamentos que são vendidos a anunciantes, serviços de segurança, etc., para posteriormente incorporar mecanismos orientados a influenciar tais comportamentos. Além disso, eles são o insumo para alimentar os modelos de aprendizagem da IA, por isso precisam capturar a atenção dos usuários para que eles interajam constantemente com seus sistemas e forneçam uma gama cada vez mais ampla de dados (sobre gostos, hábitos, compras, relacionamentos, até mesmo a vida íntima), ao mesmo tempo em que se expõem à publicidade. Para aperfeiçoar essas técnicas, recursos consideráveis são investidos em pesquisas sobre o funcionamento do cérebro humano (como neurociências e neurotecnologias), com o objetivo, entre outros, de poder manipular as pessoas de forma mais eficaz.
Como sintetiza a organização Friends of Attention: “Os sistemas de inteligência artificial estão atualmente usando toda a sua inteligência (e todos os nossos dados) para descobrir como manipular, seduzir e subornar, com o objetivo de maximizar a ‘participação’ humana, ou seja, a atenção quantificada. E estão ganhando […] Esses sistemas geralmente não são regulamentados, operam tanto com crianças quanto com adultos e têm como objetivo constante manipular o que vemos e queremos; por isso, constituem nada menos que um biohackeamento em escala mundial”.
A esse respeito, há estudos que demonstram que a dispersão da atenção humana resultante da presença constante no mundo virtual estaria afetando a própria capacidade cognitiva, especialmente dos jovens, com o risco de se formarem gerações com menor capacidade de pensamento crítico.
IA e guerra híbrida
No entanto, há evidências de que hoje esse sistema está passando por uma nova fase, em que o abuso de nossos dados para lucrar com eles está ficando em segundo plano, e o que está prevalecendo é a busca pelo controle social estratégico das estruturas políticas, das realidades sociais e das mentes das pessoas, por meio de uma guerra cultural e cognitiva que, com persuasão ou intimidação, visa eliminar qualquer resistência ou obstáculo a esse projeto das grandes empresas de tecnologia. Essa ofensiva combina ideologia com técnicas militares, transformando a própria inteligência artificial em arma.
Não é que a guerra cultural seja nova. Na verdade, todo projeto de poder busca impor sua visão de mundo como cultura dominante para que se estabeleça como norma, seja pela boa ou pela má via, ou combinando as duas. Assim, durante várias décadas, vimos como o neoliberalismo, um projeto ideológico de dominação incapaz de se legitimar por si mesmo, buscou se projetar como inevitável com falsidades no mundo simbólico, sem descartar a coerção, para promover o individualismo, o livre mercado, o encolhimento do Estado, etc., em total simbiose com a “indústria cultural”.
A esse respeito, vale lembrar que, no final dos anos 80, o Conselho para a Segurança Interamericana adotou o Relatório Santa Fé II intitulado: “Uma estratégia para a América Latina nos anos 90”, que, com o objetivo de contrariar o que chamava de “estatismo”, estabelece como necessário combater aqueles grupos e iniciativas que promovem a conscientização, com um sentido solidário e crítico em relação aos poderes estabelecidos (referindo-se ao comunismo gramsciano, à Teologia da Libertação e até mesmo à educação e comunicação popular). Para isso, propõe uma política de conflitos de baixa intensidade (CBI), cujo componente básico é uma estratégia militar que — além da aniquilação física — busca subjugar o inimigo conquistando a “mente e os corações” da população; e quando isso não é possível, quebrando o último que lhe resta: a esperança. Uma fórmula que visa conjugar a força e o consenso para dominar, com as consequências nefastas que temos vivido.
Ultimamente, esse projeto de dominação passou a assumir características mais sutis, ao se inserir na vida cotidiana da população por meio das tecnologias digitais, e agora potencializado com a IA, com o apoio direto das grandes empresas de tecnologia. Gaza é um exemplo contundente, mas entra em vigor nos demais países quando o poder assim o exige.
Já existem inúmeros relatos de como a Palantir apoiou Israel com tecnologia para espionar com IA possíveis membros do Hamas, em Gaza, como prelúdio de massacres. Agora, técnicas semelhantes estão sendo empregadas nos EUA para vigiar e intimidar (inclusive com drones) ativistas que se opõem à repressão e captura de migrantes pelo Serviço de Imigração e Controle Alfandegário (ICE, na sigla em inglês), ou mesmo aqueles que simplesmente se opõem a essas ações de vigilância, em defesa da privacidade.
Entre as vozes mais críticas a esses fatos estão vários ex-funcionários das mesmas empresas de big tech que se demitiram — ou foram demitidos — por sua discordância. Um deles, Juan Sebastián Pinto, que trabalhou na Palantir (empresa de big data ligada a operações de espionagem), afirma: “Quando os exércitos dependem tanto de dados e automação, estabelecer redes de vigilância máximas rapidamente se torna uma prioridade absoluta. O esforço para mapear o mundo por meio de satélites, drones e informações — com o objetivo de encontrar o alvo e prever resultados — leva, finalmente, à vigilância e ao mapeamento do que os militares chamam de ‘domínio cognitivo’. Isso implica mapear a opinião pública, as redes sociais, a influência e a reputação como um campo de batalha em si mesmo”. E, por isso mesmo: “A Internet se tornou um lugar onde guerras reais com consequências mortais são travadas”, onde “um tuíte pode determinar o alvo de um ataque com drones e matar civis do outro lado do mundo” e “o sucesso depende em grande parte da capacidade de exercer o poder da informação com o objetivo de enganar, desinformar ou assustar seus inimigos”.
Especialistas militares referem-se a esse fenômeno como guerra de 5ª geração (5 GW, pela sigla em inglês) ou guerra híbrida. É uma forma de guerra que depende em grande medida da vigilância por meio de inteligência artificial, controle narrativo e engano, exploração das redes sociais e até mesmo do desenvolvimento de métodos cada vez mais incomuns e cruéis de punição e assassinato. Geralmente visa reverter a ordem política ou produzir mudanças culturais, muitas vezes usando métodos ocultos, de modo que a população não compreenda o que está acontecendo. E Pinto acrescenta que “o pior efeito colateral da guerra 5 GW é que ela transforma todo mundo, tanto no país quanto no exterior, em um alvo de guerra”.
E se ainda houver alguma dúvida sobre as intenções de empresas como a Palantir, basta ver o que declarou em uma entrevista o CEO desta empresa, Alex Karp: “A principal forma de criar paz neste mundo é assustar nossos adversários quando acordam, quando vão dormir e enquanto estão com seus amantes (…) A forma mais eficaz de conseguir uma mudança social é humilhar o inimigo e empobrecer-lhe”.
Construir narrativas alternativas
Então, como podemos responder a essas ofensivas de guerra cultural e guerra híbrida? Embora não haja uma resposta fácil ou uniforme, sem dúvida existem algumas condições indispensáveis. A primeira seria investigar e compreender o que está acontecendo em cada contexto e compartilhar amplamente esse conhecimento. A segunda é construir solidariedade e uma narrativa que contrarie a narrativa dominante: que demonstre, por exemplo, que o atual modelo de desenvolvimento da tecnologia digital e da IA não é o único, que podemos reorientá-lo para que responda a fins destinados ao bem público. Para isso, também será importante buscar alianças com governos e setores políticos que compartilhem essas preocupações. Alianças, por exemplo, para desenvolver soberania digital, defender direitos fundamentais ou encaminhar propostas às instâncias internacionais que ainda funcionam. Por fim, podemos optar, sempre que possível, por utilizar tecnologias livres que não entreguem nossos dados às corporações nem contribuam para enriquecê-las.
Sally Burch é jornalista britânica-equatoriana, integrante da Agência Latino-americana de Informação (ALAI). Este texto foi publicado originalmente na revista América Latina em Movimento nº 559, em fevereiro de 2026.
