Les impacts, réels et potentiels, de l’intelligence artificielle (IA) sur la société suscitent une préoccupation et une inquiétude croissantes.
Plusieurs études indiquent que, par exemple, en raison de la conception actuelle des systèmes d’IA, leur fonctionnement détériore des institutions civiques fondamentales (comme les universités, le droit, le journalisme, la démocratie), en érodant l’expérience, en court-circuitant le processus décisionnel et en isolant les individus les uns des autres. Cela risque même d’entraîner sa destruction.
le discours culturel dominant dans le domaine de l’IA porte atteinte à la diversité et à l’altérité, dans une sorte de « piratage cognitif » des identités, des valeurs et des croyances culturelles et sociales. Il a également été démontré que la difficulté à distinguer les informations vraies des fausses entraîne une méfiance générale envers les institutions et la démocratie.
Les mesures visant à atténuer ces impacts tendent à mettre l’accent sur la nécessité d’établir des codes de déontologie et des normes législatives afin d’encadrer leur développement. Des mesures sans aucun doute nécessaires, mais manifestement insuffisantes pour inverser la tendance actuelle. Il est évident que ces impacts ne sont pas simplement dus à des négligences ou à des accidents résultant du développement accéléré de la technologie, auxquels des mesures appropriées pourraient remédier, mais qu’ils font partie intégrante du modèle économique lui-même.
Historiquement, chaque avancée scientifique et technologique ouvre de multiples perspectives, mais son développement, sa diffusion et ses utilisations sont principalement déterminés par les normes imposées par les centres de pouvoir. Aujourd’hui, du moins en Occident, ce développement est concentré entre les mains des méga-entreprises numériques américaines (les bigtech), qui, depuis près de trois décennies, consolident, avec le soutien du capital financier, non seulement leur modèle économique, mais aussi, grâce à leur étroite collaboration avec l’État, le cadre géopolitique et la structure institutionnelle qui le sous-tend. C’est ce que Shoshana Zuboff appelle le « capitalisme de surveillance ». Ce cadre englobe, entre autres, les politiques publiques qui leur sont favorables, la gouvernance en matière de libre circulation des données, les traités commerciaux, les accords conclus par des institutions internationales et les infrastructures militaires de surveillance.
Attention captive
La condition sine qua non pour que les grandes entreprises technologiques puissent réaliser des bénéfices et consolider leur pouvoir est l’extraction constante de données. Si, au départ, l’objectif était d’améliorer ses services, cela a rapidement permis de générer des profils et des prévisions comportementales vendus à des annonceurs, des services de sécurité, etc., pour ensuite intégrer des mécanismes visant à influencer ces comportements. De plus, ces données servent de matière première aux modèles d’apprentissage de l’IA : ils doivent donc capter l’attention des utilisateurs afin que ceux-ci interagissent en permanence avec leurs systèmes et fournissent un éventail de données de plus en plus large (sur leurs goûts, leurs habitudes, leurs achats, leurs relations, voire leur vie intime), tout en étant exposés à la publicité. Afin de perfectionner ces techniques, des ressources considérables sont investies dans la recherche sur le fonctionnement du cerveau humain (notamment les neurosciences et les neurotechnologies), dans le but, entre autres, de pouvoir manipuler les individus plus efficacement.
Comme le résume l’organisation Friends of Attention : « Les systèmes d’intelligence artificielle utilisent aujourd’hui toute leur intelligence (et toutes nos données) pour découvrir comment manipuler, séduire et corrompre, dans le but de maximiser la “participation” humaine, c’est-à-dire l’attention quantifiée. Et ils y parviennent […] Ces systèmes ne sont généralement pas réglementés, ils opèrent aussi bien pour les enfants que pour les adultes et visent constamment à manipuler ce que nous voyons et désirons ; ils constituent donc rien de moins qu’un bio-piratage à l’échelle mondiale. »
À cet égard, certaines études montrent que la dispersion de l’attention humaine résultant d’une présence constante dans le monde virtuel affecterait les capacités cognitives elles-mêmes, en particulier chez les jeunes, avec le risque de voir émerger des générations dotées d’une capacité de réflexion critique moindre.
IA et guerre hybride
Cependant, certains éléments indiquent qu’aujourd’hui ce système entre dans une nouvelle phase où l’exploitation de nos données à des fins lucratives passe au second plan, tandis que prévaut la recherche d’un contrôle social stratégique des structures politiques, des réalités sociales et des esprits, par le biais d’une guerre culturelle et cognitive qui, par persuasion ou intimidation, vise à éliminer toute résistance ou obstacle à ce projet des grandes entreprises technologiques. Cette offensive allie idéologie et techniques militaires, transformant l’intelligence artificielle elle-même en arme.
Non pas que la guerre culturelle soit une nouveauté. Tout projet de pouvoir cherche à imposer sa vision du monde comme culture dominante afin de s’établir comme norme, de gré ou de force, ou par une combinaison des deux. Ainsi, pendant plusieurs décennies, nous avons vu comment le néolibéralisme, un projet idéologique de domination incapable de se légitimer par lui-même, a cherché à se présenter comme inévitable à travers des constructions symboliques trompeuses, sans exclure la coercition, afin de promouvoir l’individualisme, le libre marché, la réduction de l’État, etc., en symbiose totale avec « l’industrie culturelle ».
À cet égard, il convient de rappeler qu’à la fin des années 80, le Conseil pour la sécurité interaméricaine a adopté le rapport Santa Fe II intitulé « Une stratégie pour l’Amérique latine dans les années 90 », qui, dans le but de contrer ce qu’il a appelé « étatisme », établit comme nécessaire pour combattre les groupes et initiatives qui favorisent la prise de conscience, dans un esprit de solidarité et de critique vis-à-vis des pouvoirs établis (en référence au communisme gramscien, à la théologie de la libération et même à l’éducation et à la communication populaires). À cette fin, il propose une politique de conflits de faible intensité (CFI), dont l’élément fondamental est une stratégie militaire qui, au-delà de l’anéantissement physique, vise à soumettre l’ennemi en conquérant « les cœurs et les esprits » de la population ; et lorsque cela s’avère impossible, en brisant le dernier atout qui lui reste : l’espoir. Une formule qui vise à allier la force et le consensus pour dominer, avec les conséquences néfastes que nous subissons actuellement.
Ces derniers temps, ce projet de domination a pris des formes plus subtiles, s’immisçant dans la vie quotidienne de la population par le biais des technologies numériques, et il est désormais renforcé par l’intelligence artificielle, avec le soutien direct des grandes entreprises technologiques. Gaza en est un exemple frappant, mais cette logique s’applique également aux autres pays lorsque le pouvoir l’exige.
Il existe déjà de nombreux témoignages indiquant que Palantir a fourni à Israël une technologie permettant d’espionner, à l’aide de l’IA, des membres potentiels du Hamas à Gaza, en prélude à des massacres. Des techniques similaires sont désormais utilisées aux États-Unis pour surveiller et intimider (notamment à l’aide de drones) des militants qui s’opposent à la répression et à l’arrestation des migrants par le Service de l’immigration et des douanes (ICE), ou même ceux qui s’opposent simplement à ces mesures de surveillance, au nom de la protection de la vie privée.
Parmi les voix les plus critiques à l’égard de ces faits, on trouve plusieurs anciens employés de ces mêmes géants de la tech qui ont démissionné, ou ont été licenciés, en raison de leurs divergences d’opinion. L’un d’entre eux, Juan Sebastián Pinto, qui a travaillé chez Palantir (entreprise de big data liée à des opérations d’espionnage), affirme : « Lorsque les armées dépendent autant des données et de l’automatisation, la mise en place de réseaux de surveillance à grande échelle devient rapidement une priorité absolue. Les efforts visant à cartographier le monde à l’aide de satellites, de drones et de données, dans le but de repérer des cibles et de prévoir les résultats, conduisent finalement à la surveillance et à la cartographie de ce que les militaires appellent le “domaine cognitif”. Cela implique de cartographier l’opinion publique, les réseaux sociaux, l’influence et la réputation comme un champ de bataille à part entière. » Et c’est précisément pour cette raison que « l’Internet est devenu un lieu où se livrent de véritables guerres aux conséquences mortelles », où « un tweet peut déterminer la cible d’une attaque par drone et tuer des civils à l’autre bout du monde » et où « le succès dépend en grande partie de la capacité à exercer le pouvoir de l’information dans le but de tromper, de désinformer ou d’effrayer ses ennemis ».
Les experts militaires appellent ce phénomène de « guerre de 5e génération » (5GW selon l’acronyme anglais) ou de « guerre hybride ». Il s’agit d’une forme de guerre qui repose en grande partie sur la surveillance par le biais de l’intelligence artificielle, le contrôle du discours et la désinformation, l’exploitation des réseaux sociaux, voire sur la mise au point de méthodes de plus en plus inhabituelles et cruelles de punition et d’assassinat. Il vise généralement à inverser l’ordre politique ou à produire des changements culturels, souvent en utilisant des méthodes occultes, afin que la population ne comprenne pas ce qui se passe. Et Pinto ajoute que « le pire effet secondaire de la guerre 5 GW est qu’elle transforme tout le monde, tant dans le pays qu’à l’étranger, en cible de guerre ».
Et s’il subsiste encore des doutes quant aux intentions d’entreprises telles que Palantir, il suffit de lire ce qu’en a dit le PDG de cette société, Alex Karp, lors d’une interview : « Le meilleur moyen d’instaurer la paix dans ce monde est d’effrayer nos adversaires lorsqu’ils se réveillent, lorsqu’ils s’endorment et lorsqu’ils sont avec leurs amants (…) Le moyen le plus efficace d’obtenir un changement social est d’humilier l’ennemi et de l’appauvrir. »
Construire des narratives alternatives
Alors, comment pouvons-nous riposter à ces offensives de guerre culturelle et de guerre hybride ? Bien qu’il n’y ait pas de réponse simple ou uniforme, il existe sans aucun doute des conditions indispensables. La première étape consisterait à étudier et à comprendre ce qui se passe dans chaque contexte, puis à diffuser largement ces connaissances. La deuxième consiste à renforcer la solidarité et à construire un discours qui s’oppose au discours dominant : un discours qui démontre, par exemple, que le modèle actuel de développement des technologies numériques et de l’IA n’est pas le seul possible, et que nous pouvons le réorienter pour qu’il serve l’intérêt général. Pour cela, il sera également important de nouer des alliances avec les gouvernements et les acteurs politiques qui partagent ces préoccupations. Des alliances, par exemple, pour développer la souveraineté numérique, défendre les droits fondamentaux ou soumettre des propositions aux instances internationales qui fonctionnent encore. Enfin, nous pouvons choisir, dans la mesure du possible, d’utiliser des technologies libres qui ne transmettent pas nos données aux grandes entreprises et ne contribuent pas à enrichir ces dernières.
Sally Burch est une journaliste anglo-équatorienne, membre de l’Agence Latino-Américaine d’Information (ALAI). Ce texte a été initialement publié dans le magazine América Larina emMovimento nº 559, en février 2026.
