Voici une tentative de synthèse des principales critiques de l’IA que j’ai retenues.
Je ne suis pas spécialiste, j’ai juste mis en relief diverses lectures et impressions, en reprenant certains de mes articles.
Ce dossier ne développe pas des analyses techno-scientifiques, mais surtout des critiques politiques, voir philosophiques.
L’idée est de montrer l’étendue et la profondeur du problème, de lancer des réflexions et de stimuler les nombreux motifs de rejet de cette technologie (appuyés parfois par des liens et références), laquelle s’inscrit en plein dans la mégamachine, la civilisation industrielle, ses développements écocidaires et ses désastres.
Sommaire
- L’Iintelligence Artificielle c’est quoi ?
- L’IA n’est pas neutre
- L’IA est anti-écologique
- L’IA détruit le climat
- L’IA est anti-sociale
- Militarisme et technopolice
- L’impasse économique
- Pire que le Plan et du Marché - Remplacement de l’enfumage pseudo-démocratique
- Terminator sera peut-être un essaim autonome de nano-robots
- L’enfumage de la régulation
- L’IA est la quintessence du monde Machine
- S’opposer au monde de l’IA
Ce dossier sera bientôt proposé en pdf, mis en forme en brochure imprimable.
L’Iintelligence Artificielle c’est quoi ?
Voici des définitions trouvées en ligne :
Sur Wikipédia :
L’intelligence artificielle (IA) est un ensemble de théories et de techniques visant à réaliser des machines capables de simuler l’intelligence humaine.
Souvent classée dans le domaine des mathématiques et des sciences cognitives, l’IA fait appel à des disciplines telles que la neurobiologie computationnelle (qui a notamment inspiré les réseaux neuronaux artificiels), les statistiques, ou l’algèbre linéaire. Elle vise à résoudre des problèmes à forte complexité logique ou algorithmique. Par extension, dans le langage courant, l’IA inclut les dispositifs imitant ou remplaçant l’homme dans certaines mises en œuvre de ses fonctions cognitives.
Les applications de l’IA incluent notamment les moteurs de recherche, les systèmes de recommandation, la compréhension du langage naturel, les voitures autonomes, les chatbots, les outils de génération d’images, les outils de prise de décision automatisée et les programmes compétitifs dans des jeux de stratégie.
sur un site du parlement européen :
L’IA désigne la possibilité pour une machine de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité.
L’IA permet à des systèmes techniques de percevoir leur environnement, gérer ces perceptions, résoudre des problèmes et entreprendre des actions pour atteindre un but précis. L’ordinateur reçoit des données (déjà préparées ou collectées via ses capteurs - une caméra, par exemple) les analyse et réagit.
Les systèmes dotés d’IA sont capables d’adapter leurs comportements (plus ou moins) en analysant les effets produits par leurs actions précédentes, travaillant de manière autonome.
sur un site de datascience :
Selon John McCarthy, l’un des pionniers du domaine, (...) L’intelligence artificielle (IA) est un domaine de l’informatique qui cherche à créer des systèmes capables de réaliser des tâches qui nécessiteraient normalement l’intelligence humaine.
Cependant, l’IA est souvent considérée comme un concept vaste et multidimensionnel, difficile à définir précisément en raison de sa nature étendue et en constante évolution. Par exemple, des technologies allant des simples algorithmes de recommandation utilisés par Netflix, selon Forbes, aux systèmes complexes de conduite autonome développés par des entreprises comme Tesla, sont tous considérés comme de l’IA. Cette diversité rend le domaine à la fois fascinant et énigmatique, avec des définitions qui évoluent au fur et à mesure que la technologie progresse.
L’arnaque de l’IA commence par son nom. Car seuls les êtres vivants peuvent être intelligents, seuls les êtres éprouvants la souffrance, le corps, l’empathie, la condition de la vie et de la mort peuvent faire preuve d’intelligence.
Les machines et logiciels associés ne peuvent au mieux qu’exécuter des suites d’instructions ou déduire/imiter une forme de rationnalité, mais une rationnalité cybernétique, pas intelligente. Une pseudo rationnalité de machines sera toujours différente de l’intelligence d’un organisme vivant, à moins de verser dans la SF où des machines deviennent pleinement vivantes par divers "miracles".
C’est pourquoi Eric Sadin préfère parler de "rationnalité cybernétique" que d’IA.
Malgré des déceptions, des arnaques, des promesses grandiloquentes ou prématurées, les rôles et utilisations des IA sont nombreux et ne cessent de s’étendre, dans les robots, jeux vidéos, systèmes d’arme, voitures, ordinateurs et smartphones grand public... pour des applications diverses, comme la traduction, les moteurs de recherche, les "robots conversationnels", la génération d’images et de vidéos, la gestion des tâches d’employés, la recherche, etc.
Les chantres de la mégamachine essaient de justifier l’IA par des applications funs, des avancées médicales, des "on n’arrrête pas le progrès", des outils "pour le climat", la répétition que seuls certains de ses usages pourraient poser problème, puis viendront les injonctions, le déploiement partout qui la rend incontournable, la répression en cas de contestation, etc.
Ca prendra peut-être plus de temps qu’annoncé, mais l’IA (même en version pas si autonome que ça) va forcément se généraliser, elle est trop nécessaire à la civilisation industrielle.
Selon Eric Sadin :
L’intelligence artificielle génère pléthore de discours qui occultent sa principale fonction : énoncer la vérité. Elle se dresse comme une puissance habilitée à expertiser le réel de façon plus fiable que nous-mêmes. L’intelligence artificielle est appelée, du haut de son autorité, à imposer sa loi, orientant la conduite des affaires humaines. Désormais, une technologie revêt un « pouvoir injonctif » entraînant l’éradication progressive des principes juridico-politiques qui nous fondent, soit le libre exercice de notre faculté de jugement et d’action.
C’est la particularité principale de l’IA, en version "avancée", ce pouvoir de décision autonome, d’injonction, d’auto-régulation, de "création", qui la distingue des autres machines. Les humains sont possiblement à son service et devront/pourront lui obéir tandis qu’auparavant les machines obéissaient plutôt aux humains. Même si le système techno-industriel impose déjà en fait aux humains certains modes d’organisation sociale, rythmes et comportements.
Disons qu’on passe avec l’IA des machines à injonction mécanique aux machines à injonction rationnelle généralisée, du remplacement des muscles au remplacement des cerveaux, et donc de la réduction de l’intelligence humaine à la seule rationnalité utile au fonctionnement de la mégamachine, voir au remplacement de l’intelligence et de la liberté par une obéissance docile aux rationnalités cybernétiques (IA).
Avant l’IA, les réseaux "sociaux" et leurs algorithmes avaient déjà ouvert cette voie de la "domestication" des humains par/dans les machines (on pourrait aussi considérer les voitures et les ordinateurs).
L’IA est plus qu’une nouvelle technologie, c’est une révolution industrielle majeure qui influence fortement le fonctionnements des sociétés humaines comme auparavant l’ordinateur ou la voiture.
D’un point de vue critique, on pourrait définir autrement l’IA, par exemple :
L’IA est la poursuite des complexes innovations numérico-techno-scientifiques qui servent à faire tourner et perdurer la mégamachine : l’Etat, le capitalisme, et leur sous-secteur militaro-policier. L’IA est en phase avec le monde de la civilisation industrielle toujours plus rapide et compétitif, elle est parfaitement à l’image du techno-capitalisme et de la gestion administrée des humains. La mégamachine a absolument besoin de toutes les innovations, et de l’IA en particulier, pour tenir et s’étendre.
Après la « grossière » administration technocratique et politique des gens et du Marché, l’IA permet une administration cybernétique autonome beaucoup plus fine et performante, permettant d’ouvrir de si indispensables nouveaux marchés et de contrôler efficacement des foules humaines trop nombreuses pour la surveillance des agents étatico-policiers humains.
Explorons rapidement certaines critiques de l’IA, quelques considérations plus générales suivront.
L’IA n’est pas neutre
De longue date, de nombreux écologistes (Charbonneau, Ellul, Mumford...), activistes et penseurs ont montré qu’aucune technologie n’est neutre, et que la question n’est pas seulement l’usage qu’on en fait.
Chaque technologie implique/induit un certain modèle de société.
Et les technologies complexes, comme l’IA, le nucléaire, les ordinateurs... impliquent des modèles de sociétés autoritaires, non démocratiques, hiérarchiques, qui rendent les humains dépendants d’un système techno-industriel, qui atrophient la créativité et la sociabilité, avec des graves atteintes à la biosphère.
Déterminer quelles technologies sont indésirables ou pas est un débat complexe, à creuser, dont l’issue va dépendre du type de société souhaité et de ce qu’on est prêt à accepter ou pas pour y parvenir.
Comparez par exemple les implications d’un simple chariot à cheval en bois avec un peu de métal, avec la fabrication d’un vélo électrique bourré d’électronique, de matériaux composites, de plastiques et d’alliages complexes.
Il paraît évident que l’IA induit un modèle de société indésirable.
En tout cas, au lieu de laisser le capitalisme et les technologies dicter le modèle social, il faudrait à l’inverse choisir collectivement et démocratiquement quelle modèle de société on veut, et ensuite voir quelles sont les technologies/techniques compatibles avec ce modèle, en examinant toutes les implications des conditions de production d’une technologie et les conséquences de son usage.
Pour des développements sur les technologies et l’externalisation des nuisances, sur le suprémacisme et l’émancipation, voir ce livre de Sandrine Aumercier : « Le Mur énergétique du capital. Contribution au problème des critères de dépassement du capitalisme du point de vue de la critique des technologies » (Editions Crise & Critique, 2021). Il est présenté dans cet article : Critiquer radicalement la société technologique et capitaliste, pour ouvrir des voies d’émancipation sociale inventant leurs propres techniques
L’IA est anti-écologique
Comme les autres technologies complexes, l’IA pille et détruit la biosphère pour fabriquer d’avantage d’argent et de pouvoir concentré.
L’IA nécessite : des mines éparpillées sur la planète, la fabrication de divers composants électroniques dans des tas d’usines (elles mêmes nécessitant des mines, des terres, de l’eau, de l’énergie, des réseaux et infrastructures lourdement matériels...), des centres serveurs puissants gourmants en terres et en eau, beaucoup d’énergie pour son apprentissage et son fonctionnement.
L’IA ne descend pas du ciel en s’alimentant d’éther, elle est fabriquée et opérée par des structures matérielles ayant de lourdes conséquences matérielles : pollutions, écosystèmes détruits, accaparement de biens communs précieux...
Exemple cité par Reporterre.net : Google a ainsi révélé avoir prélevé 28 milliards de litres d’eau dans l’année, dont les deux tiers — de l’eau potable — pour refroidir ses data centers. Entre 2018 et 2022, ses prélèvements ont bondi de 82 %
Le livre "À Bout de Flux" (Éditions Divergences) de Fanny Lopez développe les liens serrés entre technologies numériques et électricité, citations :
« Le numérique a un double : l’infrastructure électrique. Le rapport immédiat aux objets connectés (smartphone, ordinateur) invisibilise le continuum infernal d’infrastructures qui se cachent derrière : data centers, câbles sous-marins, réseaux de transmission et de distribution d’électricité. Alors que le numérique accompagne une électrification massive des usages, le système électrique dépend lui-même de plus en plus du numérique pour fonctionner. Pour comprendre ce grand système et imaginer comment le transformer, il nous faut aller au bout des flux, là où se révèle la matérialité des machines et des câbles. »
(...)
À l’heure où ce qui est en jeu est l’habitabilité de la planète, l’hégémonie néolibérale nous presse encore à croire que le dépassement de la crise organique du capitalisme viendrait par le salut de ses forces techniques internes que sont l’innovation, la transition orientée croissance verte et le tout numérique. Le système numérique apparaît comme le parangon dystopique de la modernité (surconsommation électrique, traçage, fusion, contrôle en temps réel). La fuite en avant des GAFAM et des grands industriels de centres de données s’illustre comme l’un des plus cuisants symptômes de cette dramatique fantasmagorie. Ils déploient dans une vertigineuse débauche de flux ce qui est le nœud même de la logique du capitalisme : l’expansion infinie. L’accumulation et l’ivresse technologique du secteur numérique apparaissent en contradiction totale avec la décroissance énergétique et le tournant technique dans lesquels il faudrait radicalement s’engager.
Bien sûr, comme d’habitude dans la civilisation industrielle, les éventuelles mesures de sobriété et d’économie d’énergie (efficacité), ne compensent pas les besoins de la très forte croissance de l’IA et de ses usages.
Certains mettent en avant l’IA pour mieux mesurer et anticiper les désastres écolo-climatiques ...que l’IA contribue à attiser ! L’absurdité est totale.
Les nouvelles technologies permettent de gérer les désastres produits par les technologies précédentes, c’est la fuite en avant.
L’IA participe à une tentative de planification et de pilotage du « système Terre » par des technocrates de gauche ou de droite, afin de le rendre compatible avec les exigences de la civilisation industrielle et du capitalisme. Le numérique avncé prétend gérer d’en haut la planète Terre pour mieux l’incarcérer dans la mégamachine. Les combinats industriels sont scandaleusement nommés écosystèmes industriels, et les écosystèmes sont quantifiés et traités comme des usines, la boucle est bouclée.
La diversité synthétique des univers générés par IA ne pourront jamais approcher la richesse magique des écosystèmes réels éprouvés par tous les sens, connus et inconnus, d’un être vivant.
L’IA détruit le climat
Comme toutes les activités économiques de la civilisation industrielle, l’IA contribue au réchauffement climatique et désastres associés.
D’après une projection de l’Agence internationale de l’énergie, l’industrie mondiale des centres de données, de l’IA et des cryptoactifs devrait doubler sa consommation d’électricité d’ici 2026, générant un surplus de 37 milliards de tonnes de CO2 dans l’atmosphère
Et il faut ajouter toutes les émissions liés à la fabrication des terminaux et des écrans, des câbles internet et des réseaux électriques.
Mais la mégamachine préfère détruire la biosphère et enjoindre les peuples à s’adapter (injonction à une certaine résilience, au consentement et à la soumission) à une planète rendue invivable plutôt que de viser son démantèlement salvateur.
Les prochaines technologies qui n’existent pas et la géo-ingénierie qui ne marche pas administreront les désastres, ...et l’Etat gérera les foules et les pénuries par la contrainte et la brutalité policière.
L’IA, quels que soient ses usages et ses avancées dans l’efficacité énergétique, est incompatible avec la préservation d’un climat vivable.
L’IA est anti-sociale
Si l’IA participe à l’asservissement des corps et de la nature à la Machine, elle contribue aussi efficacement à la domination du corps social.
L’IA est une clef de voute du système cybernétique qui reconfigure le monde pour la mégamachine, qui incorpore tout à la Machine.
Le traçage numérique est déjà partout : école, services publics (CAF, France Travail...), travail, jeux vidéo, gestion... Les algorithmes et les IA sont en train "d’augmenter" tout ça.
Avec les métavers, les agents conversationnels (relationner avec un défunt, un.e amant.e choisi.e, un.e pote, un.e prof, etc.), les assistances de vie... les IA remplacent la richesse, la complexité et la (possible) difficulté des relations humaines par des interactions avec des machines, avec formules sur mesure, à la carte, sans danger, safe, reconfigurables.
Ca paraît pauvre et conformiste, mais on y sera accroc comme on l’est déjà aux échanges via applis.
L’IA favorise l’individualisme halluciné, la séparation et la solitude, les refuges cocon, l’acceptation des confinements et couvre feu (décrétés en cas de pandémie, pénurie, insurrection, canicule sévère...), la quête prométhéenne de puissance et d’immortalité, etc.
Le réseau « social » et les logiciels cybernétiques autonomes remplacent la relation humaine et la politique non représentée.
Une société de masse ordonnée à la production et à l’obéissance passive a besoin d’une gestion efficace à grande échelle bde ses sujets. Les flics et l’armée font moins recettes que les outils numériques et leur gestion cybernétique cool des corps et des esprits. Et puis c’est moins cher, plus efficace, plus lucratif. 60 millions d’IA "assistante de vie" c’est moins cher que de mettre un flic derrière chacun.e.
Le technocapitalisme moderne ne peut que fabriquer des êtres qui lui ressemblent, des humains-machines, des cyborgs, des transhumanistes.
Dans une société technocapitaliste avancée telle que la nôtre, les humains ne peuvent que désirer devenir des cyborgs pour être performants, adaptés, compétitifs.
En effet cette société « termitière » ultra-libérale détruit et dévalorise l’humain, demande toujours plus de vitesse et de performance, de calcul froid et impitoyable pour survivre, alors c’est la course à celui-celle qui sera le-la plus équipé.e, le-la plus robotisé.e. Les appareillages externes type smartphone ne sont qu’une étape.
Nul besoin d’une dictature Terminator pour que règnent les Machines ! ...car beaucoup de personnes civilisées désirent devenir "machiniques" pour éviter l’angoisse de la liberté et de l’existence. Ne plus penser, ne plus se poser de questions, quel confort - L’IA et ses robots pourvoiront à tout, laissez vous porter, aillez confiance. Les métavers et les logiciels "intelligents" feront office de Soma (Le meilleur des mondes) et de Big Brother.
voir la nouvelle d’anticipation édifiante LA MACHINE S’ARRÊTE, écrite en 1909 par E.M. Forster.
L’IA fait franchir de nouveaux caps au techno-monde. A terme, les humains civilisés ne seront (souvent, sont déjà) plus capables de vivre sans les béquilles techno-numérique, de penser l’autonomie, de savoir cultiver leur subsistance, de coopérer avec leurs semblables, et donc seront/sont totalement dépendant à la mégamachine et à ses produits industriels.
Et si les désastres climatiques et écologiques produits par la civilisation indutrielle font (quasi) disparaître les sols vivant, l’eau potable "naturelle", l’air respirable, il ne restera que la dépendance aux machines pour survivre, un peu comme dans une capsule spatiale. La mégamachine transforme une planète fertile en zone hostile et morte, elle "marsoforme" la Terre tout en fantasmant de "terraformer" Mars !
Voir l’article "La mégamachine tue implacablement nature, corps humain et « corps social » en leur appliquant sa logique mécanique et cybernétique", extraits :
Le « corps social » est une « machine » atomisée en individus isolés les uns des autres, restructurée par le Léviathan « intelligent » et livrée aux automatismes abstraits de la bureaucratie et du marché prétendument autorégulateur.
En détrônant l’humain et en intronisant la technoscience, ces processus convergent pour faire des habitants des territoires industrialisés les rouages impuissants de la puissance de masse qu’ils produisent et qui leur devient étrangère, les domine et finalement les voue à la dissolution complète.
(...) Un être humain, n’ayant rien d’autre à percevoir que ce qu’il a fabriqué, ne peut que dépérir. Car qui pourrait – et qui voudrait réellement – vivre continuellement comme un astronaute mâle dans le monde hermétique d’un vaisseau spatial ?
Quelques réflexions plus large dans cet article, extraits :
Au final, les humains ne « vaudraient » pas plus qu’un peta octet de cloud, un paquet de données évanescent, un robot ou un programme, ils ne seraient plus qu’un des éléments parmi d’autres d’un grand machin cybernétique. Comme les robots et les ordinateurs, les humains et les autres vivants généreraient du code (des big data) et seraient gérés par du code.
(...)
Au delà des mondes virtuels en 3D où on « s’immerge » temporairement, il s’agit de virtualiser la réalité, de l’uploader dans les serveurs, ou, plus exactement de « l’optimiser » via le « big data », les algorythmes et les logiciels dits intelligents.
Les humains sont alors sommés de s’adapter à ce cocon cybernétique en devenant des cyborgs.
Seules des machines peuvent parler aux machines. On se parle(ra) entre machines via des machines communiquantes.
(...)
Il ne s’agit plus seulement de détruire les mondes naturels pour remplacer des services gratuits vivants, communs et libres par des biens industriels payants et morts soumis aux brevets des multinationales, mais de soumettre et conformer les mondes naturels aux rythmes, aux désirs et aux intérêts des machines, de la mégamachine cybernétique, du numérique et de sa logique désincarné, le tout bénéficiant aux profits et aux délires de puissance des déjà hors sol riches servants du monde cyborg.
(...)
Qui pourra encore couper le cordon de la machine quand le monde cybernétique aura l’intégralité de nos vies en main de silicium via ses codes et ses chaines de distribution Amazon robotisées ?
(...)
Pour les êtres cyborgs que nous seront peut-être devenus, que nous sommes déjà en partie, il n’y aura plus de pillules bleue ou rouge à choisir comme dans le film Matrix. Un être cyborg ne choisit pas, n’a pas de liberté ni de conscience, il obéit au code, il suit le signal, il réagit aux stimulis machiniques, il exécute le programme sans rechigner, il fait « corps » avec la machine, il est une partie (négligeable) de la matrice.
(...)Ainsi, dans le monde cyborg, le rêve de certains sera réalisé complètement : être délivré du poids de vivre, du poids de la conscience, du poids de la liberté et de la condition humaine, de l’angoisse de la mort et des mystères insondables de l’univers.
(...)
Dans le monde cyborg, il ne pourra pas y avoir de putsch des machines contre l’humanité comme dans Terminator, car les machines auront tout envahi, car nous seront devenus des sortes de machines, nous seront immergés en elles. Les machines seront notre eau, notre air, notre sang, notre source de « vie » et de « nourritures ».
L’IA, et le monde qu’elle induit, est donc anti-sociale, elle détruit la personne tout autant que la vie sociale collective.
Militarisme et technopolice
La recherche techno-scientifique sert très souvent en premier lieu l’industrie militaire. C’est le cas aussi pour l’IA et les robots autonomes.
On parle dorénavant de technopolice pour le "maintien de l’ordre" à base de numérique, de systèmes cybernétiques et de robots.
Dans cet article de nombreux exemples terrifiants d’usages en cours ou à venir.
Cette techno-société policière s’équipe fatalement d’outils de surveillance de masse automatisés, de robots tueurs et de flics cyborgs.
Comme les machines des chaînes de production, les humains doivent être étiquetables et transparents H24.
La technopolice n’est pas une simple accumulation de machines autonomes, d’algorithmes intrusifs et de flics « augmentés », la technopolice c’est un « nouveau » modèle social, c’est la continuation du techno-monde étatiste et capitaliste avec de nouveaux outils de flicages, de contrôle, de répression et de surveillance totale.
La technopolice ce n’est pas seulement les outils des flics assermentés, mais c’est l’ensemble des dispositifs de surveillance, de coercition et de contrôle déployés dans les administrations et les entreprises.
Drones, robots équipés d’armes, de flash ball, de grenades lacrymos, avec caméras et hauts parleurs, police prédictive, logiciels de (vidéo)surveillance automatisée, reconnaissance faciale, détecteurs de mouvements suspects, fichage, désignation de cibles à contrôler dans les administrations..., la technopolice s’étend partout.
Lors des confinements de la pandémie Covid 19, des robots de surveillance plus ou moins autonomes ont été expérimentés à plusieurs endroits.
Des drones autonomes tueurs ont déjà été utilisés en Libye apparemment.
Concurrence oblige, une fois que certains pays auront déployé des robots autonomes tueurs, les autres, malgré leurs comités d’éthique (qui servent surtout de paravents), feront de même, que ce soit pour l’armée ou la police. La concurrence oblige, que ce soit pour la guerre militaire ou la guerre économique.
L’IA est utilisée massivement par l’armée d’Israël pour alimenter son génocide avec des cibles générées industriellement pour ses bombes ("une massification 2.0 des meurtres de civils"). Les humains ne pouvaient pas désigner suffisamment de cibles rapidement, l’IA a fait le boulot, suffit de cliquer.
Le flic obéissant est le modèle brouillon et imparfait du robot-IA. Un flic humain ça peut se fatiguer, hésiter, ne pas être assez zélé, voir risquer un jour de désobéir. Un robot flic autonome non, il restera fidèle et efficace quoiqu’il arrive.
L’idéologie libérale (qui est une sorte de philosophie politique qui va avec l’économie capitaliste) promettait en guise de susucre le respect absolu de la sphère privée. L’inflation des moyens de contrôle et de surveillance en tous genres propres à la société de masse ont détruit cette promesse. Tous suspects, tous fichés, tous surveillés. L’Etat et le capitalisme veulent passer tout le monde, non stop, à la moulinette automatisée du big data et des algorithmes alimentés par de multiples capteurs dans l’espace publique et par les données privées récoltées H24 par les outils numériques connectés.
La technopolice ce n’est pas demain.
Si on laisse se continuer l’Etat, la société de masse productiviste et le capitalisme, les dystopies de cinéma type Minority Report ou Black Mirror seront de l’eau de rose.
En prévision des crises multiples et croissantes à venir, catalyseurs de révoltes, les Etats et le techno-capitalisme affutent leurs armes pour nous surveiller et nous mater par la force armée. Ils savent que leur propagande distillée par l’école, leurs médias, leurs penseurs et les politiciens ne suffira pas toujours.
Alors la technopolice permettra d’affiner les surveillances et mises à l’écart préventives, et de mieux cibler la répression, qui pourraient être en même temps de masse et chirurgicale.
Une surveillance algorithmique, des capteurs automatiques pour la foule, des cibles prioritaires sélectionnées, une répression finement calibrée pour éradiquer dans l’oeuf les foyers de rebellion sans faire trop de dommages collatéraux, le tout assisté par des logiciels de prédiction et d’enquête. Les drones et autres robots permettront de démultiplier les forces de frappe et de surveillance sans impliquer trop de flics humains (coûteux et fragiles). C’est une industrialisation 2.0 du contrôle et de la répression.
L’IA favorise la surveillance et la répression de l’Etat-capitalisme, avec de nombreux outils rendant le « maintien de l’Ordre » à la fois massif et ciblé. Les IA permettent aussi d’étendre/renforcer le système policier à toutes les sphères de l’administration étatique : école, services publics, transports, distribution d’énergie...
Avec l’IA, le totalitarisme de la mégamachine peut s’exercer en plein, avec plus de discrétion et d’efficacité que les chars, les flics humains, les prisons, les petits chefs et les meurtres de masse.
L’impasse économique
Outre l’armée, les développements cybernétiques et l’IA servent prioritairement à l’économie de marché.
Le capitalisme n’a pas besoin que les employés et ouvriers prennent des initiatives et soient créatifs, l’IA, les cadres et ingénieurs suffisent. Les IA serviront à améliorer encore l’efficacité des moindres gestes productifs (Toyotisme) et à dicter des taches sur mesure aux salariés.
A défaut de pouvoir (pour l’intant) remplacer partout les humains par des robots, la robotisation de l’humain et de son travail seront optimisées.
Les IA peuvent aussi remplacer un nombre croissant de travaux intellectuels et culturels, surtout là où il s’agit de logiciels, de chiffres et de code.
Les machines IA sont plus adaptées et plus performantes que les lents humains pour le monde Machine du techno-productivisme.
Le management d’une économie des choses est logiquement plus efficace s’il est mené par une chose.
- Eric Sadin : Dans le champ du travail, on assiste à l’émergence de systèmes d’intelligence artificielle qui, au moyen de capteurs, interprètent les situations et édictent au personnel des actions à entreprendre.
C’est le cas dans les entrepôts d’Amazon, où les manutentionnaires sont tenus d’obéir à des ordres donnés par des systèmes automatisés, suivant les cadences les plus extrêmes. Ils ont un temps défini pour se rendre dans une zone précise et rapporter tel objet. Ces procédés privent les individus de leur subjectivité, de leur liberté d’initiative et de leur spontanéité. - Ici un article sur le Contrôle permanent des chômeurs et de l’exécution des taches des travailleurs.
La concurrence inhérente au capitalisme (qui perdure malgré les régulations destinées à réduire un certain nombre de ses dégâts socio-économiques) oblige à baisser les prix pour vendre. Et alors il faut augmenter la productivité pour augmenter ou maintenir le taux de profit nécessaire à la reproduction du Capital et à l’investissement dans les innovations.
Vendre plus de produits moins chers génère la même somme d’argent que vendre moins de produits plus chers, à condition d’augmenter la productivité à moindre coût.
Quand piller/détruire la Terre et exploiter les travailleurs ne suffit pas, il faut des innovations technologiques (lesquelles permettent aussi parfois de lancer de nouveaux marchés lucratifs).
L’IA est une innovation pouvant « booster » la productivité. Elle coûterait moins cher que des employés et stimule la performance indispensable dans la compétition mondialisée.
Plusieurs observateurs affirment que bien davantage d’emplois seront détruits que créés avec la cybernétique moderne. Ce qui pose à terme de gros problèmes au modèle capitaliste. Qui va pouvoir encore acheter les produits industriels si le chômage augmente partout ? La course à la cybernétique (les innovations) ne finira-elle pas par coûter plus cher que la force de travail humaine remplacée qu’on sait depuis longtemps reproduire à bas coût ? Les énergies et matériaux néccessaires au fonctionnement des machines cybernétiques compétitives ne vont-ils par finir par manquer, par coûter trop cher par rapport aux salariés, ou par générer des catastrophes climato-écologiques telles que le business deviendra impossible ou trop cher ?
Au delà de la voracité caricaturale de certains requins du capital, la Croissance infinie, la concurrence et la course à l’innovation technologique inhérentes au capitalisme (appelé parfois « économie réelle » par certains alter-capitalistes réformistes) semblent se heurter à plusieurs murs... C’est l’impasse, mais partout élus et entreprises se jettent dans l’IA à coup de milliards et vouent un culte aux innovations et à la compétitivité. La civilisation industrielle ne peut pas fonctionner autrement et ils ne veulent pas du tout l’abandonner (surtout ceux qui sont au sommet des hiérarchies). Mais n’oublions pas que l’humanité a déjà vécu longtemps, et qu’elle peut vivre à l’avenir, SANS la civilisation industrielle.
Pire que le Plan et du Marché - Remplacement de l’enfumage pseudo-démocratique
Rappel : la démocratie réelle est imcompatible avec une société de masse, un système techno-industriel, un Etat et le capitalisme.
La démocratie ne peut être qu’à petite échelle, directe, avec le moins de délégations possibles, avec une forme d’égalité sociale limitant fortement les intérêts et une sécurité matérielle toutes deux incompatibles avec la guerre de tous contre tous de l’économie de marché.
C’est alors la singularité des êtres et la pluralité humaine qui se voient peu à peu neutralisées par des modes d’organisation automatisés chassant le conflit, la délibération et la concertation. Autant de principes qui conditionnent la vie politique et démocratique. (Eric Sadin )
La cybernétique et l’IA éloignent encore plus les humains les uns des autres et d’avec la nature.
Pire, l’IA tend déjà à remplacer de nombreuses décisions humaines, que ce soit dans les tris administratifs, les robots tueurs ou le choix de cibles à bombarder.
Dans le futur, l’IA pourrait même multiplier les décisions politiques à la place du personnel politique, rendu obsolète par l’adhésion à la mégamachine, qui nécessite des décisions rapides et « techniques », appuyées sur le brassage de montagnes de données, bien loin des débats humains et des considérations éthiques/philosophiques.
Le techno-monde productiviste, tout comme la guerre moderne, a besoin de décisions politiques rapides prises par des IA efficaces, loin des opinions indivuelles, des tergiversations et des intérêts, des corruptions et des appétits pour le pouvoir.
C’est un peu comme le trading haute fréquence automatisé, les humains sont trop lents et ne peuvent pas ingurgiter autant de données pour en tirer des conclusions statistiques efficaces.
L’IA sera présentée comme neutre et garante du bien commun, à même de prendre les meilleures décisions possibles. Les élections, débats de partis et campagnes électorales seront considérés comme des « pertes de temps » et des conflits stériles.
L’IA fera des sondages d’opinion régulièrement, même pas, le big data alimenté d’innombrables capteurs lui fournira non stop des données pertinentes sur les opinions des populations à gérer.
L’actuelle pseudo-démocratie est rejetée et jugée obsolète déjà par certains politiciens, qui lorgnent vers des régimes encore plus autoritaires.
Les puissants, au lieu de prendre et conserver le pouvoir par la force et la ruse, n’auront qu’à fabriquer des IA conformes et à vanter leur mérite pour faire tourner au mieux la mégamachine.
Les bourgeois, technocrates et capitalistes n’auront plus besoin du pouvoir politique, puisque la politique n’existera plus et sera remplacée par des décisions d’IA confortant leur mégamachine et donc leur position avantageuse dans les cycles de l’économie de marché. A part quelques sociopathes blablateurs, qui sont les tyrans à vouloir vraiment se farder la croix de la politique et de la conquête du pouvoir politique en faisant semblant d’être démocrate et à l’écoute ? Ils préféront laisser cette tâche ingrate et chronophage aux IA (fabriquées par leurs industries), tandis qu’ils pourront briller et se gaver dans le domaine économique, le seul qui vaille dans la société de la Valeur et du Travail.
Puisque la majorité des civilisés, chefs en tête, ont "décidé" qu’ils ne voulaient pas d’alternatives à la civilisation industrielle (TINA - Notre mode de vie n’est pas négociable - Volonté de se délivrer des réalités matérielles et politiques), la mégamachine et son idéologie pourront règner "éternellement" avec l’IA , et sans contestation possible.
Il y aura juste des querelles d’experts sur la pertinence des algorithmes, la qualité des données ingurgitées ou sur le degré de logiciels "opensource" dans l’IA.
Pire que le Plan (l’Etat et les technocrates) et le Marché (la concurrence et le règne de la Valeur, le développement de l’IA signe la mort par crémation de la démocratie et le règne sans partage du totalitarisme, mais une tyrannie totalitaire soft, gérée au mieux, pondérée par des variables d’ajustement, équilibrée, présentée comme juste car indépendante de l’Etat, du marché et des politiciens. Il pourrait même être organisé des referendums, des consultations.
Après l’enfumage des religions et du fait de naissance, les tyrans ont gardé le pouvoir en travestissant leurs oligarchies autoritaires en démocratie, et en maquillant leur Economie abstraite, irrationnelle et dévastatrice en simple système productif ("le travail c’est la vie").
L’IA pourrait devenir une nouvelle forme d’enfumage politique, où le pouvoir et le totalitarisme seraient dissimulées par une technologie présentée comme neutre et indépendante, une sorte de messie hightech, de sage au dessus de la mêlée et des limitations humaines, un mélange de savant et de pure esprit libéré des affects et des salissures de la chair.
Loin de ce "nouveau" totalitarisme au service de la mégamachine, la « perspective de la subsistance », les idées anarchistes, la quête d’autonomie et de libertés indiquent d’autres voies que les impasses du gouvernement par les machines, les données, les ingénieurs ou le libre marché.
Terminator sera peut-être un essaim autonome de nano-robots
Les développements meurtriers passés et présents de la civilisation industrielle sont largement assez flippants pour motiver une révolution radicale.
Mais de nouveaux champs de dévastation et de violences antisociales fleurissent toujours dans les cerveaux techno-scientifiques criminels ravagés par le pouvoir et la puissance.
L’IA permettra des accélérations dans les nanotechnologies et la biologie synthétique.
Plusieurs pays développent des nanoarmes. Ces dernières pourraient être utilisées pour lancer des attaques à l’aide de bombes nucléaires miniatures et de robots-insectes mortels (sans parler des virus recomposés).
Bien qu’elles relèvent encore aujourd’hui de la science-fiction, selon un expert les avancées des nanotechnologies dans les années à venir en feront une menace plus importante pour l’humanité que les armes nucléaires conventionnelles.
(...) la plus grande menace nanotechnologique vient cependant des nanorobots mortels autonomes, c’est-à-dire capables de se reproduire eux-mêmes, et qui, si ingénieurs et scientifiques en perdaient le contrôle, pourraient s’abattre par millions sur des foules tuant des gens au hasard
(...) « Si on le fait pas, les autres le feront » - « On doit rester à la pointe, ne pas se faire dépasser »
Dans le futur, des guerres automatisées menées par des machines low-cost miniatures autonomes et auto-répliquantes évoluant en essaims pilotés via IA ?
Terminator sera peut-être plutôt des essaims autonomes de nano-robots plutôt qu’un colosse d’acier trempé.
L’enfumage de la régulation
L’IA étant un système technologie indispensable à la poursuite de la mégamachine, les régulations ne seront que de l’enfumage.
On voit les GAFAM prétendre se méfier de leurs créations et proposer des comités d’éthique !
Comme pour tous les précédents produits de la civilisation industrielle, les comités de régulation serviront d’abord à temporiser et à favoriser l’acceptation de l’IA au fur et à mesure des applications possibles.
Il est facile, dans un premier temps, d’interdire un usage qui n’existe pas ou qui n’est pas au point. Mais après des essais contrôlés, des règles adaptées et des instances d’évaluation qui se tournent les pouces, le nouvel usage sera autorisé.
D’autant que si on ne le fait pas, un concurrent le fera, et lui sans règles, pour servir le mal, tandis que nous on sert forcément le bien.
L’Europe a d’ailleurs pondu un texte taillé sur mesure pour l’industrie de la tech, les polices européennes et autres grandes bureaucraties désireuses d’automatiser le contrôle social. Largement fondé sur l’auto-régulation, bardé de dérogations, il s’avère totalement incapable de faire obstacle aux dégâts sociaux, politiques et environnementaux liés à la prolifération de l’IA.
Un système fou qui vit de la démesure et de la volonté de puissance ne peut absolument pas s’auto-réguler.
L’IA est la quintessence du monde Machine
Cette fascination morbide pour l’être mécanique, sans affects et immortel montre l’envie de se fondre dans la machine pour s’épargner les complications de la vie ?
Se livrer à la Machine pour s’épargner les « peines » de l’existence (affres de la liberté, mort, souffrance...) ? C’est aussi supprimer ses joies, et en terminer avec la vie elle-même.
L’interdépendance systémique de l’Etat moderne, du capitalisme, de la techno-science et de l’industrie constitue une sorte d’automate géant et aveugle, une mégamachine surplombante dominant les humains, un techno-monstre anonyme et autonome, imposant sa propre volonté mécanique et ses besoins dévastateurs même aux dirigeants et puissants qui s’efforcent d’en tirer profits.
La civilisation industrielle a créé un monstre sans tête incontrôlable qui détruit inexorablement les mondes vivants pour les remplacer par un techno-monde mort fait par et pour les machines, un système totalitaire qui ne tolère aucune existence en dehors de lui.
C’est notamment La volonté de délivrance des réalités difficiles de la vie et de la politique qui mène aux tyrannies de la techno-industrie, de l’Etat et du Capital.
A présent, après la (pseudo) délivrance des activités de subsistance matérielle par les machines, le capitalisme et l’énergie (pour une partie des gens seulement, et avec des conséquences sur la biosphère terribles), après la délivrance des difficultés de la vie collective et de la politique par l’Etat et la caste des représentants/technocrates, les civilisés en arrivent à la délivrance de la pensée et de la liberté par l’avènement des rationnalités cybernétiques (IA) et des algorythmes adossés au Big Data. Les logiciels pensent pour nous et orientent nos « choix », quand ils ne prennent pas directement les décisions.
En voulant se délivrer des difficultés inhérentes à la vie, on en arrive à se « délivrer » de la vie elle-même, à se transformer en ectoplasme vide, en zombie, en pseudo-machine, qui erre abrutie entre l’infinité des « choix » distrayants fournis industriellement par les machines et les logiciels connectés, qui jouit mécaniquement d’une marchandise à une autre
Le civilisé devient ainsi une marchandise morte qui s’échange et est gérée tout comme les autres marchandises mortes dans les flux tendus de la logistique techno-capitaliste, mortes mais agitées de multiples soubressauts stimulés électroniquement, un peu comme une grenouille décérébrée.
Les intelligences humaines, animales et végétales ancestrales sont éradiquées, mais, joie, des IA « propres » et « vertes » pourront dicter la voix/voie unique de la civilisation industrielle sous des airs scientifiques et neutres. Ainsi les puissants pourront dire : « ce n’est pas moi pauvre humain limité et subjectif qui ordonne, c’est l’incontestable « intelligence » suprême, supérieure et incontestable de l’lA ». Encore plus imparable et totalitaire que les règles et impératifs du Marché, de l’Etat et de la Croissance !
C’est donc du « fantasme de la délivrance » qu’il nous faut nous délivrer (Aurélien Berlan - Terre et liberté). Ainsi, il sera possible de vivre, en se libérant de la mégamachine qui va avec ce fantasme, et de vivre plutôt bien si on évacue les systèmes de dominations et les carcans hiérarchiques, si on fait vivre une autonomie de subsistance et une vie politique intense.
S’opposer au monde de l’IA
L’IA et son monde est bien plus néfaste, destructrice et terrifiante que ce qu’on peut imaginer. Elle augmentera et consolidera les désastres dans les domaines climatiques, écologiques, économiques, démocratiques, sociétaux... Pour la biosphère et les êtres vivants, les problèmes en tout genre seront infiniment plus importants que les éventuels avantages. Et les éventuelles avancées « positives » (médicales, scientifiques...) ne seront que des corrections partielles des dégâts immenses commis par la mégamachine.
L’IA favorisera un totalitarisme impersonnel et cybernétique plus absolu et plus puissant que les modèles de tyrannie précédents, avec une dépendance accrue au système techno-industriel, une dépossession décuplée, une administration précise et à grande échelle des esprits et des corps.
Les raisons de s’opposer à l’IA sont donc nombreuses, puissantes, vitales, cruciales.
Mais l’IA, pour ses capacités inégalées de gestion et d’accroissement de productivité, est structurellement indispensable à la poursuite de la civilisation industrielle, comme auparavant le pétrole, les voitures, le chemin de fer, la 5G, l’ordinateur...
C’est pourquoi les puissants se risquent à y placer des centaines de milliards malgré les risques de bulles, de faibles retour sur investissements et de déconvenues.
Les puissants et leurs valets feront tout pour imposer l’IA, la faire aimer, la rendre indispensable : persuasion, mensonges, guerre culturelle, fausses promesses, besoins créés, répression...
Ils n’accepteront jamais d’y renoncer et pour enfumer ils mettront en avant éventuellement des instances de régulations et autres comités d’éthique qui ne servent qu’à fabriquer le consentement et à adapter la législation aux fur et à mesure des besoins des avancées cybernétiques.
Donc vouloir stopper l’IA équivaut à vouloir démanteler la mégamachine elle-même.
A l’intérieur du cadre de la civilisation industrielle, l’expension mortifère de l’IA ne peut pas être stoppée. Au mieux, il est peut-être possible de la ralentir temporairement à certains endroits.
Le dilemme tragique est : renoncer à la vie humaine ou détruire la mégamachine alien qui la ronge partout ?
Pour pouvoir démolir la mégamachine et ainsi ouvrir la voie à des sociétés vivables/soutenables, il faut commencer par ne plus adhérer aux idéologies et présupposés de la civilisation industrielle, à remettre en cause ce qui est partout présenté (de l’école aux médias mainstream, en passant par la plupart des courants politiques) comme inévitable, désirable, rationnel, naturel, raisonnable, conforme, juste, non négociable, incontournable.
Mort à l’IA, mort à la mégamachine - pour la vie et une émancipation collective qui assume les réalités terrestres et politiques.
Antitech 26