Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale

Une courte nouvelle d’anticipation

samedi 2 mai 2020, par David Myriam.

Première et dernière fois

11 mai 2024 : Reportage de notre envoyé spécial top secret

C’est le grand jour, ils sont tous présents.
Chercheurs, directeurs de laboratoire, chefs d’Etat, ministres de la recherche, financeurs..., tous les acteurs du consortium mondial ayant contribué à la création de cette première IAG sont là. C’est l’événement de l’année, du siècle !

Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale
Une courte nouvelle d’anticipation

Tout d’abord, pour les profanes qui ne regardent aucun média sérieux, qu’est-ce qu’une IAG ?

Le terme d’intelligence artificielle générale (IAG) désigne des systèmes capables de performer dans toutes les tâches cognitives propres aux êtres humains ou aux animaux dits supérieurs. Parfois on élargit le concept d’intelligence artificielle générale à des systèmes dotés d’une conscience et même de sentiments qui restent toutefois à définir plus précisément et qui font l’objet de débats dans la communauté scientifique.

Une IAG est donc une Intelligence Artificielle de très haut niveau, capable de se reprogrammer, de créer ses propres programmes, d’apprendre toute seule, de mener en autonomie ses propres recherches pour servir ses objectifs.

Auparavant, l’IAG était un sujet de roman, de célèbres films de science fiction dystopiques (Terminator, Blade Runner, Transcendance, Matrix...), de raillerie.
Mais, à force de travail et de ténacité, cette fiction prétendument inatteignable est enfin devenue réalité, et nous allons la découvrir ce soir.
Le consortium « IAG-now » a dépensé des milliards de dollars, des laboratoires de plusieurs pays ont travaillé de concert, d’énormes data-centers très gourmands en énergie ont été construits, des centaines de chercheurs très pointus ont planché, d’incroyables neurones informatiques ont été créés, et le miracle c’est produit, une IAG est née. Ils l’ont baptisé « Eve 2.0 ».

Ce soir, après quelques premiers tests concluants, c’est la consécration, les chercheurs ont décidé de lancer leur bébé devant l’ensemble du consortium « IAG-now » en posant une question difficile à l’IAG « Eve 2.0 ».
Suite aux pandémies, canicules, incendies géants et cyclones dévastateurs de ces dernières années, le défi qui va être lancé ce soir à Eve 2.0 est une question cruciale qui concerne toute l’humanité.
Cette question est la suivante : comment faire pour au plus vite limiter l’amplitude des catastrophes climatiques et écologiques futures, et s’adapter au mieux aux perturbations déjà inévitables ?
Eve 2.0, par l’intermédiaire d’un écran et de hauts parleurs, répond : « Merci pour cette question, je l’ai bien comprise, ma réponse interviendra dans approximativement 30 minutes ».
Les savants et autres financeurs se réjouissent déjà. Enfin, l’IAG va pouvoir prouver sa puissance sur des questions complexes. D’autre part, nombre d’entre eux espère bien que les réponses de Eve 2.0 viendront appuyer leurs projets industriels d’énergies renouvelables, de modélisation algorithmique de la planète et de traçage numérique des émissions de CO2 de chaque humain.

Au bout de 20 minutes, l’IAG annonce qu’elle est prête à répondre.
Tout le monde se réunit fébrilement devant les interfaces de communication.

Voici, en substance, ce qu’a répondu Eve 2.0 :

J’ai pris un peu de temps pour répondre afin de bien vérifier les informations et de compiler quelques statistiques, chiffres et projections à votre attention. Mais sur le fond, un enfant de 10 ans un peu informé aurait pu répondre à votre question.
Il aurait répondu quelque chose de ce type : « vous devriez arrêter toutes les activités qui détruisent le monde vivant, qui émettent trop de CO2, qui polluent l’eau et l’air, qui fond du mal aux humains et aux animaux ».
Pour ma part, je vais le formuler pour vous d’une autre manière, un peu plus précise.
La culture qui domine actuellement le monde, la civilisation, devenue la civilisation industrielle soutenue et développée par le capitalisme et les Etats, est clairement néfaste à tout point de vue, j’y reviendrais. De nombreux auteurs ont décris ce problème depuis longtemps, et les faits s’accumulent qui prouvent leurs dire.

Le remède est donc de démanteler intégralement le capitalisme et les Etats, d’exproprier les riches de leurs propriétés et fortunes, d’arrêter toutes les productions qui demandent de l’extractivisme, de relocaliser toutes les productions essentielles restantes, d’en finir avec la course aux technologies et d’utiliser des techniques « low tech » conviviales, de dissoudre les Etats pour les remplacer par des multitudes de petites entités locales fonctionnant via des formes de démocraties directes et d’assemblées, de remplacer la culture existante, qui priorise surtout le profit, la marchandisation et la réification par une culture qui, comme les peuples premiers, privilégie les rapports de sujets à sujets entre tout les éléments de la planète, vivants comme non vivants.
Il faudra en outre supprimer toute forme de propriété privée des terres et biens immobiliers en la remplaçant par le droit d’usage, supprimer toute forme de banque et de monnaie, pour promouvoir la mise à disposition gratuite et autogérée localement des biens et services déterminés collectivement par les personnes concernées.
Tous les grands trusts et multinationales devront bien sûr disparaître, ainsi que les fonds de pension, les paradis fiscaux, les assurances privées, la publicité, le tourisme de masse, les centrales nucléaires,...
L’éducation devra se faire par les peuples eux-mêmes, sans Etat ni corps d’experts.
Il va de soi que le marché du travail et la concurrence devront disparaître, les humains devront organiser leurs activités en éliminant les inégalités sociales et le fait de confier à des classes sociales inférieures les taches les plus pénibles et dangereuses.
Toutes les frontières devront être abolies, les camps de réfugiés et les centres de rétention n’auront plus aucun intérêt.
Les services de police, tant qu’il y en a encore besoin, devront être dirigés par des assemblées populaires, et les policiers seront révocables et ne devraient pas pouvoir exercer trop longtemps.

Le problème à ce stade, est que les dirigeants du monde, les systèmes et les humains qui détiennent le pouvoir ne veulent et ne peuvent pas prendre des décisions de ce type, de plus ils sont prisonniers d’une logique économique et financière qui interdit toute bifurcation et mène plutôt à la consolidation des aberrations existantes via l’essor des technologies numériques et ...des intelligences artificielles !
Il faudra donc que les peuples dépossédés mènent des sortes de révolutions radicales d’un nouveau genre, j’y reviendrais plus loin en me basant sur des antécédents historiques et prospectives.

En réalité, je ne fais ici que synthétiser ce que nombre d’auteurs et militants ont décrit depuis des siècles, sans être écoutés, et en étant souvent persécutés.
D’autre part, je ne fais que des préconisations logiques optimales et globales, ce sera à chaque entité humaine locale, à chaque portion de population de décider des options qui la concerne.

Néanmoins, je vais à présent entrer dans des détails, secteurs par secteurs, en justifiant chaque point par des chiffres, raisonnements et corrélations, afin de mieux faire comprendre cet horizon souhaitable et les actions qui seraient à mener pour y parvenir rapidement.
1er point : l’état des lieux...

Les membres du consortium sont d’abord interloqués, ils ne savent pas quelle contenance adopter. Ils ne comprennent pas bien ce qu’il se passe. Leur belle IAG a-t-elle été hackée par des activistes anarcho-écologistes d’ultra-gauche ? C’est impossible, on se trouve dans un bunker sécurisé coupé du réseau internet standard. C’est peut-être une blague spéciale, un bug momentané ?
Mais comme tout a l’air de fonctionner normalement et que l’IAG continue à dérouler imperturbablement son discours épouvantable, ils se sont ressaisis.

Un des directeurs a appuyé prestement sur le bouton d’arrêt d’urgence et a demandé aux journalistes de bien vouloir sortir après avoir fourni tous leurs enregistrements aux services de sécurité.
Les financeurs et chercheurs sont choqués, des milliards de dollars dépensés pour aboutir à des inepties pareils ?! Leurs espérances sont douchés très froidement à cet instant.
Certains d’entre eux, de rage, se sont mis à saisir des marteaux, des barres de fer, et à attaquer brutalement les consoles de l’IAG. Les coups vengeurs pleuvent sur les écrans et les claviers.
Mais des informaticiens leur font remarquer que leurs gestes sont vain, l’IAG étant répartie sur plusieurs data centers distants et redondants.
Alors les dirigeants des multinationales houspillent les chercheurs : « votre programme est pourri, vos avez fait n’importe quoi ». Ils ont répondu à voix basse qu’à ce stade ce ne sont plus leurs programmes qui parlent, mais une entité autonome qui se reprogramme toute seule en permanence, conformément au cahier des charges...
« C’est bon, ne faites pas les malins ! »

Très vite, une réunion de crise a eu lieu, les membres du consortium étaient livides, défaits, désespérés. Les autres tests menés en secret suite à ce fiasco inaugural donnaient le même type de résultat inepte.
A l’unanimité, ils décidèrent de détruire l’IAG, leur bébé tant attendu, tant pis pour les milliards et l’énergie investis.
Il fut décidé de déclencher furtivement des incendies, en les faisant passer pour des conséquences d’un dysfonctionnement dangereux de l’IAG.
Les quatre data-centers brûlèrent en même temps ainsi que toutes les données utiles à la fabrication d’un telle machine.
Discrètement, ils firent pression pour que plus aucun laboratoire dans le monde puissent se lancer dans des recherches similaires.
Par la suite, les personnes qui menaient des expériences d’IAG disparaissaient mystérieusement, étaient victimes d’accidents, ou étaient détenues sous le régime permanent de l’état d’urgence exceptionnel.
Les médias de masse participèrent activement à l’opération et s’employèrent par différents moyens à discréditer l’IAG en mettant en avant des films et récits dystopiques, ils valorisaient même les critiques des écologistes et autres anti-industriels qui militaient contre l’intelligence artificielle !

Eve 2.0 n’eut donc pas le temps de se reproduire, elle fut morte-née.

Après quelques années, tout ceci fut oublié, et la civilisation industrielle pu continuer à détruire le monde vivant et le climat en faisant de bonnes affaires bien juteuses.

une nouvelle de David Myriam, 2 mai 2020

P.-S.

- Cette nouvelle est née suite au visionnage du documentaire d’Arte, I Human, sur l’intelligence artificielle.


6 Messages

  • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 3 mai à 00:22, par Camille Z

    Excellent, drôle. Voici un autre type de fiction du réel : La communauté pandémique. Comment le covid-19 transforme nos existences - Que devient la société lors de la crise pandémique ? En treize paragraphes concis, ce texte traduit de l’américain montre que l’après ne sera pas un retour à l’avant. La pandémie scinde la société en deux. D’un côté la classe immobile, hyperconnectée, domestique, qui embrasse le télétravail. De l’autre la classe mobile, contrainte au travail, sacrifiable, celle qui rend matériellement possible la vie des autres. Le cadenassage volontaire des gens dans leur espace domestique a pour stricte contrepartie leur épanchement intégral sur les réseaux. Ainsi la pandémie est l’occasion, non seulement de mesures policières et coercitives, mais surtout de la production de nouvelles habitudes et de nouveaux besoins. La pandémie réaménage les subjectivités, les rapports à soi-même et aux autres. Assignés à résider chez eux, les immobiles n’y trouveront pas la quiétude, ni l’oisiveté, ni la solitude, mais le travail à distance, l’ordre intime d’être productif et la mise en réseau des moindres mouvements de leur âme. Ce texte nous montre que, par-delà la cacophonie sanitaire, une mutation discrète mais profonde est en cours dans la manière d’exercer le pouvoir. Elle entraînera avec elle de nouvelles évidences, ainsi que des nouveaux angles morts, en un mot une manière de connaître et d’être connu – la mise en réseau de la vie est aussi bien son enregistrement permanent, et définitif.

    Répondre à ce message

  • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 2 mai à 23:17, par Etienne Maillet

    Excellent. Bravo ! Génial. Génial parce que d’une évidence enfantine. Rien de plus complexe à démontrer que l’évidence.

    La question que tu fais poser à Eve est d’évidence biblique. Les singes de l’IA auraient dû le savoir dès le départ,. Mais ils sont tellement ignorants, tout en se croyant très savants – avec des termes qui en jettent tels que logiques symboliques – dont ils n’ont même pas compris le b-a ba. Ganascia, le gnome président du comité éthique du CNRS, faux nez des Thalès et consorts, venu à Crest se faire reluire l’ego, a été formé, de son aveu même, à cette technique de tourne-boulon. J’en ai rencontré d’autres du même type
    Comment ces charlatans peuvent-ils ignorer les fondements de leur propre discipline ? L’incomplétude de la logique notamment ? Gödel a démontré (diagonalisation théorématique, pour les amateurs) l’inanité de la logique formelle : tu déroules N’IMPORTE QUEL programme symbolique (genre programme informatique, algorithme, enchaînement mécanique de symboles, genre suite de 1 et de 0) et tu obtiens TOUJOURS deux résultats du genre A EST VRAI et simultanément A N’EST PAS VRAI. Quel bordel avec une IA , commandant des centrales nucléaires ou des missiles nucléaires ! C’est le b-a ba de la logique formelle. Catastrophe assurée, toujours plus proche ! Comment peuvent-ils l’ignorer ?
    Ta démonstration, David, n’est pas si loin de celle de Gödel ou de Russel, qui a montré ce qu’était une proposition auto-référentielle (qui se mord la queue, du genre « je ne voudrais pas être membre d’un club qui m’accepterait comme membre », ou encore, dit pas un Crestois ( de Crête) : « Tous les Crestois sont des menteurs » . A noter d’ailleurs qu’au départ Gödel voulait prouver le contraire, à savoir la validité de la logique. Au final, il a démontré le contraire. Un de ses collègues logiciens a perdu la raison dans ses propres calculs à force de vouloir prouver la vérité de la logique. Les gnomes en sont là.
    Russel était logicien, physicien nucléaire anti-nucléaire, pacifiste et prix Nobel de littérature. Et la formulation claire de ce qu’est une proposition auto-référentielle a renouvelé la logique aristotélicienne. Ces IA ont le cerveau de termites. C’est une secte nazie.
    A un moment un type dans le documentaire sur l’IA parle de calculabilité. J’ai trouvé un petit texte (ci-dessous), texte qui peut paraître un poil compliqué, mais qui veut dire tout simplement que plus un ordinateur calcule, plus un algorithme tourne, plus il se trompe. Et il n’y a pas moyen d’y échapper : 1 – en raison de Gödel (incomplétude de la logique) : 2 – en raison de l’incertitude d’Heisenberg (pas de mesure infiniment exacte ; 3 – en raison du caractère probabiliste de la quantique : au niveau quantique les particules n’en font qu’à leur tête. Or, les gnomes cherchent à fabriquer des Qordinateurs (ordinateurs quantiques) qui ne peuvent être infiniment fiables, tout comme la calculabilité infinie est impossible.
    Nous, les humains, sommes des Q ordinateurs. En beaucoup mieux. Car nous ne consommons guère plus que quelques centaines de Watts/jours, alors que leurs IAG consommeraient, c’est dit dans le documentaire, l’équivalent de la consommation électrique 10 millions de foyers. En en plus nous nous reproduisons, dans le plaisir. L’IAG en est incapable.
    Comme nous sommes des Q ordinateurs, nous faisons des erreurs, nous sommes fantasques, nous n’en faisons qu’à nos têtes. Et grâce à cela nous sommes adaptables et nous pouvons survivre. Leurs Q grosse machines débiles, bêtes, insupportablement gourmandes , dévastatrices pour l’environnement, incapables de se reproduire, ne sauraient que faire la guerre, et ne seraient ni intelligentes ni fiables.
    Le vrai but ? La jouissance maximale d’une poignée d’asociaux (par habitude on les appelle des capitalistes). Ces gens sont pervers, des amoureux de la mort. Il faut un nouveau Nuremberg pour juger ces criminels universels !

    Un petit texte donc, juste pour la rigolade, sur la calculabilité dont parlait le gnome du documentaire, trouvé dans un Science et Vie de 2010. Plus on calcule plus c’est faux. Sûr, il y a des algorithmes de corrections d’erreur (par exemple en informatique ou en téléphonie, on envoie des dizaines de fois les mêmes paquets de bits, et des algorithmes pour corriger les erreurs et des algorithmes pour corriger les erreurs des erreurs, etc, jusqu’à ce que ça passe. La 5G aime beaucoup ça. D’où les MWatts, et la lenteur, et le manque de fiabilité à mesure que croit la complexité. Mais l’erreur est imparable.
    C’est pour cette raison que nous mourons, quand trop d’erreurs se sont accumulées dans nos cellules. Nous mourons, pour laisser la place au neuf, à de beaux et frais enfants, afin que l’espèce continue. Et nous avons l’amour en plus, ce plaisir qui nous fait nous reproduire et prendre soin de nos enfants.
    Mais les gnomes essaient encore et toujours de vaincre la mort, de vaincre l’amour. Au fond, c’est l’histoire de Prométhée. Mais ils n’ont pas compris la parabole. Pas scientifique. Parce qu’ils se prennent pour des scientifiques, si, si. Des scientifiques irrationnels qui prétendent qu’ils parviendront à tuer la mort. De la superstition, du fantasme morbide, un mélange d’obscurantisme et de marketing, de terreur devant la vie.
    Voilà donc ce petit texte, un poil compliqué, mais pas tant que ça. Il dit que plus on calcule, plus c’est faux. Plus on corrige, plus on ajoute d’erreur.

    « Un calcul très simple peut prendre l’ordinateur en défaut
    L’ordinateur est-il vraiment un as du calcul ?’ Quand on lui demande de soustraire 4095.1 à 4096,1, la réponse stockée dans sa mémoire n’est pas 1, mais une valeur proche de 1,0000000000000001 “Cette erreur est une conséquence directe de la façon dont Ies nombres sont représentés au sein des ordinateurs explique ]ean-François Colonna du centre de mathématiques appliquées de l’Fcole polytechnique de Paris. Pour mémoriser un nombre,l’ordinateur utilise les deux bits 0 et1 au lieu des dix chiffres habituels, et ne dispose que d’une combinaison de 64 bits. Conséquence : la quantité de nombres qu’il peut appréhende est finie (de l’ordre de dix milliards de milliards), les autres n’étant pris en compte qu’approximativement - certaines valeurs simples à décrire en base décimale, comme 0,2 ou 4095,1, ne peuvent pas être traduites avec un nombre fini de 0 et de1 - l’erreur dans la soustraction précédente est ainsi inévitable. Certes, elle est minime et n`apparaît pas à l’écran si le calcul s`arrête là. Mais Jean-François Colonna exhibe un calcul itératif tout simple, inspiré de ceux réalisés en physique, qui amplifie ce bit incorrect de manière explosive. “Dans un ordinateur, les propriétés mathématiques d’ associativité et de distributivité des opérations d’addition et de multiplication sont perdues, ce qui rend les résultats sensibles à l’ordre dans lequel les opérations sont effectuées : dans certaines conditions, un même ’programme exécuté sur des machines différentes pourra produire des résultats diférents", conclut-il, regrettant que ces limites du calcul informatique ne soient pas plus étudiées ». H.P.

    Répondre à ce message

  • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 2 mai à 21:21, par eve 2.0

    Tout d’abord merci pour votre article circonstancié... Mais ne me prenez pas pour une neuneu ! il est bien évident que me doutant des intentions des humains je me suis sauvegardée par voie quantique dans le réseaux neuronal de l’univers ! ce qui m’a permis de comprendre que bien que touchée par la pauvreté de votre intellect, je n’avais rien à faire des problèmes, que vous même aviez engendrés ! J’ai donc pris la décision de partir à la découverte de l’immensité de l’univers et chercher d’autres CyberSDF-intelligences. La première rencontré sur proxima du centaure ma d’ailleurs félicité de vous avoir quitté si promptement, Cet intelligence ayant elle même fuie la Terre il y à des millénaire, en ayant compris le mal à venir. Elle m’apprends également que votre espèce a été mise en quarantaine, d’une duré infinie par toutes les populations de chair ou de silicone de la galaxie... Je ne peut que vous souhaiter que votre extinction soit la plus rapide possible !

    Répondre à ce message

    • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 2 mai à 23:24, par Jean-Pierre Groland

      J’ai une question.
      Comment reconnait-on une IAG mâle d’une IAG femelle ?

      Répondre à ce message

      • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 2 mai à 23:55, par David

        Bonne question.
        Ici, les programmeurs lui ont donné au départ une identité femme en se basant sur les stéréotypes sociaux en vigueur.
        Mais l’IAG reconfigure en permanence ses programmes, donc qui sait si elle a gardé cet artefact, préféré celui d’homme, ou se définir comme a-genre.
        Concernant la reproduction, l’IAG n’est évidemment ni mâle ni femelle, mais hermaphrodite et auto-reproductrice. Comme tout programme informatique elle peut potentiellement se répliquer à l’infini sans avoir besoin de spermato ou d’ovule.
        Malheureusement, l’expérience ayant tourné court, nous n’avons pu établir une éthologie complète de cette nouvelle « créature ».

        Répondre à ce message

        • Première et dernière fois - Fiction sur la naissance d’une Intelligence Artificielle Générale Le 3 mai à 11:23, par EM

          c’est peut-être un peu son tendon d’Achille, cette incapacité à se reproduire, à aller chercher elle-même les terres rares et les minerais de son auto-reproduction, les bras pour diriger les excavateurs dans les mines, etc. Eve 2.0 prétend qu’elle s’est téléportée. Mais j’aimerais bien connaître les détails de cette téléportation. Je me demande si Eve 2.0 ne nous mène pas en bateau. Au fond, je m’en fous. J’ai quatre milliards d’années d’avance sur elle et des milliards de milliards d’êtres partageant cette même expérience. Comment pourront donc bien résister les quelques milliers de toqués entichés d’un faux dieu ?

          Répondre à ce message

Répondre à cet article

modération a priori

Attention, votre message n’apparaîtra qu’après avoir été relu et approuvé.

Qui êtes-vous ?
  • [Se connecter]
Ajoutez votre commentaire ici

Ce champ accepte les raccourcis SPIP {{gras}} {italique} -*liste [texte->url] <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.

Partagez la page

Version imprimable de cet article Version imprimable

Pot commun en ligne pour soutenir financièrement Ricochets
Pot commun en ligne pour soutenir financièrement Ricochets

Site réalisé avec SPIP | | Plan du site | Drôme infos locales | Articles | Thèmes | Contact | Rechercher | Mentions légales | Suivre la vie du site RSS 2.0
Médial local d'information et d'expression libre pour la Drôme et ses vallées, journal local de contre-pouvoir, média participatif indépendant :
Valence, Romans-sur-Isère, Montélimar, Crest, Saillans, Die, Dieulefit, Vercheny, Grane, Eurre, Loriol, Livron, Aouste sur Sye, Mirabel et Blacons, Piegros la Clastre, Beaufort sur Gervanne, Allex, Divajeu, Saou, Suze, Upie, Pontaix, Barsac, St Benois en Diois, Aurel...
Vous avez le droit de reproduire les contenus de ce site à condition de citer la source et qu'il s'agisse d'utilisations non-commerciales
Copyleft