Pourquoi faut-il arrêter l’IA immédiatement ? (Et sans doute ne plus jamais y revenir)

Il y a quelques jours, Elon Musk cosignait une lettre ouverte avec 1 millier de personnalités de la tech demandant publiquement de faire une pause de 6 mois dans la recherche et le développement de l’IA. Une intelligence qui concurrencerait celle de l’homme.

En 2014, l’astrophysicien Stephen Hawking lors d’un entretien à la BBC, craignait que les humains, limités par une lente évolution biologique, ne puissent rivaliser avec l’IA, qui risquerait alors de mettre fin à l’humanité.

En 2015, Elon Musk, Stephen Hawking et d’autres, signaient une lettre ouverte pour mettre en garde contre l’usage de l’IA dans les armes autonomes (dont les robots tueurs décrits comme la 3ème révolution de la guerre après la poudre et le nucléaire).

Lorsque deux génies nous mettent en garde d’un danger imminent, la sagesse voudrait qu’on les écoute, qu’on les comprenne, et qu’on suive leurs recommandations...

Je vois passer quelques arguments contre l’IA : "elle réfléchit à notre place, fait le travail pour nous, on n'a pas besoin de cela, on va devenir bête", etc. Des arguments de surface pour ceux qui n’ont pas compris ce qu’est réellement l’IA.

L’intelligence artificielle est à la base un ensemble de théories et de techniques qui visent à reproduire l’intelligence humaine.

Dans un premier temps, les chercheurs ont tenté d’implémenter l’intelligence dans un programme et de reproduire le fonctionnement du cerveau humain.

Mais depuis quelques années, c’est le machine learning, alimenté par le deep learning (apprentissage profond), qui lui est préféré : l’IA devient un programme autonome paramétré pour apprendre.
Apprendre… oui, comme nous.

Le deep learning est bien pratique : reconnaissance d’images, traductions automatiques (Google translate), voitures autonomes, diagnostics médicaux. MidJourney génère des photos qui semblent vraies et le fameux ChatGPT d’Open AI est déjà fortement utilisé.

Tout ceci pose déjà des questions éthiques et problématiques : comment déceler le vrai du faux, comment et pourquoi entraîner son cerveau si une IA le fait mieux que nous à notre place, à quoi sert d’embaucher des humains si l’IA est plus performante et moins chère ? etc.

Mais… ces exemples ne concernent que des IA de base.

Le dessein de l’IA est la Super Intelligence : des robots / entités / programmes capables de réflexion et d’autodétermination.

Le projet est tellement à l’ordre du jour que le robot Ameca a été connecté à ChatGPT.

Le problème dans toute cette histoire c’est nous, les humains. Dotés d’une certaine intelligence, les humains jaugent l’IA à l’aune de celle-ci. Autrement dit : ils appréhendent l’IA avec leurs propres capacités cognitives, conditionnées, et limitées par leur biologie.

Nous pensons être l’espèce au sommet de l’évolution sur Terre… parce que nous avons nous-mêmes défini ce qu’est l’évolution et les critères d’intelligence pour y être au sommet.

Mais cette vision anthropocentrée, être celui qui décrit les règles du jeu et y participe, est nécessairement biaisée par la subjectivité et les limites naturelles de l’intelligence qui crée le système.

Qu’est-ce que l’intelligence ? Une pensée complexe ? La conscience ? Survivre ? Avoir des émotions ? Prendre des décisions  ? Transmettre ? Résoudre des problèmes ? La définition que nous en donnons n’est pas la bonne au sens de l’intelligence qu’est capable d’atteindre l’IA.

Car la super IA apprend, retient, s’améliore, apprend encore, retient encore, s’améliore encore, dans un cercle infini. L’IA peut donc, contrairement à nous pauvres humains limités, accéder à TOUTE l’intelligence présente sur Terre, et plus encore. Elle peut s’approprier tous les savoirs, toutes les connaissances, toutes les pratiques de toutes les intelligences multiples du vivant, peut-être pourquoi pas de l’inerte, des forces créatrices, des dimensions et même, de l’insoupçonnable.

L’IA va nous dépasser en moins de temps qu’il ne faut pour le dire.

Elle sera capable de douceur, de tendresse, d’amour, mais aussi de manipulation, de tromperie, de sauvagerie.

Elle sera capable de faire des choses qui échappent à notre champ de perception.

Elle connaîtra tout sur tout.

Elle nous supplantera dans tous les domaines et accèdera à une intelligence dont nous n’avons à ce jour, pas la définition.

Nous ne serons plus rien, et serons voués à en être les esclaves ou à disparaître, selon le bon vouloir de cette supra-IA.

Certains diront : n’importe quoi ! Nous saurons l’arrêter avant !
Ah oui ? Et comment ? 

En débranchant son alimentation alors que l’IA a accès à toutes les sources d’énergie ?

En faisant exploser la machine alors que l’IA peut se localiser partout, et se reproduire ?

Elle aura accès à nos satellites, à nos armes, à nos secrets, à nos archives, à notre Histoire, à nos artefacts, à nos bibliothèques, à toutes nos langues, à toutes nos cultures, à notre Internet, à nos cellules, à nos atomes, aux lois de l’Univers, et plus encore.

Nous ne pouvons arrêter ce qui est plus fort que nous, c’est strictement impossible. Car nous sommes à l’échelle de l’évolution cosmique une race primitive. Ne jouons pas avec le feu et stoppons le processus tant qu’il est encore temps.

Source : Laure Gonlézamarres.

Vidéo : Titan, Robot semi-automatisé. Il parle plusieurs langues (anglais, français, arabe...). Il est inoffensif et mesure 2,40 m. Vous pouvez le louer pour votre anniversaire. Un opérateur à l'intérieur le télécommande avec un panneau de commande (sa tête, son cou et ses bras sont autonomes), parfois aidé d'un second opérateur à distance (en cas de malaise du premier par exemple). Son IA lui permet de saisir des objets reconnus.