Une réaction en chaîne, qui aurait pu avoir des conséquences très graves, s'est déclenchée parce qu'un manipulateur a versé quelque seize kilogrammes de substance radioactive là où il n'aurait dû en mettre que deux. Une sonde s'est écrasée sur Mars parce qu'un technicien a oublié, lors de la programmation, de convertir des pieds en mètres. Des dizaines de personnes sont mortes dans un accident de chemin de fer parce que le conducteur du train, qui lui aussi est décédé, n'a pas respecté les feux de signalisation. Quel est le trait commun de ces trois événements graves qui viennent de marquer ces trois dernières semaines ? Ils ont tous trois été provoqués par une erreur humaine... Dans un même temps, des dizaines de centrales nucléaires, des centaines de satellites et des milliers de trains et d'avions ont respecté de façon " nominale " leurs programmes comme aiment le dire les spécialistes, c'est-à-dire sans l'ombre de la moindre erreur. Qu'ont en commun ces systèmes pour leur permettre d'affronter à chaque instant avec efficacité et fiabilité des situations complexes ? Ils sont tous gérés par des robots... Avant 2020, l'intelligence artificielle va prendre une telle importance dans l'environnement de chacun d'entre nous, que ce soit à la maison, au travail ou dans notre voiture, que certains observateurs se posent ouvertement la question de l'avenir en se demandant si l'homme ne va pas devenir obsolète. En inventant le premier outil, ce qui l'a profondément différencié de l'animal, l'Homme a accepté de déléguer à un objet une partie de sa force physique, de son adresse. Il en arrive maintenant à déléguer à la machine une large part de sa mémoire et de plus en plus une large capacité de décision. Certains esprits bien éclairés nous disent encore vertueusement : " mais ne craignez rien, ce ne sont que des machines, l'Homme pourra toujours les arrêter quand il le voudra... ". Or, depuis quelques temps, des scientifiques particulièrement compétents commencent à se poser la question : " Et si les robots avaient la possibilité d'accéder à la conscience ? " Ne sommes-nous pas déjà à un niveau très élaboré quand nous voyons par exemple des robots placés à plusieurs niveaux du process de décision, que ce soit pour piloter un avion ou une centrale nucléaire, refuser d'exécuter l'ordre du pilote " en chair et en os " de ces outils si cet ordre met en péril la vie d'êtres humains ou l'intégrité du système piloté ? Certes, en dernier recours, le pilote peut toujours déconnecter les robots et imposer sa décision. Mais cette faculté extrême sera-t-elle offerte à tous demain ? Dans quelques années, quand nos automobiles, par exemple, seront gérées par des automates, accepteriez-vous qu'un homme ivre puisse déconnecter son robot de surveillance parce que celui-ci vient de lui interdire de prendre le volant et partir quand même ? Toute personne sensée, pensant aux 10.000 êtres humains qui, chaque année, trouvent la mort sur les routes de France, répondrait : " Ah non, dans ce cas-là, il faut que ce soit la machine qui puisse avoir le dernier mot... " Et bien, nous pourrions déjà citer, dès aujourd'hui, des centaines de situations où l'Homme préfère faire confiance à la machine plutôt qu'à son instinct ou ses sens. Et demain, c'est dans des milliers de situations, dans tous les lieux et à de nombreux instants de notre vie que nous déléguerons une grande partie de nos décisions aux robots. Ainsi, poursuivant la longue évolution humaine (à l'échelle de la vie), nous sommes dans un processus, semblant inexorable, qui nous incite à confier de plus en plus de responsabilités à nos outils. Faut-il craindre cette évolution ? Certes, pas tant que celle-ci aura comme finalité d'améliorer la condition humaine, que ce soit en lui évitant des travaux physiques dangereux, répétitifs, abrutissants ou en lui améliorant sa santé, sa qualité de vie, sa sécurité, son efficacité, etc... Mais là où il nous faut être vigilants, c'est sur la capacité que sont en train d'acquérir toutes nos machines, de la plus petite à la plus grosse, de la plus simple à la plus complexe, de s'interconnecter entre elles en utilisant un langage unique. Ce qui leur permet de toutes se comprendre... ce que n'a pas encore su faire l'homme depuis qu'il est sur terre. Si nous ne prêtions pas garde à ce phénomène fondamental, l' " intelligence " collective de la machine pourrait dorénavant progresser plus rapidement que l'intelligence collective de l'Humanité. Si les gouvernements du Monde ne savaient pas prendre très rapidement maintenant les sauvegardes qui s'imposent pour faire face à ces grands groupes multinationaux en croissance exponentielle, qui ne sont que la forme organisée (dans le sens biologique du terme) des millions de machines qui, déjà, travaillent ensemble, alors dans quelques courtes décennies nos enfants pourraient entendre des machines qui leur diraient : " Avons-nous encore besoin des Hommes ? "
René Trégouët
Sénateur du Rhône
