Alliance Géostratégique

Cédric Monget est docteur en histoire et rédacteur du webzine Schizodoxe.com consacré essentiellement à la prospective technologique avec un inéluctable petit parfum de science-fiction. Il a rédigé une série en plusieurs volets dans la revue Défense & Sécurité Internationale (No 70, mai 2011) portant sur les interactions entre l’Homme et les intelligences artificielles dans les domaines civil et militaire. Questions et conversation avec Charles Bwele / Electrosphère.

Electrosphère : Cédric, selon vous, les machines, à force de sophistication et d’autonomie, obéiront à leur propre logique, se passeront de la décision humaine et trouveront leurs propres réponses à certains problèmes, avec le consentement tacite ou explicite de leurs créateurs biologiques. Sans pour autant verser dans des scénarios à la Terminator, une telle perspective m’inquiète un peu. Toutefois, comment les machines pourront-elles apprendre à réellement décider par elles-mêmes et pourquoi s’extirperont-elles drastiquement de leur programmatique ?

Cédric Monget : Aujourd’hui, il existe déjà des machines aptes à agir par rapport à leur environnement indépendamment de l’être humain. Certaines de ces machines ont des capacités qui dépassent celles de leurs programmateurs. Je pense, par exemple, aux logiciels de jeu d’échec.

Peut-on dire qu’elles prennent des décisions ? Sans aller de suite sur le terrain de la nature de ce qu’est une décision, on peut dire que certaines machines sont capables de percevoir le monde – au moins partiellement – d’agir sur celui-ci et de prendre en compte leurs éventuels échecs pour adapter leurs futures stratégies. Mais elle n’ont pas d’autre but que celui qu’on leur a donné. Se pose alors la question des moyens qui sont autant de buts intermédiaires. Une machine capable de faire le choix entre différents moyens pour parvenir à ses fins ne se fixe-t-elle pas elle-même des buts et donc, par là même, ne prend-t-elle pas ses propres décisions ?

Notons qu’il n’est nul besoin pour la machine de sortir du cadre de sa programmation pour prendre ses décisions, pas plus qu’un homme qui prend des décisions ne fait l’économie de ce qu’il est biologiquement, culturellement, socialement, etc. car être libre, c’est agir en conformité avec sa détermination interne dans le cadre de ce qui nous détermine de l’extérieur (pour peu qu’il y ait réellement une différence entre les deux). En revanche, il est vrai que les machines, de par l’accroissement de la complexité des programmes et de par la prise en compte d’une quantité de données toujours croissante, risquent de prendre de plus en plus des décisions imprévues.

Electrosphère : Dans la recherche en intelligence artificielle ou en nanotechnologies, on constate que des décisions complexes résultent très souvent d’une combinaison ou d’une accumulation de décisions très simples. C’est le cas par exemple de l’informatique embarquée de l’ATV, le cargo automatisé européen qui ravitaille la Station Spatiale Internationale. Au fur et à mesure de sa conception, ses ingénieurs ont également constaté qu’il pouvait largement dépasser sa seule fonction de ravitailleur, notamment dans le pilotage assisté de l’ISS, et qu’il pouvait résoudre une diversité de problèmes techniques sans la moindre intervention humaine. Sur les marchés financiers, les fameux traders algorithmiques ont à plusieurs reprises effectué des ordres d’achat ou de vente à des vitesses proprement électroniques et causé d’énormes bavures financières sans pour autant avoir été sujets à quelque bogue. Aujourd’hui, ces traders 100% techno deviennent la norme au sein des fonds de pension et des places boursières car ils traitent des giga-octets de données écofinancières en quelques centièmes de seconde pour s’ajuster au plus près des évolutions des marchés.

Dans le cas de l’ATV, le programmeur humain prévoit une multitude de scénarios ensuite laissés à la libre appréciation de la machine. Dans le cas des algotraders, c’est le décideur humain qui réalise toujours trop tard l’étroitesse de son champ de probabilités et la lenteur de ses neurones.

Dans les deux cas, c’est l’efficacité globale et perpétuellement augmentée des machines dans divers domaines qui poussera les êtres humains à leur faire aveuglément confiance, au point même de ne plus prêter attention à leurs détails techniques. Nous en avons la preuve à un degré moindre avec Windows ou Mac OS qui nous évite de plonger les mains dans le cambouis de la programmation. Par ailleurs, les cols bleus subissent de plein fouet l’automatisation des usines qui, dans certains cas n’ont même plus besoin d’éclairage du fait de l’absence d’yeux humains. Les traders, les libraires, les archivistes, les ouvriers et les pilotes de chasse, pour ne citer qu’eux, vivent très probablement leurs derniers instants. Tout se passe comme s’il n’y avait plus de destruction créatrice. Bref, la loi Moore a peut-être tué la loi de Schumpeter.

Au final, homo sapiens certes très imaginatif mais lent et émotif, ne risque-t-il pas de devenir le plus gros facteur d’inefficacité dans un immense réseau d’intelligences artificielles ? Les notions de population active et de classe moyenne auront-t-elles encore un sens dans des économies post-industrialisées où les machines surpassent l’humain ?

Cédric Monget : Les intelligences artificielles et plus généralement les intelligences collectives peuvent en effet répondre avec une efficacité étonnante et une rapidité sans égal à des situations complexes. A ce titre, l’homme en tant qu’individu peut devenir plus un obstacle qu’autre chose dans la prise de décision. Cependant, il reste celui qui donne l’impulsion originelle de ce à quoi il confie son confort voire sa vie.

La question fondamentale est de savoir à quoi aspire l’être humain. Si c’est la liberté abstraite, sans doute ne doit-il pas s’engager dans cette voie. En revanche, si c’est le bonheur matériel, la satisfaction des besoins physiques, alors le fait d’abdiquer son pouvoir de décision et de laisser les machines décider pour lui est largement acceptable. L’homme est peut-être appelé à devenir le parasite des machines comme l’évoquait Samuel Butler il y a déjà bien longtemps. Il ne serait plus l’esprit qui contrôle la main, mais le matériau manipulé par celle-ci. Néanmoins, choisir son maître relève encore du domaine de la liberté. L’homme qui déciderait librement d’obéir aux machines serait tout aussi libre que celui qui ferait une décision inverse. De plus, il est faux, je crois, d’imaginer qu’en laissant aux machines la tâche de s’occuper des contingences matérielles, l’homme cesserait d’être libre.

Prenons le cas des sociétés anciennes. Je songe à Rome en particulier. Là, les «  esclaves  » décidaient, de par leur existence même, de bien des choses. Ils imposaient le système économique, par exemple. Le citoyen «  libre » renonçait à bien des «  libertés  », mais jouissait en échange de la seule liberté qui comptait vraiment dans cette société, celle de se livrer à l’otium, à l’oisiveté studieuse. Bien sûr, une large partie de la population de Rome ne profitait du système esclavagiste que sous la forme du pain et des jeux gratuits, ces derniers étant une variante infiniment vulgaire de l’authentique otium. Mais voulait-elle plus ? Je ne le crois pas.

On peut imaginer aller vers une société analogue. Les machines, permettant à la population humaine dans son ensemble d’avoir à se soucier assez peu des questions de subsistance, laisseraient ainsi le temps à la majorité de s’abrutir et à l’élite de lire, d’écrire, de penser et de rêver aux évolutions futures. Car le propre de l’élite – en Occident du moins – est de contester les rapports de force qui rendent possible son existence même. Elle voudra donc échapper aux machines à qui elle devra tout. Il est donc possible que cet âge des machines ne soit qu’un moment dans l’histoire humaine. A moins que les machines ne l’emportent définitivement en suppriment l’élément humain.

Dans Les particules élémentaires, Houellebecq a très bien su dire comment l’homme aime à se mentir. Le dégoût proclamé pour le monde décrit par Huxley dans Brave New World cache en fait le désir profond d’y vivre. Ce qu’Aldoux Huxley décrivait comme atteignable par les moyens de l’eugénisme pourrait l’être par ceux de la robotisation (l’un n’étant pas exclusif de l’autre). Un monde stratifié qui satisfait presque tout le monde et qui fait de ses insatisfaits son élite.

Mais comme souvent, les hommes croient vouloir autre chose que ce qu’ils veulent vraiment.

Electrosphère : Le progrès technologique semble aller de pair avec cette idée d’une population humaine débarrassée des tâches plus ou moins ingrates et de la quête de subsistance. Or, tout semble indiquer le contraire.

Depuis les années 70, les économies occidentales ont certes largement profité des effets combinés de la globalisation et de l’automatisation mais leurs populations actives sont de plus en plus victimes de ces mêmes phénomènes. Après les Trente Glorieuses, les chiffres du chômage et de la pauvreté n’ont cessé d’augmenter dans les pays du G7. Aujourd’hui, nous ne sommes plus dans les prévisions mais dans des faits observables au quotidien : en Amérique du nord et en Europe, le « quart-monde » explose.

Est-ce simplement du à la concurrence des pays émergents ? Est-ce une manifestation de ce « choc du futur » si cher à Alvin & Heidi Toffler ? Pourquoi les pays occidentaux peinent-ils autant à adapter le plus grand nombre à l’ère de l’information et de la robotique ? Pourquoi est-ce nettement plus compliqué – pour les états comme pour les individus – qu’à l’ère industrielle ?

Cédric Monget  : Le « quart-monde » explose et le tiers-monde s’importe. Le choix de l’Occident de ne pas s’engager dans la voie de la robotisation est un choix politique. Le Japon est la Corée du Sud, que l’on peut rattacher à l’Occident politique et économique, ont fait un choix différent. L’alternative est simple : robotisation ou immigration. Nous avons choisi, en Europe et aux Etats-Unis, l’immigration; le Japon et la Corée du Sud ont choisi la robotisation afin de ne pas affaiblir leurs structures culturelles et civilisationnelles par l’arrivée massive de gens appartenant à d’autres cultures et à des civilisations différentes. C’est pour cela, d’ailleurs, que dans ces deux pays, des progrès techniques révolutionnaires se produisent sans remettre en cause, pour l’essentiel, la tradition.

L’immigration avait clairement des avantages. Elle offrait une main-d’œuvre bon marché, immédiatement disponible, ne nécessitant pas des années de recherche et développement ou des investissements considérables. De plus, accueillir cette immigration donnait à l’Europe l’impression de régler une dette qu’elle croyait avoir envers ses anciennes colonies.

L’immigration avait aussi un inconvénient : elle ne peut varier qu’en quantité, pas en qualité. Un immigré aussi bien formé que possible, n’est jamais qu’un homme compétent. Les machines étaient, hier, moins efficaces et plus chères que la main d’œuvre humaine, mais une machine peut toujours s’améliorer. Un homme, immigré ou pas, là n’est plus la question, ne sera jamais qu’un homme – du moins, en attendant que les barrières morales tombent et que l’on passe à l’amélioration génétique des êtres humains. Mais une machine, elle, peut toujours se dépasser, devenir plus rapide, plus précise, plus sûre, moins chère…

Il y a aussi un vieux fond luddite et une approche de l’économie qu’illustre assez bien l’instauration des 35 heures en France. S’il est déjà considéré comme justifié de partager le travail disponible, réduire ce dernier en en confiant une partie aux machines ne peut apparaître autrement que comme une aberration.

Arrivée au point où nous en sommes aujourd’hui, la robotisation de la société apparaîtrait aux yeux d’une partie des Européens récents ou non comme une sorte d’acte de guerre. Ces Européens verraient la robotisation comme un moyen de ne plus avoir besoin d’eux et de mettre un terme à une migration qui n’est plus jugée comme utile économiquement, mais comme nécessaire moralement par à peu près tout le monde.

Le parallèle avec le pétrole est intéressant. Faisons un peu de science-fiction. Imaginons que, demain, on découvre une énergie renouvelable peu onéreuse, rapide à produire, non polluante et pouvant se substituer, sans inconvénient, au pétrole dans tous ses usages. Que se passerait-il ? Peut-on concevoir une seule seconde que l’on dirait aux pays producteurs de pétrole  : « désolé les gars, on ne vous achète plus rien »  ? Non, il est évident que cela provoquerait des réactions d’une violence extrême. En d’autres termes, l’Occident a besoin de sa dépendance pétrolière pour éviter d’être confronté à son incapacité à répondre à la violence.

Il en va de même des robots. La robotisation massive, avec des machines bien plus évoluées que celles qui existent aujourd’hui, mettrait au moins provisoirement au chômage une large part des populations les moins qualifiées – un cas récent et symptomatique : le « robot vendangeur » – mais pas seulement elles. Certes, à long terme, cette robotisation débouchera certainement sur une augmentation générale du niveau de vie, mais aussi du confort, de la sécurité, etc. Cependant, à court terme, cela plongerait des pays qui n’ont pas fait ce choix au moment crucial dans le chaos.

L’autre problème est que la société robotisée serait une société extrêmement stratifiée avec du pain et des jeux pour la masse et l’otium pour l’élite. Or, une telle vision inégalitaire est insoutenable, aujourd’hui, presque partout en Occident. La Corée du Sud et le Japon avec leur forte tradition de stratification sociale sont bien plus adaptées à une telle évolution, d’autant que le processus est entamé chez eux depuis longtemps, qu’il se produit dans des pays homogènes et que la tradition bouddhiste se prête assez bien à l’acceptation des machines comme acteurs de la société.

Electrosphère : En effet, la science-fiction japonaise ou coréenne produit essentiellement une vision d’homme fusionnant avec la machine, contrairement au cinéma américain plus orienté vers le duel homme-machine. Pour caricaturer, je dirais que l’Occident est plutôt Terminator ou Matrix alors que l’Asie est plutôt Ghost in the Shell. Leurs histoires et leurs mises en scène respectives révèlent bel et bien les rapports de chaque culture avec la technologie.

Au fait, quels sont vos livres et films préférés de science-fiction ou d’anticipation ? Pour ma part, j’adore les oeuvres d’Isaac Asimov et de Tom Clancy. Côté films, j’en ai déjà évoqué quelques uns dans cet entretien mais j’ajouterais Soleil Vert, Mad Max, Brazil, Metropolis, Blade Runner et l’excellent Inception. J’épouserais bien le Cylon Numéro 6 de la très accrocheuse série télé Battlestar Galactica…

Cédric Monget  : Des livres, des films, il y en a tant… Parmi ceux que vous citez, je tiens tout particulièrement à Ghost in the Shell et à Innocence (Ghost in the Shell 2) tous les deux de Mamoru Oshii. Comme nous sommes sommes sur Internet, au lieu d’un long discours, il vaut mieux quelques images qui disent presque tout ce que je crois et tout ce que j’espère encore.

Et du coup, en guise de livres de science-fiction, si je peux évoquer L’Eve future de Villiers de l’Isle-Adam, c’est surtout, et bien qu’ils ne paraissent pas s’inscrire dans ce genre littéraire (mais est-ce si sûr ?), Descartes et La Mettrie, peut-être Diderot aussi, dont je veux citer les noms. J’invite chacun à relire ces auteurs non à la lumière de leur contexte de rédaction, mais à celle des quelques mots qui ont été dits…

Propos recueillis par Charles Bwele, Electrosphère